La Inteligencia Artificial.

Un informe encargado por el Departamento de Estado de EE. UU. alerta sobre los riesgos existenciales que plantea el avance descontrolado de la Inteligencia Artificial (IA).

Expertos en tecnología de la empresa Gladstone han emitido una advertencia alarmante sobre los peligros potenciales de la Inteligencia Artificial en un informe encargado por el Departamento de Estado de los Estados Unidos. Según el informe, si no se toman medidas rápidas y decisivas, la humanidad corre el riesgo de enfrentarse a una amenaza similar a la de las armas nucleares.

El estudio, titulado «Un plan de acción para aumentar la seguridad y la seguridad de la IA avanzada», se basa en entrevistas con más de 200 empleados gubernamentales y expertos en IA de empresas líderes del sector, como Meta, OpenAI y Google DeepMind. Los investigadores encontraron una preocupación generalizada sobre las posibles consecuencias negativas del avance descontrolado de la IA.

Entre las preocupaciones expresadas se encuentran las posibles «metas perversas» de los ejecutivos al desarrollar esta tecnología, que podrían desestabilizar la seguridad global de manera similar a la introducción de armas nucleares.

El informe también destaca la falta de regulación en el desarrollo y la aplicación de la IA, lo que ha permitido a las empresas tecnológicas avanzar rápidamente en la creación de sistemas más poderosos.

Una encuesta realizada por el Instituto de Política de IA reveló que el 80% de la población estadounidense teme que la IA pueda llevar a una catástrofe, y el 77% está a favor de una regulación más estricta por parte del gobierno.

El informe ofrece una serie de recomendaciones para abordar estos riesgos, que incluyen establecer límites a la potencia de cálculo utilizada para el entrenamiento de modelos de IA, imponer sanciones legales por exceder estos límites y aumentar la financiación para la investigación sobre la seguridad de la IA.

Aunque el Departamento de Estado aún no ha emitido comentarios sobre estas recomendaciones, la advertencia de los expertos subraya la urgencia de abordar los riesgos asociados con el avance de la IA. La adopción de medidas regulatorias y de seguridad se presenta como una necesidad imperativa para evitar posibles consecuencias devastadoras para la humanidad.