Un grupo de científicos, ejecutivos de tecnología, políticos y laureados con el Nobel lanzó un llamado global para regular la inteligencia artificial. La iniciativa busca establecer límites claros al uso de esta tecnología avanzada. Más de 200 figuras prominentes, incluidos 10 ganadores del premio Nobel, firmaron la carta que se publicó durante la sesión de la Asamblea General de la ONU en Nueva York. Entre los firmantes se encuentran expertos de gigantes de la IA como Anthropic, Google DeepMind, Microsoft y OpenAI, quienes advirtieron sobre los riesgos crecientes de la tecnología.
En el documento, los expertos destacan que la IA posee un potencial enorme para mejorar la vida humana, pero que su desarrollo acelerado también presenta peligros sin precedentes. Según el texto, algunas aplicaciones de la inteligencia artificial podrían ser tan riesgosas que requerirían prohibiciones internacionales bajo cualquier circunstancia. Entre los ejemplos citados, se incluyen el uso de sistemas de IA para comandar arsenales nucleares o la implementación de armas autónomas letales, consideradas inaceptables por los firmantes.
Los autores de la carta también señalaron la preocupación por el uso de la IA en vigilancia masiva, puntuación social, ciberataques y suplantación de personas, lo que podría derivar en violaciones sistemáticas de derechos humanos. Ante esta amenaza, los firmantes instaron a los gobiernos a definir líneas rojas claras antes del próximo año, para evitar consecuencias devastadoras asociadas con la falta de regulación. Además, subrayaron la importancia de la colaboración internacional, destacando que los acuerdos entre líderes mundiales son esenciales para garantizar un marco regulatorio efectivo y seguro.
Lea también: Meta lanza sus nuevas gafas inteligentes con visión al metaverso
Riesgos y desafíos de la inteligencia artificial
La carta advierte que la IA podría superar rápidamente las capacidades humanas y generar riesgos de gran escala, como pandemias diseñadas, desinformación generalizada y manipulación masiva de la información. Los expertos enfatizan que estos peligros no son hipotéticos, sino consecuencias plausibles si el desarrollo de la IA continúa sin controles y supervisión global. La propuesta de establecer líneas rojas internacionales busca prevenir un escenario en el que la tecnología genere daños irreversibles para la humanidad.
Los firmantes concluyen que, aunque la IA ofrece oportunidades para el progreso humano, su uso descontrolado podría representar amenazas existenciales. Por ello, insisten en que los gobiernos actúen con rapidez y responsabilidad, estableciendo marcos legales y éticos sólidos que protejan a la sociedad de posibles abusos tecnológicos.
Meta excluye a Europa de sus nuevos modelos de IA generativa
