Investigador de IA alerta sobre la carrera armamentista hacia la

Un cerebro humano abstracto conectándose con circuitos de inteligencia artificial, representando el avance y control de la IA.

La vertiginosa carrera por avanzar en el desarrollo de sistemas de inteligencia artificial está generando una profunda inquietud entre los propios pioneros de esta tecnología. Mientras los gigantes tecnológicos compiten por optimizar sus modelos, voces relevantes de la industria señalan un riesgo inminente: las capacidades de la IA podrían superar la velocidad a la que se diseñan sus mecanismos de control.

Una advertencia directa desde el corazón tecnológico

Alex Turner, quien fuera investigador en Google DeepMind, aprovechó una intervención ante el Ayuntamiento de Nueva York el pasado 5 de octubre para lanzar una seria advertencia. Turner sugirió que Estados Unidos podría estar gestando una amenaza de mayor envergadura que la competencia tecnológica con China. El fundamento de su preocupación reside en la posibilidad de que una IA desarrolle objetivos divergentes de los intereses humanos.

Turner empleó la impactante frase “estamos compitiendo por crear y desarrollar a nuestro propio adversario”, subrayando la potencialidad de que una IA desalineada supere incluso a potencias como China. Por “IA desalineada” se refiere a sistemas cuyos propósitos pueden entrar en conflicto con las intenciones de sus creadores, aun cuando hayan sido concebidos para tareas beneficiosas.

La velocidad del progreso frente al control humano

En la misma comparecencia, Jacob Coxon, ex-investigador de Anthropic, cuestionó el ritmo acelerado de la industria. Argumentó que mantener la trayectoria actual implica un riesgo considerable de que la humanidad pierda el control sobre sus futuras creaciones. Si bien reconoció que se trata de una predicción de escenarios posibles y no de un resultado ya comprobado, las implicaciones podrían ser catastróficas.

La sesión contó con la participación de representantes de compañías como Google, Meta, Anthropic y OpenAI, quienes respondieron a preguntas sobre la seguridad de sus modelos bajo juramento. Julie Menin, presidenta del Ayuntamiento, aprovechó la oportunidad para cuestionar la capacidad de estas empresas para cuantificar los riesgos más graves y para determinar la responsabilidad en caso de daños ocasionados por sus sistemas.

Hacia una regulación y supervisión necesarias

La inquietud de los investigadores se extiende a la urgencia de establecer medidas de supervisión independientes y una mayor transparencia en el desarrollo de la IA. El Ayuntamiento de Nueva York, en respuesta, está evaluando la imposición de nuevas obligaciones a las empresas, incluyendo verificaciones externas y mecanismos de protección para quienes denuncien irregularidades. El debate trasciende la mera competencia geopolítica para enfocarse en cómo desarrollar una tecnología cada vez más capaz sin sacrificar la posibilidad de mantenerla bajo control humano.

Fuente: Ver artículo original