La Inteligencia Artificial y el Eco del Apocalipsis: Dos Décadas de Advertencias
La noción de que la inteligencia artificial podría representar una amenaza existencial para la humanidad ha resonado durante al menos dos décadas. Aunque hoy en día asociamos estas preocupaciones con modelos como ChatGPT o Claude, las advertencias sobre un posible descontrol de la IA son considerablemente más antiguas y han sido formuladas por figuras clave del sector tecnológico.
Estas inquietudes no son un fenómeno reciente. Los precursores del movimiento conocido como 'AI doom' han estado publicando advertencias similares durante más de diez años, captando progresivamente una mayor atención mediática y pública.
Los Orígenes del Movimiento 'Doomer'
Los cimientos de lo que hoy conocemos como seguridad de la IA se gestaron mucho antes de la aparición de las grandes empresas de IA actuales. El Machine Intelligence Research Institute (MIRI), fundado en el año 2000, comenzó a centrar su enfoque en los riesgos existenciales derivados de la IA a partir de 2005.
Un hito importante fue la cofundación de LessWrong en 2009 por Eliezer Yudkowsky, uno de los miembros del MIRI. Esta comunidad virtual se convirtió en un punto de encuentro para debates sobre la amenaza de la singularidad tecnológica, fusionando conceptos del transhumanismo y del altruismo eficaz. La convergencia de estas ideas generó una visión particular: la IA inevitablemente superaría a la inteligencia humana, y su desarrollo no alineado con los objetivos humanos podría poner en peligro nuestra supervivencia.
Primeros Ecos en la Élite Tecnológica
Estas ideas no pasaron desapercibidas para las figuras más influyentes del ámbito tecnológico. Personalidades como Elon Musk realizaron significativas donaciones, como los 10 millones de dólares en 2015 destinados a la investigación en IA segura. Fue también en 2015 cuando Musk, junto a otras figuras como Demis Hassabis (DeepMind), Geoffrey Hinton, Yann LeCun, Ilya Sutskever, Steve Wozniak y Stephen Hawking, firmaron un manifiesto a través de la organización Future of Life. Este documento instaba a una mayor investigación en seguridad de la IA, subrayando la necesidad de que estos sistemas cumplan con las intenciones humanas.
Por su parte, Bill Gates también expresó su preocupación en aquel entonces sobre la potencial creación de una superinteligencia, anticipando que, si bien las máquinas inicialmente aliviarían la carga laboral, décadas después su potencia podría convertirse en una fuente de inquietud.
El Resurgimiento del Catastrofismo Post-ChatGPT
Tras un período de menor efervescencia en las advertencias sobre la IA, el discurso 'doomer' experimentó un notable resurgimiento en 2023. Este renacimiento coincidió con el desarrollo acelerado de la IA y la publicación de GPT-4, lo que impulsó la difusión de dos cartas abiertas alertando sobre los peligros inherentes a esta tecnología.
Fuente: Ver artículo original