DeepMind revoluciona la seguridad: IA verifica el código de Signal en semanas, un hito que antes tomaba años

Representación abstracta de código binario con elementos de IA y seguridad

Google DeepMind ha anunciado un hito significativo en la seguridad del software: sus agentes de inteligencia artificial han logrado demostrar matemáticamente que partes cruciales del protocolo de cifrado de Signal funcionan como se espera. Este avance, que protege las comunicaciones privadas en Signal y Google Messages, y que además sustenta el cifrado de WhatsApp, representa un salto cualitativo en la garantía de seguridad del código.

La verificación formal, un proceso que emplea principios matemáticos para asegurar el comportamiento deseado del software, se considera la garantía de seguridad más robusta disponible. Sin embargo, su aplicación tradicionalmente ha sido un proceso arduo y prolongado, a menudo limitado a la fase de diseño del protocolo. DeepMind afirma haber superado esta barrera, logrando verificar la implementación real del código, que es donde suelen residir los errores prácticos.

AlphaProof Code: La sinergia entre IA y humanos

El sistema empleado, denominado AlphaProof Code, es un marco avanzado que integra diversos modelos de IA con la supervisión experta de investigadores humanos. El proceso implicó la traducción de los objetivos de seguridad de Signal a especificaciones formales, validadas por expertos. Posteriormente, los agentes de IA, impulsados por Gemini Carbon, generaron más de seis millones de líneas de código en Lean, un lenguaje diseñado para la verificación automática de pruebas.

Una faceta destacada de este método es la autoevaluación de los agentes de IA, quienes identificaron aproximadamente el 1% del código que requería una revisión humana adicional. Este exhaustivo proceso se completó en cuatro semanas, una fracción del tiempo que históricamente demandaría a equipos de especialistas.

Más allá de la verificación: detección de errores y limitaciones

Si bien el análisis no reveló nuevas vulnerabilidades en las partes de Signal examinadas, su capacidad para detectar fallos se puso a prueba. El equipo reintrodujo deliberadamente dos errores previamente corregidos en una versión aislada del código de Signal. En ambos escenarios, el sistema de DeepMind generó pruebas verificadas por máquina que demostraban la inseguridad de las versiones con errores, validando así su eficacia en la identificación de debilidades.

Es importante señalar que el proyecto no abarcó la totalidad de la aplicación móvil de Signal. La Signal Foundation ya había realizado trabajos previos de verificación formal en porciones más pequeñas del código. El enfoque de DeepMind, según Ehren Kret, director de tecnología de Signal, permite una expansión significativa de estas verificaciones, otorgando una mayor confianza en las garantías de privacidad ante el creciente panorama de amenazas impulsadas por la IA.

El futuro de la verificación formal con IA

Los investigadores de DeepMind expresan la necesidad de mantener un equilibrio, evitando un escenario donde la IA genere tanto los objetivos de seguridad como las pruebas. La intervención humana en la revisión de especificaciones y secciones críticas del código sigue siendo fundamental. Quedan por determinar la escalabilidad de este método y su coste asociado, así como el alcance exacto que podrá tener en futuras auditorías de seguridad de software a gran escala.

Fuente: Ver artículo original