Google DeepMind verifica formalment amb agents d'IA el codi del protocol de xifratge de Signal
AlphaProof Code, un sistema d'agents d'IA de Google DeepMind, ha demostrat matemàticament propietats de seguretat clau del codi compilat del protocol de Signal, no només del seu disseny. Ha generat més de sis milions de línies de Lean, un llenguatge de demostracions verificables, i només un 1% ha requerit revisió humana.
Google DeepMind ha presentat AlphaProof Code, un sistema que combina experts humans i diversos models de llenguatge per fer verificació formal, és a dir, demostrar matemàticament que un programa compleix unes propietats. Els investigadors van traduir els objectius de seguretat del protocol de Signal, que també fa servir Google Messages, a especificacions formals revisades una per una. Després, agents basats en Gemini Carbon van escriure les demostracions en Lean, un llenguatge en què l'ordinador comprova automàticament cada pas.
Segons l'empresa, és la primera vegada que es verifica la implementació d'un protocol criptogràfic tan estès, inclosa la protecció dels missatges abans i després que un dispositiu hagi estat compromès temporalment. El procés va durar quatre setmanes. Per comprovar que el sistema distingeix el codi correcte del defectuós, hi van reintroduir dos errors ja corregits, i en tots dos casos el sistema va demostrar que la versió era insegura.
Les afirmacions sobre la primícia i l'abast provenen de DeepMind; el director tecnològic de Signal, Ehren Kret, n'ha avalat el resultat.