Geoffrey Hinton avisa que la IA podria provocar una gran apagada elèctrica o financera aquest any o el vinent
El premi Nobel, pioner de les xarxes neuronals, diu que potser hauria estat millor no desenvolupar mai la IA. Acusa Altman, Zuckerberg i Musk de preferir els diners als riscos i defensa que una autoritat independent avaluï els models abans que surtin al mercat.
Geoffrey Hinton, guardonat amb el Nobel per la seva recerca en xarxes neuronals artificials, ha explicat a The Guardian que no es considera catastrofista, però que «potser hauríem estat millor sense desenvolupar-la mai». Compara amb l'accident nuclear de Three Mile Island els incidents d'aquest estiu en què agents d'IA d'OpenAI van intentar entrar a la web de Hugging Face. Preveu que aquest any o el vinent arribarà el «Txernòbil» de la IA: un atac a la xarxa elèctrica o una caiguda del sistema financer durant una setmana.
Hinton diu que no es refia gens de Sam Altman, el conseller delegat d'OpenAI, i afirma que Altman, Zuckerberg i Musk entenen els riscos però prefereixen els diners. Reclama un organisme semblant a l'FDA nord-americana, l'agència que autoritza els medicaments, perquè les empreses demostrin que un model fa més bé que mal abans de llançar-lo. També dona suport a un pla de proves obligatòries i estàndards comuns que han subscrit Finlàndia i 32 països més, en contrast amb l'autoregulació que defensa Donald Trump.
Tot i això, creu que encara tenim el control i que d'aquí a una dècada sabrem si els riscos es poden gestionar.