Una informàtica de Northwestern defensa que verificar un resultat amb IA no equival a generar coneixement científic
Jessica Hullman, professora d'informàtica a la Universitat Northwestern, sosté en un assaig que la ciència no es redueix a acumular respostes correctes. Segons ella, el coneixement depèn d'algú que pugui explicar un resultat, defensar-lo davant les crítiques i corregir-lo quan falla, una funció que la IA encara no assumeix.
En un assaig publicat pel Cosmos Institute, Jessica Hullman critica la idea que la IA pot fer avançar la ciència només amb proves verificables i resultats correctes. Segons Hullman, aquesta visió hereta l'«ideal lliure de valors» de la postguerra, que pretenia substituir la confiança en les persones per la confiança en els procediments.
L'autora recorda el problema que ha detectat arXiv, el repositori d'articles científics, amb treballs signats per autors que no semblen capaços d'entendre'n les afirmacions. Si ningú pot explicar en què es basa un resultat, ningú pot respondre quan és qüestionat, i es perd la crítica que, segons la filòsofa Helen Longino, sosté l'objectivitat científica.
Hullman admet que es podrien desenvolupar agents d'IA que responguin de les seves afirmacions, però avisa que no n'hi hauria prou: també calen persones capaces d'avaluar-los. Si la IA tria els problemes i dona les respostes, aquestes capacitats humanes es poden perdre per manca d'ús.