Un exenginyer de Stripe alerta que substituir professionals experimentats per IA generativa fa més fràgils els sistemes complexos
Justin Michael sosté que la banca, el trànsit aeri i moltes aplicacions funcionen gràcies a persones que els coneixen a fons i s'hi impliquen. Atribueix una sèrie d'apagades recents a la seva marxa, tot i que admet que no té informació interna que ho demostri.
En un article d'opinió al seu blog VioletPixel, Justin Michael, que va treballar a Stripe, posa com a exemple l'ACH, el sistema de transferències bancàries dels Estats Units: és antic, ple de defectes i d'herència tècnica, però funciona perquè hi ha persones que el coneixen a fons i el corregeixen, l'esquiven o el gestionen a mà quan cal.
Segons l'autor, la direcció de moltes empreses creu que la IA generativa pot oferir el mateix resultat a un cost més baix. Això ha portat a acomiadaments i ha convertit els professionals que queden en supervisors de models de llenguatge, cosa que els allunya del coneixement directe dels sistemes. Defensa que la IA no detecta anomalies, no resol casos límit i no s'implica com ho fa una persona.
Michael relaciona aquesta tendència amb fallades recents a Microsoft 365, al control aeri, a United Airlines, a la xarxa de l'NSA i a diversos bancs. Tanmateix, reconeix que no té informació interna i que oficialment s'ha negat que tinguin relació entre si o amb la IA.