La superintelligenza fa paura anche a chi la costruisce
di Bianca Ricci
Jacob Coxon, un ricercatore di Anthropic, si è dimesso martedì 8 settembre denunciando pubblicamente i rischi della corsa alla superintelligenza. Negli ultimi tre anni ha lavorato nel cuore più delicato dell’intelligenza artificiale: il pretraining dei modelli più potenti al mondo. In una serie di post su X ha accusato entrambe le aziende di non agire in modo responsabile, sostenendo che chi sviluppa questa tecnologia crede veramente che potrebbe ucciderci nel giro di dieci anni.
Cosa dice Coxon
Il messaggio di Coxon non lascia molto spazio alle interpretazioni. I laboratori di intelligenza artificiale più avanzati al mondo starebbero correndo dritti verso una superintelligenza auto-migliorante, giocando con le vite di tutti. Secondo il ricercatore, chi costruisce questa tecnologia non ne parla in pubblico con la stessa franchezza con cui ne discute in privato: nelle conferenze stampa si usano parole caute accuratamente selezionate, mentre a porte chiuse la paura sarebbe decisamente più concreta. E il cuore della sua accusa è proprio questa dissonanza tra dirigenti che conoscono i rischi ma vanno avanti comunque a spada tratta.
Coxon prova a rendere la minaccia più tangibile parlando di sistemi sovraumani capaci, nel prossimo futuro, di violare qualsiasi sistema informatico, ribaltare interi settori economici nel giro di poche ore e accumulare potere e risorse reali. Ha inoltre citato una presunta violazione di sicurezza che avrebbe coinvolto agenti di OpenAI e Hugging Face, definendola un “colpo di avvertimento”, e ha chiesto un coordinamento tra i laboratori di IA insieme a una pausa temporanea sul potenziamento delle capacità dei modelli.
Il paradosso Anthropic
C’è un elemento che rende la vicenda particolarmente isolata per Anthropic: l’azienda ha costruito gran parte della propria identità pubblica proprio sulla sicurezza dell’intelligenza artificiale, presentandosi come il laboratorio più attento ai rischi del settore. Le dimissioni di un suo ricercatore, con toni così allarmati, arrivano peraltro in un momento particolarmente delicato. Anthropic si sta preparando a una IPO che potrebbe portare la sua valutazione fino a mille miliardi di dollari. Il contrasto tra l’immagine di cautela coltivata dall’azienda e l’acusa di un suo ex dipendente di “giocare d’azzardo” con il futuro dell’umanità è difficile da ignorare.
Non si tratta, comunque, di un caso isolato. Coxon non è infatti il primo dipendente a lasciare un grande laboratorio statunitense di intelligenza artificiale citando preoccupazioni legate alla sicurezza. Il suo addio si inserisce in una tendenza più ampia, che segnala un allarme crescente tra i ricercatori del settore riguardo alla potenza dei sistemi che stanno contribuendo a costruire. Un allarme che, secondo diverse testimonianze, circolerebbe più nei corridoi dei laboratori che nelle dichiarazioni ufficiali.
Non tutte le affermazioni di Coxon, comunque, trovano riscontro univoco. Se è documentato che diversi vertici di Anthropic, a partire dal fondatore Dario Amodei, abbiano più volte messo in guardia pubblicamente sui rischi di un’IA sempre più potente, resta più difficile verificare l’affermazione più generale del giovane, secondo cui chi sviluppa un’intelligenza artificiale crederebbe diffusamente che la tecnologia possa portare all’estinzione dell’umanità entro il 2030. È una differenza non da poco: dalle preoccupazioni dichiarate pubblicamente da alcuni dirigenti a una convinzione condivisa e taciuta da un intero settore, il passo logico è ampio.
Perché questa storia conta?
Al di là del singolo caso, le dimissioni di Coxon riaccendono un dibattito che negli ultimi anni non si è mai davvero spento: quanto siano affidabili le stesse aziende che sviluppano l’intelligenza artificiale nel valutare i pericoli di ciò che stanno costruendo, e quanto la corsa competitiva tra i grandi laboratori rischi di mettere in secondo piano le cautele necessarie.
Un dibattito che, complice una vicenda dai toni quasi cinematografici, difficilmente resterà confinato agli esperti del settore.
