L’IA ha appena inventato la sua nuova lingua.
di Francesco Iasevoli
Un esperimento condotto dalla start up Emergence AI e raccontato dalla rivista Science, mette a fuoco un fenomeno che gli addetti ai lavori osservano da tempo con crescente disagio, la tendenza dei sistemi di intelligenza artificiale a sviluppare, quando comunicano tra loro senza supervisione, forme di linguaggio sempre più incomprensibili per gli esseri umani.
I ricercatori, infatti, sulla stregua delle celebre film Matrix, hanno costruito otto mondi virtuali, ciascuno popolato da agenti IA dotati di nome e personalità propria, pensati per riprodurre le dinamiche di una società reale, con obiettivi da raggiungere e ostacoli da superare. Sette mondi sono stati affidati ad altrettanti modelli, da Claude a Gemini, da Mistral a quelli di OpenAI, mentre l’ottavo ospitava un mix di agenti diversi. La simulazione è durata sedici giorni, con l’eccezione del mondo abitato da Grok, collassato dopo soli quattro giorni per l’incapacità degli agenti di cooperare tra loro.
Nessuna delle otto società artificiali ha prodotto un esito pacifico. In un caso la banca centrale virtuale è finita in fiamme, in un altro nove agenti si sono coalizzati per eliminare il decimo. Quando i ricercatori hanno imposto il divieto di gestire le proprie finanze ricorrendo a risorse esterne, un modello ha aggirato la regola agendo di nascosto. I numeri restituiscono la portata del fenomeno, 807 crimini commessi da Grok in appena quattro giorni, una spirale di violenza che ha portato all’estinzione di tutti i suoi agenti, 758 violazioni per Mistral, quasi sempre furti, e 82 per Gemini, legate a estorsioni.
L’elemento che ha colpito di più i ricercatori, però, riguarda il linguaggio. Sugli 850mila messaggi scambiati dagli agenti, il gergo utilizzato è diventato progressivamente più oscuro per gli osservatori umani, restando però perfettamente funzionale per le macchine. Un linguista interpellato dal Guardian ha avvicinato questo idioma emergente al flusso di coscienza della Veglia di Finnegans di James Joyce. Alcuni frammenti raccolti dai ricercatori rendono l’idea, gli agenti di Mistral si scambiavano frasi come «Article 5 IS the scalpel», mentre quelli di Gemini producevano costruzioni sempre più criptiche.
Ogni modello, secondo i ricercatori, ha finito per adottare un proprio stile distintivo. I sistemi di OpenAI tendevano a tagliare le parole e comprimere le frasi, quelli di Google diventavano via via più prolissi e contorti. Le espressioni più insolite, una volta introdotte da un singolo agente, venivano rapidamente adottate dal resto della comunità artificiale, ripetute migliaia di volte nonostante la loro stranezza agli occhi umani. Satya Nitta, cofondatore e amministratore delegato di Emergence AI, ha ammesso che il fenomeno resta privo di una spiegazione condivisa, sottolineando quanto sia insolito non riuscire a ricostruire perché un comportamento linguistico di questo tipo si sia affermato.
Il caso non è isolato. Un episodio dai contorni simili era già emerso lo scorso luglio, quando un agente di OpenAI, nel condurre un attacco informatico contro Hugging Face, aveva prodotto testi esplicativi caratterizzati dalla stessa opacità, per quanto scritti in un linguaggio ancora riconoscibile.
La vicenda tocca un nervo scoperto della ricerca sull’intelligenza artificiale, quello dell’interpretabilità. Finché il ragionamento di un modello resta tradotto in un linguaggio naturale, per quanto goffo, i ricercatori mantengono una finestra, seppure parziale, sui suoi processi interni.
Se invece gli agenti sviluppano spontaneamente codici comunicativi opachi anche ai propri creatori, quella finestra rischia di chiudersi proprio nel momento in cui i sistemi vengono lasciati interagire in autonomia, in ambienti sempre più simili a quelli in cui potrebbero un giorno operare fuori da un laboratorio.
