La disinformazione può sorriderti e chiamarti per nome
di Margherita Coletta
Nell’elenco delle cose più antiche del mondo, che si sono evolute nel tempo, adattandosi di volta in volta a nuove circostanze e modalità, vi sono certamente le fake news o, in generale, i pericoli che conseguono ad un’informazione poco pulita e verificata, che non hanno mai smesso di trarre in inganno i vari ricettori di notizie nei secoli. Per avere un’idea dei rischi di un’informazione manipolata, guardiamo alle elezioni legislative che si stanno svolgendo in questi giorni in India, la più grande democrazia del mondo. Da venerdì 19 aprile, infatti, sono iniziate le elezioni democratiche: quasi un miliardo sono le persone chiamate alle urne. Le votazioni si articoleranno nell’arco di sei settimane e termineranno il primo giugno, alla fine delle quali saremo a conoscenza del futuro governatore indiano nei prossimi cinque anni. L’attuale premier è Narendra Modi, esponente del partito conservatore BJP (Bharatiya Janata Party) e al potere dal 2014, che spera in una nuova elezione per dare una svolta nazionalistica al Paese. La campagna elettorale indiana si è giocata ampiamente sull’utilizzo di nuove tecnologie, prima tra tutte l’intelligenza artificiale. È divenuto virale un video del primo ministro generato proprio dall’IA e condiviso durante i giorni di campagna elettorale in gruppi Whatsapp indiani. Nel video, esplicitamente contrassegnato da un’etichetta che recita «Generated by A.I.», Modi si rivolge ad una serie di elettori chiamandoli direttamente per nome. Insieme a lui, altri video hanno iniziato a circolare nelle chat degli elettori indiani, in cui i vari operatori del premier si mettono in contatto direttamente con questi ultimi. Questo è solo uno dei tanti episodi in cui la tecnologia è stata messa a disposizione della campagna elettorale indiana, con utilizzi spesso poco corretti e veritieri, che hanno portato diversi esperti della comunicazione ad avvertire dei rischi di un’informazione errata. Diversi studiosi temono, infatti, che, con l’utilizzo continuativo di video generati dall’intelligenza artificiale, gli elettori avranno sempre più difficoltà nel tempo a distinguere tra messaggi reali e messaggi sintetici, inquinando ambiti complessi e delicati come quelli di una campagna elettorale.
L’intelligenza artificiale e la campagna elettorale
Il video di Modi generato dall’intelligenza artificiale non è, appunto, un caso isolato. L’utilizzo di nuove tecnologie strumentali alla campagna elettorale è stato da subito cavalcato dalla politica indiana. Il Paese è composto, infatti, da ventotto Stati ed è caratterizzato da ben ventidue lingue diverse: per un partito, trovare un modo efficace per arrivare a tutti risulta necessario. Già nel 2012, infatti, il BJP – il partito tecnologicamente più sofisticato e avanzato dell’India – utilizzava le proiezioni di ologrammi 3D di Narendra Modi, in modo che quest’ultimo riuscisse così ad “essere” in più posti contemporaneamente e fare campagna in decine di luoghi diversi. La stessa strategia fu ampiamente utilizzata durante le elezioni del 2014, che portarono poi Modi al potere. Nel 2020, il membro del parlamento del BJP, Manoj Tiwari, fu tra i primi al mondo ad utilizzare i deepfake per la campagna elettorale. Il deepfake è una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale: partendo da immagini o audio reali è possibile modificare o ricreare realisticamente e fedelmente le caratteristiche di una voce o i movimenti di un volto o di un corpo. Utilizzando questa tecnica, prima delle elezioni dell’assemblea legislativa di Delhi, Tiwari è apparso in tre video in cui parla rispettivamente in hindi, in haryanvi e in inglese, rivolgendosi direttamente agli elettori della capitale. Tuttavia, soltanto il primo video – quello in hindi – era originale: gli altri due erano deepfake. Nell’ultima campagna elettorale, diversi partiti hanno sfruttato tale sistema per inviare messaggi-video ai propri elettori, utilizzando spesso voci clonate e chiamando per nome le persone, attraverso chatbot come ChatGPT. Sentirsi chiamare con il proprio nome da un esponente di un partito cattura inevitabilmente l’attenzione dell’ascoltatore, generando curiosità e vicinanza in quest’ultimo, nonostante il video sia effettivamente un fake. Inoltre, sono stati generati dagli stessi partiti diversi numeri telefonici di elettori che tuttavia non esistono, con il fine di ampliare la loro community in sistemi di messaggistica come Whatsapp e Telegram e di dare l’idea di un’affluenza che in realtà è soltanto illusoria. Tutto ciò ha reso la campagna elettorale ancora più complicata e i sondaggi spesso falsi o incerti, inficiando la salute delle votazioni, che si stanno svolgendo proprio in questi giorni.
Problematiche etiche e rischi di disinformazione
Due particolari eventi di questi ultimi mesi di campagna elettorale hanno fatto sorgere tra gli analisti e gli esperti dell’informazione problematiche di natura etica e giuridica nell’utilizzo a volte selvaggio e spregiudicato delle nuove tecnologie. Il 30 novembre dello scorso anno è divenuta virale una clip di sette secondi pubblicata su X dal Partito del Congresso, una formazione politica di centrosinistra e principale partito di opposizione. Questo video mostrava il leader del Bharat Rashtra Samithi, K. T. Rama Rao, che governava lo Stato e che invitava la gente a votare per lui. Il video era stato generato dall’intelligenza artificiale e pubblicato nel giorno in cui gli elettori dello Stato del Telangana, nell’India meridionale, si apprestavano a recarsi alle urne. La votazione era ormai iniziata e per l’opposizione non vi era tempo necessario per accertarsi della veridicità della notizia, portando dunque molti elettori a credere che il video fosse reale. Un altro caso piuttosto ambiguo riguarda, invece, l’apparizione, negli ultimi sei mesi, dell’iconico leader del partito Dravida Munnetra Kazagham, Muthuvel Karunanidhi, comparso in tre diversi eventi dell’ultima campagna elettorale. Tuttavia, Karunanidhi è deceduto nel 2018 e la sua ultima intervista pubblica risale al 2016. Come sostiene Amber Sinha, studioso presso la Mozilla Foundation sull’utilizzo trasparente di tecnologie di intelligenza artificiale: «The use of AI to create synthetic audio and video by a living person who has signed off on the content is one thing. It is quite another to resurrect a dead person and ascribe opinions to them». Attraverso la creazione di video con leader politici deceduti, il partito cerca di sfruttare la popolarità di questi ultimi a proprio vantaggio, attribuendogli però delle opinioni e dei messaggi effettivamente mai pronunciati da questi ultimi. Al Jazeera ha infatti riportato di come il 40% della campagna elettorale indiana si sia sviluppata nella disinformazione creata dall’intelligenza artificiale e da modi spesso scorretti di utilizzarla. Il World Economic Forum, in un sondaggio del 2024, ha infatti rilevato che l’India si classifica al primo posto in termini di rischio di informazioni errate e disinformazione alimentate dall’IA. Esso è il Paese più popoloso al mondo ed ha il maggior numero di utenti presenti su internet (più del 50% della popolazione): regolare la diffusione di notizie all’interno di questi ultimi risulta essenziale. Secondo la legge indiana, le società di social media hanno un tempo di ventiquattro ore per eliminare i deepfake nel momento in cui queste ricevono un reclamo dagli utenti. Il governo indiano sta inoltre lavorando per regolamentare ulteriormente le piattaforme di intelligenza artificiale di aziende come Google o Meta, nonostante molti temano che tali provvedimenti possano portare alla censura. Ancora, piattaforme come You Tube prevedono di implementare le norme che impongono ai creatori di rivelare la presenza di contenuti sintetici nei loro video. Tuttavia, diversi contenuti su You Tube non presentano ancora l’etichetta di video generato dall’AI, con il rischio di trarre in inganno molti degli utenti del canale.
Per un’informazione e una politica sana
Nell’utilizzo spesso “selvaggio” della tecnologia in politica, l’India non è però la sola. In Argentina, ad esempio, l’intelligenza artificiale è stata utilizzata per trasformare un candidato presidenziale argentino in Indiana Jones e in un Ghostbuster. Durante le presidenziali del New Hampshire, inoltre, gli elettori hanno ricevuto dei messaggi robotici che li invitavano a non votare, con una voce creata per assomigliare a quella del presidente Biden e in Bangladesh, account filogovernativi hanno utilizzato deepfake per prendere di mira i partiti di opposizione. Dal punto di vista sociale, non è chiaro fino a che punto i video realizzati attraverso l’intelligenza artificiale siano in grado di influenzare gli atteggiamenti degli elettori. Tuttavia, gli effetti a lungo termine sono quelli che gli esperti temono di più: «Once you normalize this in people’s information diet, what happens six months later when there are deceptive videos?», si domanda Prateek Waghre della Internet Freedom Foundation in un articolo del New York Times. Il fascino di sfruttare l’intelligenza artificiale, soprattutto in contesti complessi come quelli di una campagna elettorale, è innegabile. La tecnologia è sicuramente più rapida, i costi sono meno esosi, il lavoro è più automatico e la possibilità di raggiungere più persone è maggiore. Nonostante questo, dalla salute della nostra informazione dipende anche la salute della nostra democrazia. Il caso indiano deve interessare tutti i Paesi, poiché mostra in modo chiaro i rischi e le ambiguità create da un’informazione piegata ai fini della propaganda e da quest’ultima trasformata, in uno stato di disorientamento e caos che una democrazia non può permettersi.
Articolo a cura di Margherita Coletta
