Per avere un’idea della direzione che l’intelligenza artificiale sta prendendo nelle campagne elettorali, basta guardare all’India, la più grande democrazia del mondo, che venerdì si recherà alle urne – scrive il New York Times.
GLI AVATAR IA DEL PARTITO DI MODI, CREDIBILI ED ECONOMICI
Una versione generata dall’intelligenza artificiale del primo ministro Narendra Modi, condivisa su WhatsApp, mostra le possibilità di un coinvolgimento iperpersonalizzato in un Paese con quasi un miliardo di elettori. Nel video – una clip dimostrativa la cui fonte non è chiara – l’avatar di Modi si rivolge direttamente a una serie di elettori, chiamandoli per nome.
Tuttavia, non è perfetto. Modi sembra indossare due paia di occhiali diversi e alcune parti del video sono pixelate.
Il partito di Modi sta inviando via WhatsApp video in cui i propri avatar IA consegnano messaggi personali a specifici elettori sui benefici governativi che hanno ricevuto e chiedono il loro voto.
Questi messaggi video possono essere generati automaticamente in qualunque delle decine di lingue indiane parlate dall’elettore. Lo stesso vale per i messaggi telefonici dei chatbot alimentati dall’IA che chiamano gli elettori con le voci dei leader politici e chiedono il loro sostegno.
Questo tipo di comunicazione richiede una frazione del tempo e del denaro spesi per le campagne elettorali tradizionali e ha il potenziale per diventare uno strumento essenziale nelle elezioni.
DISINFORMAZIONE SU DISINFORMAZIONE
Tuttavia, mentre la tecnologia si affaccia sulla scena politica, ci sono pochi guardrail che ne impediscono l’uso improprio. Chatbot e video personalizzati possono sembrare più o meno innocui. Ma gli esperti temono che, con l’avanzare e il diffondersi della tecnologia, gli elettori avranno sempre più difficoltà a distinguere tra messaggi reali e artificiali.
“Quest’anno sarà il Far West e uno spazio IA non regolamentato”, ha dichiarato Prateek Waghre, direttore esecutivo della Internet Freedom Foundation, un gruppo per i diritti digitali con sede a Nuova Delhi. “La tecnologia – ha aggiunto – sta entrando in un panorama mediatico già inquinato dalla disinformazione”.
In tutto il mondo, le elezioni sono diventate un banco di prova per il boom dell’IA. Gli strumenti sono stati utilizzati per trasformare un candidato presidenziale argentino in Indiana Jones e in un acchiappafantasmi. Durante le primarie del New Hampshire, gli elettori hanno ricevuto messaggi di robocall che li esortavano a non votare, con una voce che molto probabilmente è stata generata artificialmente per assomigliare a quella del presidente Biden.
In India, il Bharatiya Janata Party (Bjp) di Modi e il partito di opposizione Indian National Congress si sono accusati a vicenda di diffondere online contenuti deepfake legati alle elezioni.
POLITICI PAZZI PER L’IA
Un avamposto di questa nuova frontiera indiana si trova nello stato desertico occidentale del Rajasthan. Al piano terra di un edificio residenziale in un vicolo polveroso, un trentunenne che ha abbandonato il college, Divyendra Singh Jadoun, gestisce una startup di intelligenza artificiale, The Indian Deepfaker.
Il suo team di nove persone ha realizzato spot pubblicitari con avatar generati dall’IA di attori e attrici di Bollywood. Ma all’inizio di quest’anno, partiti e politici hanno iniziato a chiedergli di fare per loro quello che lui aveva fatto per le celebrità. Delle 200 richieste, Jadoun ha detto di averne accettate 14.
Tra coloro che hanno ricevuto il trattamento c’è Shakti Singh Rathore, un membro del Bjp di 33 anni. Il suo compito in questa stagione elettorale è quello di informare quante più persone possibile sui programmi e sulle politiche di Modi. Così ha deciso di creare una replica di se stesso.
“L’intelligenza artificiale è meravigliosa e rappresenta la strada da seguire”, ha detto Rathore mentre si sistemava davanti a una videocamera nell’ufficio di The Indian Deepfaker, preparandosi a incarnarsi digitalmente. “In quale altro modo potrei raggiungere i beneficiari dei programmi di Modi in un numero così elevato e in un periodo di tempo così breve?”.
Mentre Rathore si aggiustava una sciarpa color zafferano con il logo del partito appesa al collo, Jadoun gli ha detto: “Guarda nella telecamera e parla come se la persona fosse seduta di fronte a te”.
LA FABBRICA INDIANA DI AVATAR IA
Con circa 5 minuti di materiale, tra cui una registrazione audio e foto di profilo, Jadoun si è messo al lavoro. Ha detto di utilizzare sistemi di IA open-source e di costruirci sopra con il proprio codice. Per prima cosa, il volto di Rathore è stato isolato da ogni fotogramma della registrazione. Poi sono stati raccolti i dati relativi ai suoi tratti somatici, tra cui le dimensioni del viso e delle labbra e lo sguardo.
Jadoun ha detto che la serie di dati è stata poi inserita in modelli di intelligenza artificiale che imparano a prevedere i modelli facciali. “È necessario continuare a farli passare attraverso il programma e a mettere a punto il volto finché non si ottiene il miglior volto possibile”, ha detto.
Un “algoritmo di clonazione” analizza anche la registrazione audio, imparando la cadenza e le intonazioni della voce. Jadoun ha dichiarato che spesso sono necessarie dalle 6 alle 8 ore di modifiche per perfezionare il volto e sincronizzare le labbra con le parole. Il resto è in gran parte automatizzato.
In una dimostrazione, ci sono voluti circa 4 minuti per creare circa 20 video di auguri personalizzati.
Jadoun ha dichiarato che il suo team può produrre fino a 10.000 video al giorno. Per i lavori più grandi e con scadenze precise, noleggerà unità di elaborazione grafica.
UN’IA CHE ARRIVA A TUTTI
L’intelligenza artificiale generativa può anche eliminare le barriere linguistiche, il che è particolarmente utile in un paese linguisticamente diverso. L’avatar di Rathore può essere programmato per parlare le lingue regionali e raggiungere gli angoli più remoti dell’India.
I partiti politici non si limitano a inviare messaggi video agli elettori, ma utilizzano anche voci clonate per chiamare direttamente le persone, grazie a chatbot come ChatGpt.
In passato, quando un rappresentante del partito chiamava gli elettori, questi riagganciavano, ha detto Rathore. “Ma ora, quando un leader locale pronuncia il nome di un elettore, cattura immediatamente la sua attenzione”.
Durante la conversazione, il chatbot chiede informazioni sui programmi governativi locali che offrono elettricità gratuita o finanziamenti per le start-up. Jadoun ha detto che le chiamate sono state registrate e trascritte per il controllo di qualità e la formazione dell’IA.
Rathore ha dichiarato di aver speso circa 24.000 dollari di tasca propria per raggiungere circa 1,2 milioni di persone attraverso i suoi videomessaggi e le sue telefonate e per ricevere informazioni su chi non ha risposto. Lo ha definito un investimento per il suo futuro con il Bjp.
L’IMPORTANZA DELLA PERSONALIZZAZIONE
Nikhil Pahwa, redattore di MediaNama, che si occupa di media digitali in India, ha detto che i messaggi personalizzati potrebbero essere particolarmente potenti tra gli indiani.
“L’India è un Paese in cui le persone amano farsi fotografare con i sosia delle celebrità”, ha affermato. “Quindi, se ricevono una telefonata da, ad esempio, il primo ministro, che parla come se li conoscesse, dove vivono e quali sono i loro problemi, ne sarebbero davvero entusiasti”.
Waghre della Internet Freedom Foundation dubita che i contenuti dell’IA siano abbastanza persuasivi da influenzare le elezioni di quest’anno. Ma ha detto che gli effetti a lungo termine potrebbero essere problematici. “Una volta normalizzati nella dieta informativa della gente, cosa succederà sei mesi dopo quando ci saranno video ingannevoli?”, ha detto.
Lo stesso Modi ha discusso l’aggiunta di clausole di esclusione della responsabilità per i contenuti generati dall’IA, in modo che le persone non siano “fuorviate”. Jadoun e i rappresentanti di altre due start-up di IA in India hanno creato quello che chiamano un “manifesto della coalizione di IA”, impegnandosi a proteggere la privacy dei dati e a sostenere l’integrità delle elezioni. Per esempio, i video dell’indiana Deepfaker sono etichettati come “generati dall’IA” e i suoi chatbot annunciano di essere voci generate dall’IA, ha detto Jadoun.
Narendra Singh Bhati, 28 anni, proprietario di un resort nel Rajasthan, ha ricevuto una chiamata generata dall’IA da Rathore questa settimana. Bhati ha detto di essere rimasto colpito dalla sua personalizzazione e di non essersi accorto che la chiamata era generata dall’IA, anche se il copione lo diceva chiaramente. “Alla fine ho persino salutato il signor Rathore”, ha detto Bhati.
(Estratto dalla rassegna stampa estera a cura di eprcomunicazione)
