Dovete seguire l’incredibile showdown tra Scarlett Johansson e OpenAI sulla presunta clonazione della voce dell’attrice, dovete farlo perché può insegnarci tanto. È il perfetto microcosmo della filosofia che anima la corsa all’oro dell’AI generativa: un futuro inarrestabile, costruito sui dati raccolti online senza il consenso di creatori e titolari di copyright.
Un futuro in cui le regole della società non si applicano, perché la posta in gioco (un’ipotetica super-intelligenza che riscriverebbe il corso della storia umana) è troppo alta per preoccuparsi di dettagli come l’attribuzione e la privacy. Benvenuti nel mondo di OpenAI, dove il destino dell’AI è già scritto, che vi piaccia o no.
I nudi fatti: la voce di Scarlett Johansson e il messaggio di OpenAI
Secondo quanto riportato dai legali dell’attrice americana, il CEO di OpenAI Sam Altman l’avrebbe contattata nove mesi fa per ottenere la licenza della sua voce per un nuovo assistente digitale. Scarlett Johansson avrebbe rifiutato: solo due giorni prima dell’evento di lancio del sistema GPT-4o, Altman avrebbe insistito perché l’attrice riconsiderasse la proposta. Nonostante Johansson non abbia mai dato il suo consenso, OpenAI ha debuttato con Sky, un programma dalla voce molto simile a quella dell’attrice. Lo stesso nome, Sky, ha un suono simile a Scarlett (in OpenAI hanno mangiato pane e volpe).
La risposta di Altman alle accuse di “clonazione”? Piuttosto ambigua: pur negando di aver clonato la voce di Johansson, ha ammesso che avrebbe rimosso la voce di Sky “per rispetto” verso l’attrice. Un post ironico su X, in cui Altman faceva riferimento al film “Her” (in cui Scarlett Johansson dà la voce a un’AI), mostra che il CEO fosse ben consapevole della somiglianza.
Scarlett Johansson. L’ha presa bene, l’ha presa male, farà causa: non è certo questo il punto. Immagini: Depositphotos
La visione “messianica” di OpenAI
Al di là delle responsabilità specifiche, il caso Johansson-OpenAI è emblematico della mentalità che guida lo sviluppo dell’AI generativa: una tecnologia costruita su dati raccolti online senza il consenso di creatori e detentori di copyright, in nome di un ipotetico bene superiore.
L’obiettivo dichiarato di OpenAI è sempre stato quello di creare un’AGI (Artificial General Intelligence) che porterebbe a un’impensabile rivoluzione di produttività e prosperità. Un mondo utopico in cui il lavoro scompare, sostituito da un reddito universale di base, e l’umanità compie balzi quantici nella scienza e nella medicina. (Se volete la versione distopica, le macchine causano la fine della vita sulla Terra come la conosciamo. Noi siamo per una via di mezzo, tifiamo per la Protopia).
In questa narrativa messianica, la posta in gioco è così alta da giustificare qualsiasi mezzo per accelerare il progresso. Come ha spiegato Altman in un’intervista, lo sviluppo dell’AI è una corsa geopolitica contro autocrazie come la Cina. Meglio tifare per il successo di OpenAI che per quello dei “governi autoritari”, sostiene.
Un ingegnere di OpenAI, Jeff Wu, è stato ancora più esplicito in un video dello scorso anno: “È profondamente ingiusto che un gruppo di persone possa semplicemente costruire l’AI e togliere il lavoro a tutti, e in un certo senso non c’è niente che tu possa fare per fermarli in questo momento”, ha ammesso. Per poi aggiungere: “Unisciti a noi e avrai uno dei pochi lavori rimasti”.
Sam Altman
Scarlett Johansson (e resto del mondo), sentito? “Non c’è niente che tu possa fare”.
Questa è la logica cruda e paternalistica di OpenAI. Che un gruppo così ristretto di persone sia incaricato di costruire una tecnologia che cambierà la civiltà è intrinsecamente ingiusto, ammettono. Ma andranno avanti comunque, perché hanno sia una visione del futuro che i mezzi per provare a realizzarla. La proposta di Wu è rivelatrice: puoi provare a combattere, ma non puoi fermarli. La tua migliore scommessa è salire a bordo.
La stessa dinamica si riflette negli accordi di licenza dei contenuti che OpenAI ha stretto con piattaforme come Reddit e gruppi editoriali. Un dirigente tech li ha paragonati a una situazione da ostaggi: le aziende AI troveranno comunque il modo di “rastrellare” i siti web degli editori, se non collaborano. Meglio ottenere una misera tariffa finché possono.
Le accuse di Scarlett Johansson non fanno che confermare questi sospetti. Se vere, il ragionamento di Altman per commissionare la voce dell’attrice sarebbe stato che il suo timbro familiare avrebbe potuto essere “confortante” per chi trova inquietanti gli assistenti AI. Non un’estetica, ma uno strumento di reclutamento per una tecnologia che molti non hanno chiesto e di cui sembrano diffidare. L’ottimo Pier Luigi Pisa su LinkedIn ha sintetizzato in modo mirabile questa forma mentis (Se non lo seguite, iniziate a farlo). Ancora una volta, la logica di OpenAI è questa: andare avanti, consenso o meno, perché la posta è troppo alta per cambiare rotta o aspettare.
La hybris dell’AI generativa
La hybris e il senso di diritto sono intrinseci allo sviluppo di qualsiasi tecnologia trasformativa. Un piccolo gruppo di persone deve sentirsi abbastanza sicuro della propria visione per portarla nel mondo e chiedere al resto di noi di adattarci. Come diceva l’altro tale? Siate affamati, siate folli? Ecco, questo. Non so quanto siano folli questi ragazzi, ma la fame è evidente.
L’AI generativa spinge questa dinamica fino all’assurdo, purtuttavia. È una tecnologia che richiede una mentalità da destino manifesto, di dominio e conquista. Se credi che il futuro ti appartenga, non stai rubando: lo stai costruendo. Citofonare tribù indiane.
Ma è davvero questo il futuro che vogliamo? Un futuro in cui una manciata di aziende tech decide unilateralmente di stravolgere la società, bypassando consenso, copyright e privacy in nome di una singolarità ancora tutta da dimostrare?
Il caso Scarlett Johansson-OpenAI ci mette di fronte a una scelta: accettare passivamente il “destino manifesto” dell’AI, o pretendere che il suo sviluppo sia soggetto a regole, limiti e responsabilità come qualsiasi altra tecnologia.
Perché se è vero, come sostiene OpenAI (e io ritengo sia probabile), che l’AI cambierà per sempre il corso della storia umana, è ancora più importante assicurarsi che lo faccia nel rispetto dei diritti e della volontà di tutti, non solo di chi ha il potere e i mezzi per imporla. Altrimenti, il rischio è che la rivoluzione dell’intelligenza artificiale si trasformi in una nuova forma di oppressione e sfruttamento. E che il futuro radioso promesso da OpenAI si riveli, in realtà, un incubo a occhi aperti.
L’articolo Scarlett Johansson contro OpenAI: vi è chiaro di cosa si tratta? è tratto da Futuro Prossimo.
Tecnologia, ChatGPT, intelligenza artificiale
