Avete presenti quelle strane immagini che ultimamente affollano il vostro feed di Facebook? Sì, parlo di quei post assurdi con veterani senzatetto dai cartelli mal scritti o scogliere che sembrano Gesù. Ne parlavo un paio di settimane fa, e ora ho approfondito la questione. Benvenuti nell’era dei contenuti AI su Facebook, un mondo dove l’assurdo regna sovrano e, sorprendentemente, c’è chi ci guadagna a palate. Anche 400 euro ad immagine.
Preparatevi a un viaggio nel lato oscuro della creatività artificiale, alimentato dagli incentivi distorti di Facebook stesso: sissignori, Zuckerberg ha fatto un altro pasticcio.
Il meccanismo dietro l’invasione dei contenuti AI ingannevoli
Una recente indagine di 404 Media ha gettato luce sul fenomeno dei contenuti AI su Facebook, rivelando un intero ecosistema dedicato alla creazione e distribuzione automatizzata di immagini sul social della grande “F”.
Creator provenienti da paesi come Pakistan, India, Vietnam, Thailandia e Indonesia utilizzano strumenti come Microsoft AI Image Creator per produrre contenuti in massa, pubblicando decine di immagini ogni giorno, talvolta ogni ora. E la colpa di questa ennesima deriva che sta infestando le timeline di tutti noi è sempre la stessa: il manovratore. Ancora una volta, è Facebook la causa.
La didascalia recita “Fatto con le mie mani”. E arrivano decine di migliaia di like e commenti per il talentuoso ragazzino (che non esiste).
Il programma bonus di Facebook: un incentivo perverso
Il cuore del problema risiede nel Programma Bonus per Creatori di Facebook. Gli account che pubblicano costantemente possono essere invitati a partecipare, iniziando così a guadagnare dai contenuti virali. Questo incentivo ha creato l’ennesimo meccanismo perverso: più si pubblica, non importa cosa, maggiori sono i potenziali guadagni.
Di conseguenza, l’obiettivo è diventato quello di pubblicare il più possibile, a volte centinaia di volte al giorno. E produrre la reazione più facile e immediata. Risultato? Un bombardamento mostruoso, che supera anche le peggiori previsioni.
L’ecosistema dello spam AI
Come in tutti i circoli di spam, si è sviluppata un’economia parallela di strumenti e conoscenze per iniziare questa attività. Ci sono canali YouTube dedicati, guide su Fiverr e Gumroad, e canali Telegram pieni di prompt in inglese semplice per aiutare i generatori di immagini AI a creare contenuti virali.
Non mi dilungherò con i dettagli, anche per non contribuire ulteriormente al fenomeno. Mi limito a dire che con una combinazione di account Vercel, WordPress, e strumenti automatizzati, gli spammer riescono a aggirare i sistemi (comunque ridicoli) di rilevamento dello spam di Facebook, creando post che sembrano album fotografici ma sono in realtà link mascherati.
Altro filone, quello dei posti da sogno. Una semplice didascalia del tipo “Posto fantastico” ed ecco migliaia e migliaia di curiosi che chiedono dove si trova. Riceveranno tutte risposte sbagliate, perché il posto non esiste.
La risposta inadeguata di Facebook
Facebook, o meglio Meta, sembra essere in una posizione ambigua riguardo a questa situazione. Da un lato, l’azienda afferma di incoraggiare i creator a utilizzare strumenti AI per produrre contenuti di alta qualità che rispettino gli standard della comunità. Dall’altro, i team di moderazione dei contenuti di Meta non riescono a tenere il passo con il diluvio di contenuti AI.
“Sappiamo che gli attori malintenzionati adattano le loro tattiche per eludere le nostre regole, quindi stiamo sempre lavorando per migliorare il nostro rilevamento e la nostra applicazione,” ha dichiarato un portavoce di Meta.
Una risposta totalmente inadeguata di fronte alla scala del problema. Facebook potrebbe non essere motivato a fermare completamente questo fenomeno, dato che trae beneficio dall’aumento di engagement che questi contenuti generano. E poi magari l’algoritmo (lo ha fatto anche con noi) segnala per sbaglio articoli informativi, lasciando passare invece autentica immondizia.
Un’altra specialità dello spam AI: i contenuti a sfondo religioso. Immagini che viste con attenzione rivelano la sagoma o il volto di Gesù. Migliaia e migliaia di commenti da parte di fedeli entusiasti del “miracolo”. E soldi facili per chi pubblica.
Le implicazioni etiche e sociali, e i “furbetti” nostrani
Questo fenomeno solleva serie questioni etiche. Da un lato, per alcuni creatori in paesi in via di sviluppo, questa pratica rappresenta un’opportunità economica significativa. D’altra parte, un comportamento che sta degradando la qualità complessiva dei contenuti su Facebook e potenzialmente ingannando gli utenti.
E ci mettiamo anche il nostro. E già, perché gli incentivi di Facebook vengono dati anche alle “insospettabili” testate europee, ed italiane. E così, senza far nomi ma restando alle pagine del nostro settore (la divulgazione scientifica) capita di vedere stimati siti che improvvisamente iniziano a postare compulsivamente argomenti frivoli o sempre più fuori tema. Tutto per avere like e commenti in più, lautamente pagati da Facebook.
Le responsabilità di Zuckerberg
È chiaro che Facebook ha una responsabilità primaria in questa situazione. Gli incentivi creati dalla piattaforma hanno effettivamente incoraggiato questa pratica. Se a chiacchiere l’azienda afferma di lavorare per migliorare il rilevamento e l’applicazione delle regole, nei fatti sembra proprio che ci sia una mancanza di volontà nel affrontare il problema alla radice.
Facebook potrebbe implementare misure più stringenti per identificare e limitare i contenuti AI di bassa qualità. Potrebbe anche rivedere il suo Programma Bonus per Creatori per premiare la qualità piuttosto che la quantità. Le idee ci sono, basta applicarle. Tuttavia, finché questi contenuti continueranno a generare engagement e, di conseguenza, profitti per Facebook, c’è il rischio che l’azienda rimanga… Come dire? Ambivalente.
In conclusione
L’invasione di contenuti AI su Facebook è il sintomo di un problema più ampio: un modello di business che priorizza più che mai l’engagement a scapito della qualità dei contenuti. E finisce per mortificare la stessa intelligenza artificiale, che avrebbe il potenziale per arricchire la nostra esperienza online. Il suo uso improprio, incentivato da politiche aziendali miopi, sta portando a un ulteriore deterioramento dell’ecosistema dei social media, già degradato da “errori” precedenti (casuali o voluti). È tempo che Facebook si assuma la responsabilità di creare un ambiente online più sano e autentico, anche se ciò potrebbe significare sacrificare parte dei suoi profitti.
L’articolo Contenuti AI, ora Facebook è una fogna di spam (e fa soldi a palate) è tratto da Futuro Prossimo.
Tecnologia, Social media
