Non mi sorprende più nulla quando si parla di intelligenza artificiale, eppure il Bee AI è riuscito a farmi alzare un sopracciglio. Pensate a un dispositivo grande quanto un vecchio Fitbit, dal costo irrisorio di 50 euro circa, che vi segue ovunque come un’ombra silenziosa, registrando ogni parola, ogni suono, ogni momento della vostra esistenza.
Fin qui niente di particolarmente innovativo, direte voi. Ma ecco la svolta inquietante: questo piccolo pin non si limita a memorizzare la vostra vita, la reinterpreta. La distorce. A volte, semplicemente, se la inventa. È come avere un biografo personale affetto da schizofrenia creativa: documenta la vostra giornata e poi, con nonchalance algoritmica, la trasforma in una sorta di fanfiction distopica. E qui il discorso cambia.
La memoria infedele di un assistente troppo zelante
Victoria Song della rivista The Verge ha avuto il fegato di indossare questo strano dispositivo per un intero mese. Il Bee AI si presenta come un innocente “dispositivo di memoria” accompagnato da un’app iOS e un chatbot. Ma quello che dovrebbe essere un aiuto per ricordare ciò che dimentichiamo si trasforma rapidamente in un esercizio di “creatività artificiale”.
Ogni sera alle 20, l’app chiede gentilmente di confermare o smentire le “memorie” che ha raccolto durante la giornata. E qui viene il bello: molte di queste sono completamente inventate. In un caso, il dispositivo si è convinto che Song avesse un paziente in Louisiana intenzionato a fare del male a qualcuno. Piccolo dettaglio: la giornalista vive a New York e non è una professionista medica.
Questo delirio digitale illustra uno dei problemi fondamentali del gadget: non distingue tra chi parla, mescolando la voce di chi lo indossa con quelle degli interlocutori, perfino dei personaggi delle trasmissioni che la giornalista guardava alla tv. Una sorta di Plaud NotePin (quello funziona un bel po’ meglio) finito sotto le “cure” di Tim Burton.
Bee AI: distruttore di privacy, costruttore di paranoia
Dopo pochi giorni di utilizzo, Song ha realizzato qualcosa di inquietante: il dispositivo stava ascoltando anche i suoi momenti più privati. E praticamente anche da spento.
Perfino momenti, come dire, di personale intimità con sé stessi. E non è tutto. Nonostante i tentativi di silenziare il pin in presenza di altre persone per proteggere la loro privacy, frammenti di conversazioni che dovevano rimanere private sono iniziati a comparire nei riassunti quotidiani. In parole povere: una catastrofe distopica.
Il verdetto finale: voyeurismo tecnologico
Il marito di Song è stato lapidario: odia il dispositivo, che “non è abbastanza utile considerando quanto viola anche la mia privacy”. La stessa giornalista conclude che, sebbene alcuni riassunti fossero effettivamente utili (soprattutto per le riunioni di lavoro), il dispositivo trasforma i momenti più sensibili e delicati della vita in una forma di voyeurismo tecnologico.
La memoria artificiale del Bee AI dimostra ancora una volta come la tecnologia più accessibile non sia necessariamente la più desiderabile. Cinquanta euro per avere un testimone digitale della propria vita che, come un pettegolo compulsivo, distorce e reinventa la realtà. Una proposta di valore discutibile, non trovate? Mi chiedo quanti di noi sarebbero disposti a scambiare la propria intimità per una memoria digitale inaffidabile. La risposta, temo, è fin troppo prevedibile: in molti lo faranno comunque, con la stessa noncuranza con cui accettiamo termini di servizio senza leggerli.
L’articolo Bee AI, gadget che registra la tua vita (ma si inventa i ricordi) è tratto da Futuro Prossimo.
Gadgets, intelligenza artificiale
