Compriamo una fascia per dormire meglio e finiamo per alimentare un’intelligenza artificiale. Pensiamo di misurare il riposo, mentre le registrazioni del nostro cervello diventano materia prima per sviluppare nuovi algoritmi. Non è ancora il furto dei pensieri evocato dalla fantascienza. È però un salto nella raccolta delle informazioni più intime, spesso senza che gli utenti siano stati chiaramente informati. A raccontarlo è un’inchiesta di Science, firmata da Jonathan Moens dopo un anno di lavoro e ripresa in Italia dalla Stampa e da Dagospia.
La storia comincia con Adnan Jinnah, un britannico che combatte con l’insonnia. Prima di coricarsi indossa Muse, una fascia della canadese Interaxon che registra segnali cerebrali e fisiologici. Al mattino consulta il resoconto della notte: un aiuto per capire come stress, farmaci e abitudini incidano sul sonno. Quello che non sapeva è che le registrazioni degli utenti potevano servire anche ad addestrare un modello di intelligenza artificiale del cervello. Un impiego diverso dal semplice monitoraggio del riposo.
Interaxon ha dichiarato a Science di avere utilizzato circa 50 mila ore di registrazioni elettroencefalografiche, private di identificativi diretti come nomi e indirizzi e-mail. L’obiettivo, sostiene l’azienda, è migliorare i servizi e favorire la ricerca. Ma l’informativa sulla privacy non esplicitava l’addestramento di questi modelli. Dopo le domande della rivista, la società l’ha aggiornata, riconoscendo la necessità di informare chiaramente gli utenti. Una correzione che arriva quando l’addestramento è già avvenuto.
Il caso non è isolato. Science ha esaminato le informative di 57 aziende che raccolgono dati EEG attraverso dispositivi destinati ai consumatori: quattro non avevano una politica sulla privacy, undici fornivano indicazioni limitate ai visitatori del sito. Nessuna delle società impegnate nello sviluppo di un modello di base del cervello dichiarava inizialmente questo utilizzo nelle proprie informative. Anche Emotiv ha modificato la documentazione dopo le richieste dei giornalisti, precisando l’impiego di dati deidentificati per l’addestramento, subordinato al consenso dell’utente.
La posta in gioco sono i “brain foundation models”: sistemi addestrati su grandi quantità di attività cerebrale per riconoscere schemi e adattarsi a compiti differenti. La promessa è importante: comprendere meglio il sonno, aiutare la ricerca sulle malattie neurologiche, automatizzare alcune analisi. Ma il valore scientifico e commerciale delle registrazioni apre una domanda: accettare un servizio significa autorizzare anche la costruzione di un algoritmo? Per gli esperti interpellati da Science, questi impieghi richiedono un consenso specifico e separato. Bisogna però distinguere il rischio reale dall’allarme facile. Le fasce commerciali non leggono liberamente ricordi, desideri o conversazioni interiori. Hanno pochi elettrodi, raccolgono segnali meno dettagliati degli strumenti clinici e incontrano limiti nell’osservare l’attività delle strutture profonde del cervello. Possono comunque fornire informazioni su alcuni stati cognitivi. Pietro Aricò, bioingegnere della Sapienza, avverte che sarebbe sbagliato considerare quei segnali privi di significato. Il timore riguarda anche ciò che algoritmi futuri potranno ricavare dalle registrazioni raccolte oggi.
C’è poi il problema della destinazione dei dati. L’inchiesta rileva possibilità diffuse di condivisione con terzi e clausole che ne consentono il trasferimento in caso di acquisizione dell’azienda. Non dimostra che i pensieri degli utenti siano già venduti ad assicurazioni o datori di lavoro: quei possibili impieghi restano un rischio, non un fatto accertato. Il punto documentato è un altro: informazioni raccolte per il benessere personale possono entrare in circuiti di sviluppo tecnologico non spiegati con sufficiente chiarezza. La frontiera da proteggere, prima ancora della lettura della mente, è il diritto di sapere che cosa diventa il nostro sonno.
Fonti e documenti
Articolo originale di Umberto Mancini, direttore editoriale.
