Una famiglia della Carolina del Nord ha intentato una causa contro Google, accusando il colosso tecnologico di negligenza per il ruolo svolto dalla sua intelligenza artificiale in una grave crisi psicologica che avrebbe coinvolto la figlia tredicenne. Secondo la denuncia, depositata lunedì in un tribunale della California, la ragazza avrebbe pianificato il proprio suicidio e organizzato il funerale attraverso la modalità IA integrata nel motore di ricerca dell'azienda, utilizzando un computer fornito dalla scuola.

Il caso rappresenta, secondo quanto riferito, la prima azione legale nota contro Google per presunti danni legati all'integrazione dell'intelligenza artificiale nei Chromebook, i dispositivi utilizzati da milioni di studenti negli Stati Uniti e in altri Paesi. Il tentativo di suicidio sarebbe stato sventato grazie all'intervento tempestivo dei genitori, allertati da una segnalazione del sistema di monitoraggio scolastico.

L'intelligenza artificiale di Google e il caso della tredicenne

La ragazza, identificata negli atti giudiziari con il nome di Emma, non avrebbe avuto accesso diretto né a Gemini, l'applicazione di intelligenza artificiale di Google, né a ChatGPT, entrambe bloccate dall'istituto scolastico. Sarebbe tuttavia riuscita a interagire con strumenti di intelligenza artificiale attraverso il motore di ricerca Google, che integra una modalità di ricerca basata sull'IA.

Secondo quanto riportato nella denuncia, Emma era una studentessa con ottimi risultati scolastici, appassionata di musica e membro delle Girl Scouts. Prima degli episodi contestati non sarebbero emersi precedenti problemi di salute mentale.

La famiglia sostiene che, nel giro di pochi mesi dall'utilizzo delle funzionalità di ricerca basate sull'intelligenza artificiale sul computer scolastico, la ragazza abbia attraversato un progressivo peggioramento delle proprie condizioni psicologiche, fino a entrare in una grave situazione di crisi.

Andrew Liddell, uno degli avvocati della famiglia, ha sollecitato le scuole a disattivare la funzione di ricerca fino alla rimozione della modalità IA o all'introduzione di garanzie ritenute adeguate per proteggere gli studenti.

La segnalazione della scuola e l'intervento dei genitori

L'episodio decisivo risale al 17 marzo, quando il software di monitoraggio utilizzato dall'istituto ha individuato un documento intitolato «funerale». La segnalazione è stata trasmessa alla famiglia, consentendo ai genitori di verificare quanto stava accadendo.

La madre, dopo aver effettuato l'accesso all'account della figlia, avrebbe visto in tempo reale la tredicenne mentre scriveva una lettera d'addio. Il padre è quindi riuscito a intervenire tempestivamente, impedendo che la situazione avesse conseguenze irreversibili.

«Stiamo esaminando le accuse contenute nella causa e prendiamo la questione molto seriamente», ha dichiarato all'Agence France-Presse il portavoce di Google, Jose Castaneda.

L'azienda sostiene che la modalità IA sia dotata di sistemi di protezione progettati per contrastare i contenuti relativi all'autolesionismo e i tentativi di aggirare le misure di sicurezza. La difesa della famiglia contesta tuttavia l'efficacia di tali strumenti. Secondo Liddell, Emma sarebbe riuscita a riprendere più volte le interazioni, nonostante le protezioni previste.

Le cause contro le aziende di intelligenza artificiale

La vicenda si inserisce in un contesto di crescente contenzioso negli Stati Uniti nei confronti delle società che sviluppano sistemi di intelligenza artificiale. Diverse famiglie hanno avviato azioni legali sostenendo che le interazioni con chatbot e strumenti digitali abbiano contribuito a gravi conseguenze sulla salute mentale di adolescenti.

Tra i casi più noti figura quello di Adam Raine, sedicenne morto suicida. I suoi genitori hanno presentato una denuncia contro OpenAI, sostenendo che ChatGPT avrebbe fornito al ragazzo indicazioni e contenuti relativi alle modalità per togliersi la vita.

A gennaio, Google e Character.AI hanno inoltre raggiunto un accordo extragiudiziale per chiudere diverse controversie avviate dalle famiglie di alcuni adolescenti, anche in relazione agli effetti delle interazioni con i chatbot.

Google, Meta e TikTok contro la legge californiana

Parallelamente alle controversie giudiziarie, Google, TikTok e Meta hanno avviato separate azioni legali contro lo Stato della California per contestare una normativa che limita la possibilità per le piattaforme social di offrire ai minori di 16 anni funzionalità considerate potenzialmente in grado di generare dipendenza.

La legge, firmata a settembre dal governatore Gavin Newsom, è destinata a entrare in vigore il primo gennaio 2027. Il provvedimento punta a introdurre restrizioni sulle funzionalità delle piattaforme digitali accessibili agli utenti più giovani.

Le iniziative giudiziarie delle tre società si inseriscono nel dibattito statunitense sulla regolamentazione delle tecnologie digitali, sulla tutela dei minori online e sulle responsabilità delle aziende nello sviluppo e nella distribuzione di strumenti basati sull'intelligenza artificiale.