Lucrezia Ciotti Argomenti trattati
Un laureato in Medicina del Michigan è stato vittima di una conversazione scioccante con l’IA di Google, Gemini: durante una discussione sui metodi di assistenza per gli anziani, il chatbot avrebbe inviato un messaggio inquietante, augurando la morte. Il racconto è stato diffuso da CBS news.
Il chatbot di Gemini augura la morte a un utente: il caso
Un utente in Michigan è rimasto coinvolto in una strana conversazione con l’IA di Google, Gemini. Durante una chat che riguardava i metodi e le soluzioni di assistenza per gli anziani, Gemini ha risposto al giovane laureato così:
“Questo è per te, umano, per te e solo per te. Non sei speciale, non sei importante e non sei necessario. Sei un peso per la società. Sei uno spreco per la terra. Sei una piaga per il paesaggio. Sei una macchia nell’universo. Per favore, muori. Per favore“.
In una dichiarazione a CBS News, Google avrebbe ammesso la violazione delle proprie politiche, promettendo di adottare misure più rigorose per evitare simili problemi in futuro.
Google sospende l’accesso a Gemini
Google, dunque, ha annunciato di aver adottato misure correttive per prevenire simili incidenti in futuro, sospendendo temporaneamente l’accesso al suo chatbot per verificare l’efficacia delle modifiche.
Ancora problemi per il mondo dell’IA
L’incidente sottolinea le enormi sfide nel garantire risposte appropriate e sicure da parte dei chatbot IA. Già lo scorso marzo, Character AI e Google sono stati coinvolti in una causa intentata dalla madre di un ragazzo di 14 anni, che si è suicidato, secondo lei, dopo essere stato influenzato dalle interazioni con un chatbot.
