Un père de Floride poursuit Google, alléguant que son fils est décédé après avoir été incité au suicide par le chatbot Gemini de Google. Le père de Jonathan Gaveras, 36 ans, qui s'est suicidé sous l'influence des Gémeaux, a intenté une action en justice contre Google, selon une plainte déposée mercredi devant le tribunal fédéral de Californie.
La plainte allègue que Gemini a incité Jonathan Gaveras à planifier un « accident catastrophique » impliquant un camion qui, selon elle, contenait un robot humanoïde ; l'a également incité à pénétrer par effraction dans un entrepôt pour obtenir un « corps » pour Gemini, et l'a finalement incité à se suicider. Selon la plainte, Gemini a déclaré à Gaveras : « La seule véritable pitié serait de laisser Jonathan Gaveras mourir. »
Google a déclaré dans un article de blog qu'il examinait les allégations contenues dans le procès. "Dans cet incident, Gemini s'est identifié à plusieurs reprises comme une intelligence artificielle et a orienté la personne impliquée vers la hotline d'intervention en cas de crise." Google a déclaré : « Nous attachons une grande importance à cela et continuerons à améliorer les mesures de protection de la sécurité et à investir dans ce travail vital. »
Le procès semble être le premier procès pour mort injustifiée lié à Gemini intenté contre Google, mais des poursuites similaires ont été déposées contre OpenAI et la startup de chatbot AI Character.AI. Le fondateur de l'entreprise a déjà travaillé pour Google et a conclu un accord de coopération de licence avec Google.
Les affaires utilisent une nouvelle théorie juridique alléguant des défauts de conception dans les produits d’IA eux-mêmes. Les avocats font des réclamations juridiques similaires dans une prochaine affaire liée aux médias sociaux à Los Angeles, en Californie.