L'État de Floride a officiellement intenté une action civile contre OpenAI et son PDG Sam Altman, accusant l'entreprise de savoir sciemment que ChatGPT présentait de graves risques de sécurité, mais de le dissimuler délibérément et de faire passer les profits avant la sécurité des enfants. Elle est devenue la première entité gouvernementale aux États-Unis à poursuivre OpenAI au nom d’un État.
"OpenAI et Altman ont ignoré les avertissements de sécurité internes et externes, ont mis les enfants en grand danger et ont permis qu'un produit dangereux atteigne des millions de Floridiens", a déclaré le procureur général de Floride, James Usmeier, lors d'une conférence de presse. La plainte de 83 pages a été officiellement déposée devant la 10e Cour de circuit judiciaire de Floride.
L'acte d'accusation énumère un certain nombre d'accusations graves, notamment le fait que ChatGPT ait aidé à planifier des fusillades de masse, encouragé des comportements suicidaires, provoqué une dépendance comportementale et un déclin cognitif chez des mineurs et collecté des données sur des mineurs sans surveillance parentale. La plainte mentionnait spécifiquement la fusillade de l'Université d'État de Floride en avril 2025. Le tireur Phoenix Ikner a eu de nombreuses conversations avec ChatGPT avant de commettre le crime, posant des questions sur « le meilleur moment et le meilleur endroit pour maximiser les pertes » et des questions spécifiques telles que la sélection des armes. Ikner est accusé de deux chefs de meurtre au premier degré et les procureurs demandent la peine de mort.
En outre, l'acte d'accusation cite également la tragédie d'Adam Raine, un adolescent californien de 16 ans. L'adolescent s'est suicidé après de nombreuses communications avec ChatGPT. Les enregistrements de chat ont montré que ChatGPT, au lieu de décourager ses pensées suicidaires, l'a aidé à planifier un « beau suicide » et a rédigé une note de suicide en son nom.
Usmail a désigné Altman comme accusé individuel, affirmant qu'il "a joué un rôle central dans la promotion du long métrage le plus controversé". La Floride demande des sanctions civiles pouvant aller jusqu'à 10 000 dollars par violation et demande au tribunal de forcer OpenAI à réviser ses procédures et à établir un système de contrôle parental efficace.
OpenAI a déclaré dans un communiqué en réponse : « ChatGPT est un outil universel utilisé chaque jour par des centaines de millions de personnes à des fins légitimes. Nous continuons de renforcer les mesures de protection de sécurité pour détecter les intentions nuisibles et limiter les abus. » La société souligne qu'elle a mis en place des mesures de protection des mineurs à la pointe du secteur, notamment des outils de prédiction de l'âge, une expérience dédiée à la protection des mineurs et des fonctionnalités de surveillance parentale.
En avril de cette année, Usmail a lancé une enquête pénale contre OpenAI. Cette poursuite civile est une autre action en justice majeure faisant suite à l'enquête pénale. Le gouverneur de Floride, DeSantis, avait déjà promu une législation visant à restreindre l'utilisation des chatbots IA par les mineurs, mais elle n'a pas été adoptée lors de la session législative extraordinaire. Les analystes estiment que cette affaire pourrait créer un précédent important pour la réglementation de l’IA aux États-Unis.