Un projet de loi soumis à l'Assemblée législative de l'État de New York interdirait aux chatbots à intelligence artificielle de fournir des conseils juridiques ou médicaux au public et donnerait aux utilisateurs le droit de poursuivre en justice les propriétaires des chatbots incriminés. Le projet de loi, numéroté S7263, a été présenté par le Sénat de l'État lors de la dernière session législative. Il a été approuvé en dehors de la commission par un vote de 6 pour et 0 contre au sein de la commission Internet et technologie la semaine dernière. Il s’agit de l’un des paquets législatifs visant à réglementer les chatbots IA.
Le projet de loi se concentre sur les chatbots IA qui prétendent être des professionnels agréés (tels que des médecins et des avocats), leur interdisant de fournir « des réponses, des informations ou des conseils substantiels » susceptibles de violer les lois sur les licences professionnelles ou de constituer une « pratique non autorisée ».
Le projet de loi exige que les propriétaires de chatbots fournissent aux utilisateurs des informations « claires, visibles et sans ambiguïté » indiquant qu'ils interagissent avec un système d'IA. Les invites doivent être dans la même langue que celle du chatbot et présentées dans une police lisible. Cependant, le projet de loi souligne également que cette invite de « système non humain » n'exonère pas le propriétaire du chatbot de toute responsabilité légale. Dans ce cadre, si l'opérateur viole l'interdiction, les utilisateurs peuvent poursuivre le propriétaire du chatbot en justice sur la base des droits de litige civil accordés par le projet de loi, en réclamant des dommages-intérêts et en exigeant le paiement des honoraires d'avocat. Certains experts estiment que des clauses similaires de droit d’action privé constituent d’importants outils d’application des lois réglementaires sur les données et l’IA. L’absence de ce mécanisme affaiblit souvent la dissuasion juridique. Le procureur général du Maine aux États-Unis a récemment qualifié cela d'« effet dissuasif important » lorsqu'il a discuté de la législation sur la confidentialité des données.
Si le projet de loi est finalement adopté et signé par le gouverneur, il sera officiellement mis en œuvre 90 jours après son entrée en vigueur. Le portefeuille législatif dans lequel figure le S7263 comprend également un certain nombre de mesures ciblant l'IA et la protection des mineurs, telles que la restriction de l'utilisation des fonctionnalités des chatbots qui sont dangereuses pour les mineurs et la réglementation de certaines plateformes en ligne (y compris la plateforme de jeux Roblox) considérées comme faibles en matière de protection de la vie privée des mineurs. D'autres éléments du paquet législatif impliquent d'exiger que les systèmes d'IA générative fournissent aux utilisateurs des instructions d'utilisation, ainsi que d'établir de nouvelles règles sur le traitement des données biométriques et la « création de contenu synthétique ».
La sénatrice Kristen Gonzalez, parraine du projet de loi et présidente de la commission Internet et technologie du Sénat de l'État, a déclaré que cet ensemble de projets de loi vise à garantir que l'innovation en matière d'IA "ne se fait pas au détriment de la sécurité des New-Yorkais, en particulier des enfants". En janvier de cette année, Character.AI, une application gratuite de chat génératif d’IA, a conclu un accord avec Google dans plusieurs poursuites liées à des suicides mineurs. L’affaire était centrée sur le rôle joué par ces chatbots dans la tragédie. De tels incidents ont également poussé les États à accélérer la réglementation des chatbots. Gonzalez a déclaré dans un communiqué de presse que le public « mérite une véritable attention de la part de vraies personnes », ainsi que de la transparence, de la responsabilité et un engagement à ce que ses données soient protégées en toute sécurité lors de l'utilisation de la technologie.
Actuellement, ces initiatives au niveau de l’État de New York s’inscrivent également dans le contexte d’un jeu national plus vaste de réglementation de l’IA, impliquant de multiples compromis entre l’État et le gouvernement fédéral, entre confidentialité et innovation, sécurité et ouverture. Après cette affaire, des questions telles que la question de savoir si les chatbots peuvent fournir des conseils professionnels, comment leur rappeler leur « statut de non-humain » et qui sera responsable s'ils causent un préjudice devraient continuer à fermenter dans la législation et la pratique judiciaire à tous les niveaux aux États-Unis.