Résumé :
Le gouverneur de Californie, Gavin Newsom, a signé le No Robot Bosses Act (SB 947), interdisant aux employeurs de s'appuyer sur l'intelligence artificielle pour licencier ou discipliner des employés. La nouvelle loi interdit aux entreprises de prendre de telles décisions uniquement sur la base de systèmes décisionnels automatisés et restreint également l’utilisation de l’IA comme principal outil de prise de décision. Si l'employeur s'appuie principalement sur les résultats de l'IA pour prendre des décisions de licenciement ou disciplinaires, ceux-ci doivent être vérifiés par un examinateur humain en conjonction avec d'autres informations telles que les évaluations de la direction, les évaluations des collègues et les dossiers du personnel. Les employés concernés doivent également recevoir un avis écrit indiquant que l'IA a joué un rôle majeur dans la décision, quelles données des employés ont été utilisées par le système et un contact humain qui peut expliquer davantage la décision.
L'auteur du projet de loi, le sénateur démocrate de l'État de Californie Jerry McNerney, a déclaré que les travailleurs ne devraient pas être licenciés ou punis par des machines ou l'IA ; On s’attend à ce que l’intelligence artificielle augmente la productivité, mais elle peut également commettre des erreurs, des erreurs de jugement et faire preuve de parti pris. C’est donc aux humains de contrôler les outils d’IA, et non l’inverse. Lorena Gonzalez, présidente de la Fédération du travail de Californie et l'un des principaux partisans du projet de loi, a déclaré que les syndicats et les travailleurs californiens ont poussé l'État à prendre l'initiative de réglementer l'IA sur le lieu de travail et ont modifié le débat sur la façon dont le public américain devrait réagir à l'arrivée de l'IA sur le lieu de travail.
McNerney a présenté le projet de loi pour la première fois en 2025. Bien que le projet de loi ait été adopté par les deux chambres de Californie à une écrasante majorité cette année-là, Newsom a toujours opposé son veto. Newsom a reconnu à l'époque qu'une prise de décision automatisée non réglementée pourrait nuire aux employés, mais s'est opposé à l'obligation pour les entreprises d'informer les employés à l'avance de tout système d'IA susceptible d'affecter les conditions de travail, arguant que le projet de loi initial fixait une obligation de notification trop large pour toutes les entreprises et des outils inoffensifs. Lorsque McEnany a réintroduit le projet de loi en février de cette année, il a supprimé l'exigence de notification préalable ainsi qu'une disposition étendant la protection aux travailleurs à la demande ; ce dernier avait été fortement opposé par les sociétés de covoiturage telles que Uber et Lyft. Les changements ont atténué la pression du lobbying des groupes technologiques et commerciaux, mais les entreprises californiennes ont continué à s'opposer au projet de loi avant sa signature.
Robert Singleton, directeur principal des politiques et des affaires publiques pour la Californie et l'ouest des États-Unis à la Chambre de commerce progressiste, a déclaré dans une lettre à Newsom que le projet de loi oblige les employeurs à remplir des obligations lorsqu'ils « s'appuient principalement » sur des systèmes de prise de décision automatisés, mais ne définit pas ce concept clé, ce qui rend difficile pour les entreprises de juger quand la technologie passe d'une aide à la prise de décision à une base principale. Il a averti que sans précision sur la question de savoir si les outils communs sont réglementés, les employeurs pourraient être réticents à utiliser des technologies susceptibles de contribuer à améliorer la cohérence de la prise de décision, à identifier les risques pour la sécurité ou à aider les gestionnaires à prendre de meilleures décisions.
Newsom a récemment pris une série de mesures liées à l'IA. Plus tôt ce mois-ci, il a signé un décret visant à répondre aux risques existentiels que les modèles d'IA peuvent poser « avant qu'il ne soit trop tard » et a poussé à la mise en place d'un cadre au niveau de l'État pour évaluer et auditer de manière indépendante les modèles d'IA. Il a également critiqué le gouvernement fédéral pour avoir abandonné sa responsabilité de protéger les Américains. Une enquête publiée par l'OCDE l'année dernière a montré que les États-Unis sont en tête du monde dans l'application de logiciels de gestion automatisés. 90 % des managers américains déclarent que leur entreprise utilise au moins un outil pour commander, suivre ou évaluer les collaborateurs. D'anciens employés de Meta ont intenté une action en justice en juillet de cette année, alléguant que l'entreprise avait utilisé des systèmes assistés par l'IA pour trier et sélectionner les employés en vue de licenciements, et avoir affecté de manière disproportionnée les employés qui avaient pris un congé de maladie ou un congé familial ; Meta a nié les accusations pertinentes. Une enquête publiée en mai par United for Respect, une organisation à but non lucratif liée au secteur américain de la vente au détail, a montré que les employés d'Amazon et de Walmart sont également de plus en plus préoccupés par l'automatisation des décisions relatives au personnel. Le groupe a poussé sans succès les actionnaires de Walmart l’été dernier à exiger de la direction qu’elle divulgue l’utilisation de l’IA dans la gestion des employés.
La nouvelle loi intervient alors que les inquiétudes du public concernant l'IA continuent de croître aux États-Unis. Un sondage Gallup de juillet a montré que 39 % des Américains pensaient que l'IA ferait plus de mal que de bien, contre 31 % en 2025. Une enquête du Pew Research Center réalisée en août de cette année a révélé que 71 % des Américains pensaient que l'IA « supprimerait des emplois », soit une augmentation d'environ 7 points de pourcentage par rapport à il y a environ deux ans. Newsom envisage de se présenter à la présidence en 2028, et la politique en matière d’IA devrait être une question importante pour les candidats démocrates. Le candidat républicain au poste de gouverneur de Californie, Steve Hilton, soutient également publiquement le SB 947 et estime que le projet de loi n'est pas assez strict. Il a déclaré que les employeurs ne devraient pas laisser AI déterminer si les employés sont licenciés, rétrogradés, perdent des heures normales ou exclus des projets sur lesquels ils comptent pour gagner un revenu.
La Californie deviendra le premier État à établir un cadre réglementaire aussi strict pour l'IA sur le lieu de travail. Au cours des cinq dernières années, l'Illinois et d'autres endroits ont adopté des restrictions sur la participation d'AI aux décisions en matière d'emploi ; La loi publique 103-0804 de l'Illinois, entrée en vigueur en janvier de cette année, oblige les employeurs à informer les employés lorsque l'IA est utilisée dans des scénarios d'emploi spécifiques, mais n'interdit pas le déploiement de systèmes numériques de type agent pour prendre des décisions en matière d'emploi. Des projets de loi similaires sont toujours bloqués dans de nombreux États du pays. En juin de cette année, les sénateurs démocrates américains Ed Markey et Brian Schatz ont proposé un projet de loi fédéral du même nom qui interdirait aux employeurs de s'appuyer sur des systèmes décisionnels automatisés pour prendre des décisions liées au travail. Cependant, comme le Congrès n’a pas activement promu une législation réglementaire sur l’IA, les perspectives de ce projet de loi sont limitées. Des projets de loi similaires ont été proposés à New York, en Louisiane et au New Jersey, mais n'ont pas encore été mis en œuvre. New York est devenu le premier État du pays à interdire les nouveaux centres de données IA plus tôt cette année. La nouvelle loi californienne pourrait pousser d’autres États à accélérer la législation sur l’IA sur le lieu de travail.
L'Electronic Frontier Foundation, une organisation de défense des libertés civiles de tendance libérale, a déclaré que la signature du projet de loi est une étape importante dans la protection des employés qui utilisent des systèmes de prise de décision automatisés, et qu'elle continuera à travailler avec les groupes syndicaux pour promouvoir des politiques qui préservent la dignité sur le lieu de travail.
Commentaires