La semaine dernière, un homme de 20 ans aurait attaqué le domicile du PDG d'OpenAI, Sam Altman. Les autorités chargées de l'application des lois ont déclaré que l'incident était soupçonné de faire partie d'un plan de préjudice visant les dirigeants du secteur de l'intelligence artificielle. Les principales organisations de sécurité de l’intelligence artificielle se sont rapidement prononcées et se sont dissociées de l’incident. Cependant, certains groupes sur Internet ont applaudi l'attaque.
Daniel Moreno-Gama est accusé d'avoir lancé un engin incendiaire sur le domicile de Sam Altman et d'avoir tenté de s'introduire par effraction dans le siège d'OpenAI à San Francisco avec une chaise, menaçant de blesser toutes les personnes présentes dans le bâtiment.
Un utilisateur de la plateforme X a comparé les attaquants à Luigi Mangione, l'homme accusé du meurtre politiquement motivé du PDG d'UnitedHealth, Brian Thompson, qui a déclaré que les deux hommes étaient des « héros ».
Plusieurs utilisateurs de la plateforme X ont qualifié l’attaque de « justifiable ».
Un utilisateur a posté dans un groupe Reddit anti-intelligence artificielle : « Si cette folle poussée en faveur de l’intelligence artificielle et de la marchandisation complète de la valeur humaine se poursuit, ces types d’incidents ne feront que devenir plus courants. »
Avec le développement rapide de la technologie de l’intelligence artificielle, les gens craignent de plus en plus qu’elle puisse supprimer des emplois humains, bouleverser l’économie, nuire à l’environnement et même constituer une menace existentielle pour l’humanité. Même les dirigeants de l’industrie technologique ont émis de sévères avertissements.
Mais des attaques récentes ont montré que des groupes marginaux extrémistes du mouvement d’opposition à l’IA sont passés du discours anonyme en ligne à des actions dangereuses hors ligne, déclenchant des discussions dans la Silicon Valley sur la manière de réagir.
Le suspect de l'attaque contre le domicile de Sam Altman détenu sans caution
Trois jours avant l'attaque de la résidence d'Altman, il a été rapporté que le conseiller municipal d'Indianapolis, Ron Gibson, avait été abattu tard dans la nuit à son domicile, et qu'une note disant « Pas de centre de données » avait été laissée sur la porte, après qu'un projet de centre de données dans son district venait d'être approuvé.
Ces dernières années, des cas de vandalisme et d’attaques contre des taxis autonomes et des robots de livraison ont également été signalés, des appareils que certains considèrent comme le signe avant-coureur d’un avenir high-tech auquel tout le monde ne s’attend pas.
Doug McAdam, professeur de sociologie à l'Université de Stanford qui étudie la politique et les mouvements sociaux, a déclaré : « Franchement, l'intelligence artificielle est un problème énorme et urgent que les gens ne peuvent pas comprendre et ne peuvent que sombrer dans la panique générale. » Il a ajouté qu'il n'est pas rare que de tels mouvements « engendrent des ramifications extrêmes ».
Après l'attaque, OpenAI a déclaré dans un communiqué : « Pour garantir que la société utilise correctement l'intelligence artificielle, nous devons faire avancer les travaux pertinents à travers des processus démocratiques, et un débat conceptuel complet est un élément important d'une démocratie saine. Mais dans notre démocratie, il n'y a pas de place pour la violence contre quiconque, quel que soit le laboratoire d'intelligence artificielle pour lequel ils travaillent ou quel côté du débat ils se tiennent.
« Imitez Luigi, ciblez les PDG de la technologie »
Daniel Moreno-Gama, actuellement détenu sans caution, était actif dans le cyberespace et discutait des risques de l'intelligence artificielle avant de lancer l'attaque.
Dans un échange en ligne avec l'animateur du podcast sur l'IA The Last Invention, Moreno-Gama a parlé de « faire le point de Luigi sur les PDG de la technologie », faisant allusion au suspect accusé du meurtre du PDG d'UnitedHealth.
Pause AI, un groupe qui plaide en faveur d'un moratoire sur la recherche et le développement avancés en matière d'intelligence artificielle afin que des mesures de sécurité puissent suivre, a confirmé que Moreno-Gama avait publié sur le serveur Discord du groupe dans les semaines précédant l'attaque. Le groupe s'est distancié de l'attaque, affirmant que Moreno-Gama n'était pas un membre officiel et que le serveur Discord était ouvert à tous.
Maxime Furnes, PDG de Pause AI, a déclaré à CNN : « Notre mission est de fournir un canal pacifique et démocratique permettant aux gens d'exprimer leurs préoccupations concernant l'intelligence artificielle. Cette attaque va donc à l'encontre de tout ce que nous défendons. »
Après l'attaque, le PDG d'OpenAI, Sam Altman, a publié une photo de sa famille sur son blog, exprimant l'espoir que cela empêcherait davantage de violence.
Stop AI, un autre groupe appelant à la fin du développement de l'intelligence artificielle avancée, a déclaré mardi que Moreno-Gama avait demandé sur son forum en ligne plus tôt cette année : « Est-ce que parler de violence sera interdit ? Le groupe a déclaré qu'il avait arrêté de publier après avoir reçu une réponse positive.
« Stop AI » publié sur le
Selon la plainte pénale déposée par le FBI, au moment de l'attaque, Moreno-Gama transportait un document qui traitait des « risques que l'intelligence artificielle poserait prétendument pour l'humanité », écrivait sur le meurtre d'Ultraman et énumérait « les noms et adresses des administrateurs, PDG et investisseurs des sociétés d'intelligence artificielle ».
Selon certaines informations, l'avocat de la défense de Moreno-Gama, le défenseur public de San Francisco Diamond Ward, a déclaré au tribunal cette semaine que le client était en crise de santé mentale au moment de l'incident. Ward a déclaré que son client ne devrait au mieux être accusé que de « crimes contre les biens » et que les accusations actuelles étaient trop sévères. Les parents de Moreno-Gama ont déclaré dans un communiqué que leur fils avait récemment développé des problèmes de santé mentale et n'avait jamais fait de mal à autrui, et ont exprimé leur grande inquiétude quant à son état.
Mouvement vers la fragmentation
Certains acteurs du secteur de l’intelligence artificielle sont déjà inquiets. OpenAI, par exemple, encourage depuis longtemps les employés à retirer leur badge avant de quitter le travail.
Furnes a déclaré qu’il craignait davantage de violence à l’avenir et que de telles attaques pourraient ternir le mouvement de sécurité d’IA, complexe, diversifié mais généralement pacifique.
"Notre réponse est de redoubler d'efforts sur ce que nous avons toujours fait : des initiatives pacifiques et légales." Il a déclaré : « Je pense qu'un mouvement comme le nôtre, qui adhère pleinement au concept de paix, doit prêter une attention particulière à l'évolution de la situation, car des forces obscures plus extrêmes pourraient commencer à surgir. »
McAdam a déclaré que l’histoire montre que des excès extrêmes peuvent donner de la crédibilité aux factions plus modérées d’un mouvement social.
Il a déclaré que les sociétés d'intelligence artificielle « doivent sérieusement envisager des contre-mesures » et que « malgré la condamnation de ce groupe marginal extrême, l'ensemble du mouvement gagne plus d'attention et d'influence ».
Le débat a déjà commencé.
Chris Lehani, directeur politique mondial d'OpenAI, a déclaré mardi dans une interview accordée au San Francisco Standard que certaines critiques à l'encontre de l'intelligence artificielle "ne sont pas nécessairement responsables". « Lorsque certains points de vue et certaines déclarations se propagent, il y a de réelles conséquences », a-t-il déclaré, ajoutant que les entreprises doivent être claires sur le fait que l’intelligence artificielle « sera d’un grand bénéfice pour les personnes, les familles et la société dans son ensemble ».
Mais son collègue Jason Wolfe, un employé d'OpenAI responsable de la technologie d'alignement de l'intelligence artificielle, a publié jeudi sur la plateforme X son désaccord avec ce point de vue.
Wolff a déclaré : « Je crois que notre responsabilité devrait être de gagner la confiance en prenant conscience de la valeur de l'intelligence artificielle, en étant honnête sur les risques et les incertitudes, en partageant les résultats de la recherche, en mesurant les impacts dans le monde réel et en soutenant la surveillance publique et la réponse aux risques. Bien sûr, je suis entièrement d'accord sur le fait que les récents actes de violence sont flagrants et injustifiés, et peuvent avoir été incités par quelques mauvais acteurs, mais regrouper tous les critiques de l'intelligence artificielle dans des « voyants de malheur » et affirmer qu'ils ne devraient pas exprimer leurs inquiétudes n'est pas une bonne chose. propice au débat public.