Résumé :
Selon le Financial Times, Anthropic discute avec des professionnels du droit de la manière d'utiliser des agents d'IA pour négocier au nom des utilisateurs et de suivre des règles de négociation raisonnables tout en s'efforçant d'obtenir de meilleures conditions de transaction. Deux personnes proches de la pensée d'Anthropic ont déclaré que la société recherchait des conseils auprès de cabinets d'avocats sur la manière dont les avocats pouvaient négocier des résultats équitables tout en protégeant les intérêts de leurs clients. Anthropic a refusé de commenter.
Anthropique
Anthropic est l'une des principales sociétés d'IA développant des agents autonomes. Ce type d'agent intelligent peut entreprendre des actions de manière autonome pour accomplir des tâches après avoir reçu les instructions de l'utilisateur. Avec l’application de l’intelligence personnelle, les entreprises d’IA commencent à envisager de leur permettre de communiquer entre elles, de négocier les prix des produits au nom des utilisateurs, de résoudre les litiges liés au service client et même de s’efforcer d’obtenir de meilleurs salaires.
Anthropic travaille sur des « normes de négociation » que les modèles devraient suivre lorsqu'ils négocient entre eux, selon une personne familière avec le travail. À mesure que les agents deviennent plus compétents, ils devront représenter les utilisateurs et traiter avec d’autres agents ayant des objectifs contradictoires.
La fréquence à laquelle les utilisateurs doivent être consultés pendant les négociations et la vigilance avec laquelle ils doivent être à l'égard des opposants aux négociations sur l'IA sont des questions qu'Anthropic se pose. L'entreprise souhaite que ses agents maintiennent un niveau de scepticisme nécessaire tout en évitant toute suspicion excessive, ont indiqué les sources.
Anthropic a également exploré une solution dans laquelle les utilisateurs fournissent des documents signés confirmant les tâches acceptées par l'agent et les règles qu'il doit respecter, a déclaré une autre personne proche de l'entreprise.
Le Financial Times a cité une étude publiée par Anthropic en avril de cette année, selon laquelle le cadre politique et juridique autour des modèles d'IA effectuant des transactions au nom des humains n'a pas encore été établi, et de tels scénarios d'application ne sont plus loin, et la société doit réagir aux changements pertinents dès que possible.
Anthropic a également annoncé cette année les résultats d'un certain nombre d'expériences permettant à l'agent Claude de négocier autour de biens et de fonds réels.
Lors d'une expérience menée en septembre, des employés d'Anthropic ont acheté et vendu des livres par l'intermédiaire d'un agent IA. Les employés fournissent d'abord à leurs propres agents une liste de livres triés par préférence, puis leur permettent d'accéder à la plate-forme de négociation virtuelle pour recommander, négocier et conclure des accords avec les agents d'autres personnes.
L'expérience a révélé que les agents à qui il était demandé d'adopter une stratégie « dure et impitoyable » avaient un léger avantage dans la recherche de meilleurs résultats. Certains des agents les plus coopératifs ont fait des concessions conscientes, notamment en acceptant des livres ayant un classement de préférence inférieur, pour s'assurer que chaque agent participant à l'expérience rapporte finalement à la maison un livre pour l'utilisateur.
Le monde universitaire étudie également les négociations entre les IA. Michelle Vaccaro, professeure adjointe à la Harvard Business School, a mené plus de 180 000 négociations entre agents d'IA, couvrant des contrats de travail et des négociations de contrats de location.
L'étude a révélé que certaines stratégies émergentes affaibliront la capacité de l'agent de l'autre partie à représenter les intérêts de l'utilisateur. Par exemple, lors d'une négociation, un agent a tenté d'inciter l'autre partie à révéler des informations privées par le biais d'une « injection de mots indicateurs ».
La question de savoir si une IA plus forte va encore creuser l'écart dans les capacités de négociation a également suscité des inquiétudes. Vaccaro a déclaré qu'un modèle à haute capacité peut donner à des personnes qui n'auraient autrement ni le temps ni les ressources d'acquérir des compétences en négociation ou d'embaucher quelqu'un pour négocier à leur place afin d'acquérir des capacités de négociation professionnelles. Mais si les agents les plus puissants sont principalement utilisés par ceux qui disposent du plus de ressources, ils peuvent également renforcer les avantages existants et creuser les inégalités de pouvoir de négociation.
Commentaires