Selon les informations du 5 juin, l'assistant Scout AI de Microsoft venait de sortir, mais il a suscité une controverse en raison d'un document de stratégie interne : le document énonçait l'objectif de la première phase comme « rendre les gens accros » (Rendre les gens accros). Plus tard, le PDG de Microsoft, Satya Nadella, a exprimé son opposition à cette voie en interne.
Selon un document interne obtenu par 404 Media, le matériel s'appelle « ClawPilot : aperçu et planification du « Projet Lobster » » et conçoit un chemin d'avancement en trois étapes pour Scout. Selon le document, Scout est un agent d'IA personnel « toujours actif » intégré à Microsoft 365 qui peut gérer le calendrier, les e-mails, la planification de réunions et d'autres tâches professionnelles.
La polémique vient du fait que "les gens ne peuvent pas s'en passer tous les jours"
Ce qui ressort le plus clairement du document, c'est l'objectif de la première phase : « rendre les gens dépendants ». Le document explique en outre qu'à ce stade, nous continuerons à offrir une expérience ClawPilot indépendante, à peaufiner l'expérience utilisateur, à élargir la base d'utilisateurs et à construire un écosystème de compétences et d'outils afin que les gens ne puissent pas s'en passer au quotidien.
404 Media a rapporté qu’AI avait également participé à la rédaction du document lui-même. Le document indique également que Scout est devenu « l'un des outils les plus populaires » au sein de Microsoft, utilisé par plus de 1 000 employés, dont Nadella lui-même.
Un employé anonyme de Microsoft a déclaré à 404 Media qu'écrire la « dépendance » dans la stratégie produit est « très dérangeant ». Sa préoccupation n'est pas simplement une question de formulation, mais plutôt le fait que les chatbots et les agents IA entrent de plus en plus dans le travail, les émotions et les scénarios de prise de décision quotidienne des utilisateurs. Si un produit poursuit activement un sentiment de dépendance, ses limites seront plus sensibles que celles d'un logiciel ordinaire.
Nadella s'oppose-t-elle à l'orientation du produit ou à la formulation interne ?
The Information a rapporté plus tard que Nadella avait repoussé cette ligne avancée par les dirigeants de Microsoft. Les informations accessibles au public montrent que l'opposition de Nadella se concentre sur les projets de produits qui « rendent les utilisateurs dépendants », mais le monde extérieur n'est actuellement pas en mesure de confirmer ses propos originaux en interne, l'étendue de sa livraison et s'il a nommé le responsable spécifique.
Dans le blog officiel de Microsoft annonçant Scout le 2 juin, il n’y avait aucune expression liée à la « dépendance ». Le communiqué officiel souligne que Scout « comprend votre façon de travailler », prend des mesures sur les choses qui intéressent les utilisateurs et est « sous votre contrôle ». Le blog mentionne également que Scout dispose de contrôles de sécurité et de conformité intégrés au niveau de l'entreprise, notamment la gestion des identités Microsoft Entra, les politiques de protection des données Microsoft Purview et la nécessité d'une approbation manuelle pour les opérations sensibles.
Cependant, de nombreux médias étrangers ont cité le rapport de 404 Media selon lequel le document divulgué citait « la sécurité et la conformité » comme des problèmes qui doivent être progressivement résolus à l'avenir, plutôt que comme une condition préalable à la publication. Pour un assistant IA de bureau qui a besoin d'accéder à des informations sensibles telles que les e-mails, le calendrier et les contacts, cette séquence a un impact plus direct sur la confiance des utilisateurs que la formulation « addictive » elle-même.
Ce dont les utilisateurs d’Office doivent vraiment s’inquiéter
La raison pour laquelle la controverse sur Scout se propage facilement est qu'il ne s'agit pas d'un produit de divertissement, mais d'un assistant IA intégré dans l'entrée du bureau. Les courtes vidéos, les jeux mobiles et les réseaux sociaux utilisent des mécanismes pour augmenter le temps de rétention des utilisateurs, et de nombreuses personnes s'y attendaient déjà ; mais si un outil qui aide les utilisateurs à gérer leurs e-mails, leurs calendriers et leurs réunions prend comme premier objectif « ne peut pas vivre sans lui », les utilisateurs seront non seulement confrontés à un outil d'efficacité, mais également à un flux de travail rebondi.
Pour les utilisateurs de Microsoft 365, le risque n'est pas que Scout devienne définitivement « addictif », mais que la relation de dépendance soit écrite à l'avance par la conception du produit : il apprend d'abord vos habitudes de travail, puis prend en charge davantage de tâches quotidiennes, puis se connecte à davantage d'outils d'IA. Chaque étape peut augmenter le coût de sa non-utilisation.
La réfutation de Nadella montre au moins que la haute direction de Microsoft a réalisé que le mot « dépendance » ne peut pas être l'orientation publique des produits bureautiques IA. Cependant, ce document a circulé en interne et a été obtenu par les médias sous la forme d'une note de direction, qui montre également que Microsoft doit encore clarifier les objectifs de croissance, l'ordre de sécurité et les limites des utilisateurs des agents d'IA en interne.