Meta est exposé aux tests internes du nouveau mécanisme de Muse : le personnel externalisé remplace manuellement les appels d'IA.

Résumé :

Selon des publications internes de Meta, la société teste un mécanisme de « gouvernante humaine » pour son nouvel assistant personnel d'IA, Muse : Muse peut sous-traiter les appels téléphoniques à des humains à l'insu de l'utilisateur, et le personnel du centre d'appels terminera l'appel à la place de l'IA.

Muse teste la fonction "manual housekeeper"

Au cours des deux semaines qui ont suivi son lancement, Muse s'est clairement hissé en tête de la liste des applications téléchargées aux États-Unis, devenant instantanément populaire sur le marché américain. Cet assistant IA peut effectuer de manière autonome des tâches telles que l'envoi d'e-mails, les achats et la réservation de voyages au nom des utilisateurs.

Il n'y a pas si longtemps, Meta vient de lancer la fonction d'appel de Muse. À l'aide de la fonction d'appel, les utilisateurs de Muse peuvent demander à l'IA d'appeler un commerçant américain, et l'IA communiquera avec l'autre partie pour effectuer des tâches telles que prendre rendez-vous pour une coupe de cheveux, vérifier l'inventaire du magasin et obtenir des devis de plusieurs fournisseurs de services.

Mais la semaine dernière, Meta a informé les employés d'un test interne d'une « femme de ménage humaine » :

Lorsque la fonction d'appel de Muse rencontre des scénarios complexes, l'appel peut être transféré à un sous-traitant de l'entreprise à l'insu de l'utilisateur, et le personnel du centre d'appels terminera l'appel.

Un vice-président du Meta Super Intelligence Laboratory a déclaré que certains tests ont montré que le taux de réussite des appels humains peut être augmenté jusqu'à 95 % à 98 %, ce qui est supérieur au taux de réussite des appels purement IA.

Cependant, des publications internes à l'entreprise montrent également que certains employés ont soulevé des

inquiétudes en matière de confidentialité

Un employé a écrit dans un message interne : "Il m'est difficile de comprendre pourquoi nous pensons que cette fonctionnalité vaut le risque. Il suffit d'un bug pour que des informations inutiles soient divulguées aux opérateurs humains."

Un autre employé a également spécifiquement mentionné un incident de discrimination raciale : il a un jour demandé à Muse d'appeler le câblo-opérateur du réseau pour négocier la facture, et les enregistrements d'appels ont montré que le personnel externalisé avait fait des remarques racistes pendant l'appel.

À cet égard, le vice-président du Meta Super Intelligence Laboratory a admis que le fait d'inciter le personnel externalisé à passer des appels téléphoniques sans notification suffisante était une « erreur » et a déclaré que l'entreprise avait temporairement annulé cette fonction.

Elle s'est également excusée auprès de l'employé qui avait signalé les remarques racistes lors de l'appel et a promis que le personnel d'externalisation impliqué ne participerait à aucun projet Meta à l'avenir.

Utiliser « l'intelligence artificielle » pour prétendre être une « intelligence artificielle » ?

Ce test réalisé par Muse donne au monde extérieur un aperçu d'une opération assez courante dans l'industrie technologique : les entreprises technologiques peuvent s'appuyer sur la force humaine en coulisses pour tenir leurs promesses promotionnelles de ce qu'on appelle "l'IA autonome".

Cela n'est pas sans rappeler une expérience menée par Meta il y a dix ans. Meta, qui s'appelait encore « Facebook » à l'époque, testait un assistant numérique appelé M dans Messenger. Les médias ultérieurs ont estimé qu'environ 70 % des tâches de l'assistant étaient en fait effectuées manuellement.

Interrogé sur la solution de « majordome artificiel » de Muse, un porte-parole de Meta a déclaré que les commentaires des employés étaient « généralement très positifs » et que le but de ce test était de « recueillir des commentaires pour mettre en œuvre des mécanismes de sécurité et de protection de la vie privée et optimiser les fonctions avant la sortie officielle ».

Le porte-parole de Meta, Daniel Roberts, a déclaré : "Nous travaillons avec les commerçants pour continuer à optimiser cette fonctionnalité d'appel potentielle. Elle ne sera officiellement lancée que lorsqu'elle sera prête et que les conditions seront entièrement communiquées."

Les données de l'agence d'information commerciale Sensor Tower montrent que Meta's Muse a été téléchargé plus de 2,5 millions de fois depuis son lancement.

Depuis la sortie du produit, le cours de l'action Meta a grimpé de plus de 20 % et sa valeur marchande a augmenté de plus de 200 milliards de dollars américains. À la clôture des marchés lundi, il a atteint un nouveau sommet en plus de sept mois. Cependant, le titre a légèrement baissé de 0,6% mardi.