Apple teste un nouveau système d'intelligence artificielle appelé "Live Notes" dans certains magasins de détail, qui vise à aider les employés du Genius Bar à réduire leur charge de travail en enregistrant, transcrivant et résumant automatiquement les conversations, leur permettant ainsi de se concentrer davantage sur la communication en face à face avec les clients.
Le système utilise la technologie de l’IA pour capturer les conversations entre les employés et les clients, puis les convertit en résumés textuels et les enregistre dans les dossiers de maintenance sur les iPad des employés. Afin de garantir la confidentialité et la conformité, Apple a mis en place un mécanisme de « garde-fou » clair : le projet est actuellement en phase pilote, et non seulement il adopte pleinement le principe de participation volontaire, mais il doit être lancé avec le consentement mutuel des employés et des clients. De plus, Apple a clairement indiqué en interne que les fichiers d'enregistrement audio ne seront pas sauvegardés de manière permanente et que la direction du magasin ne pourra pas accéder à ces transcriptions. Les employés ont également le pouvoir d'éditer et de modifier le résumé et le texte générés par l'IA avant que l'enregistrement ne soit officiellement stocké dans le système.
Cependant, même avec les protections ci-dessus en place, cette décision suscite toujours des inquiétudes concernant la confidentialité et la surveillance parmi les employés des magasins Apple. De nombreux employés craignent que même si les autorisations actuellement définies sont limitées, ces outils de surveillance numérique risquent de devenir un moyen permettant à la direction d'évaluer les performances des employés, de fournir des conseils au travail ou de surveiller leur comportement à l'avenir. Cette préoccupation n’est pas sans fondement. Avec la popularité croissante de divers « outils de productivité » dans l'industrie technologique, il n'est pas rare dans l'industrie de transformer les systèmes d'IA initialement utilisés pour améliorer l'efficacité en méthodes de surveillance interne.
Pour l'instant, Apple n'a pas divulgué le calendrier de mise en œuvre spécifique ni les plans d'expansion ultérieurs de cette fonctionnalité, et il n'est pas sûr qu'il ajustera sa politique d'utilisation ou rendra cette fonctionnalité obligatoire une fois le pilote terminé. Dans le contexte de l'inquiétude croissante du secteur concernant la surveillance numérique des employés en entreprise, le projet pilote de pointe d'Apple n'est pas seulement une pratique technique, mais il place également une fois de plus les limites de l'application de l'intelligence artificielle dans le domaine du service client et la question de la confiance des travailleurs et de la direction au premier plan des discussions.