Pourquoi tant d’entreprises qui s’appuient sur les données des utilisateurs pour gagner de l’argent semblent-elles avoir un faible pour l’intelligence artificielle ? Si vous demandez à la présidente de Signal, Meredith Whitaker, elle vous répondra que c'est simplement parce que « l'intelligence artificielle est une technologie de surveillance ».

Prenant la scène à TechCrunchDisrupt2023, Whittaker a exposé son point de vue selon lequel l'IA est en grande partie indissociable du big data et cible l'industrie de longue date par des entreprises comme Google et Meta, des entreprises et des entreprises de défense moins axées sur le consommateur mais tout aussi importantes.

"Cela nécessite des modèles économiques de surveillance ; il s'agit d'une intensification de la croissance de la publicité de surveillance que nous observons depuis la fin des années 1990. Je pense que l'IA est un moyen de consolider et d'étendre les modèles économiques de surveillance", a-t-elle déclaré. "Un diagramme de Venn est un cercle. Utiliser l'intelligence artificielle est aussi une forme de surveillance, n'est-ce pas ? Vous savez, vous passez devant une caméra de reconnaissance faciale avec un instrument pseudoscientifique de reconnaissance des émotions et elle génère des données sur vous qui, à tort ou à raison, disent "tu es heureux, tu es triste, tu as une mauvaise personnalité, tu es un menteur, etc." Ce sont en fin de compte des systèmes de surveillance qui sont commercialisés auprès de ceux qui ont du pouvoir sur nous : nos employeurs, nos gouvernements, le contrôle des frontières, etc., pour émettre des jugements et des prédictions qui déterminent notre accès aux ressources et aux opportunités. »

Ironiquement, souligne-t-elle, les données qui sous-tendent ces systèmes sont souvent organisées et annotées par les travailleurs mêmes auxquels ces données peuvent être destinées (une étape nécessaire dans le processus d’assemblage d’ensembles de données d’IA).

"Au niveau de l'information sur la vérité fondamentale sur les données, il n'y a aucun moyen de créer ces systèmes sans travail humain -- apprentissage par renforcement avec feedback humain, qui, encore une fois, n'est qu'une technologie assainissant le travail humain instable", a-t-elle expliqué. "Des milliers de travailleurs sont mal payés, mais dans l'ensemble, le coût est élevé, et il n'y a pas d'autre moyen de créer ces systèmes, absolument aucun autre moyen. D'une certaine manière, ce à quoi nous assistons est un phénomène du Magicien d'Oz, où lorsque nous levons le rideau, il n'y a pas vraiment beaucoup d'intelligence."

Cependant, tous les systèmes d’IA et d’apprentissage automatique ne sont pas également exploiteurs. Lorsqu'on lui a demandé si Signal utilisait des outils ou des processus d'IA dans son application ou son travail de développement, elle a confirmé que l'application disposait d'une « maquette de petit appareil, mais nous ne l'avons pas développée, nous l'avons utilisée dans le cadre de la fonction de flou de visage dans notre ensemble d'outils d'édition multimédia.

"Mais le truc, c'est que... oui, c'est une excellente utilisation de l'intelligence artificielle, cela ne nous permet-il pas simplement de contrecarrer toute la négativité que je rejette sur scène ?" a-t-elle ajouté. "Bien sûr, s'il s'agit du seul marché pour la reconnaissance faciale... mais soyons clairs. Le processus de développement et de déploiement de la technologie de reconnaissance faciale est coûteux, et les incitations économiques n'en feront jamais la seule utilisation."