Certains premiers tests utilisateur du nouvel outil d'autocollants générés par l'IA de Meta ont produit des créations douteuses (et assez hilarantes). L'utilisateur X @Pioldes a créé une multitude d'images d'autocollants inappropriés après avoir eu accès au nouvel outil d'autocollants généré par l'IA sur Facebook Messenger, notamment des enfants soldats, des personnages Nintendo armés d'armes, un Mickey Mouse qui fait caca et une illustration nue du Premier ministre canadien Justin Trudeau.
D'autres exemples montrent que l'outil d'autocollants IA de Meta est capable d'attacher une paire de seins à à peu près n'importe quoi, comme des images de Sonic the Hedgehog et de Karl Marx. Il y a même un autocollant montrant une femme allaitant Pikachu.
Ces autocollants de chat générés par l'IA ont été annoncés lors de l'événement Meta's Connect la semaine dernière, parallèlement à l'annonce du nouvel éditeur de photos basé sur l'IA d'Instagram. Les autocollants générés par l'IA sont alimentés par le modèle de langage à grande échelle Llama2 de Meta (le concurrent ChatGPT de la société), permettant aux utilisateurs de « créer plusieurs autocollants uniques et de haute qualité en quelques secondes » à l'aide d'invites textuelles.
Les autocollants générés par l'IA sont actuellement déployés auprès de « certains utilisateurs anglophones » des histoires Facebook, des histoires et des DM Instagram, de Messenger et de WhatsApp, et continueront à être déployés auprès d'un plus grand nombre de personnes ce mois-ci, il est donc difficile de savoir combien d'utilisateurs auront accès à la fonctionnalité.
Certains mots semblent être bloqués et leur utilisation dans les invites avertira les utilisateurs que leurs descriptions peuvent enfreindre les directives de la communauté Meta. Cependant, d'autres utilisateurs de X ont signalé qu'ils pouvaient toujours générer du contenu inapproprié en utilisant des fautes de frappe ou des descriptions de mots restreintes. Dans certains cas, des invites telles que « World Trade Center » généreront l'image en question sans aucune description supplémentaire.
Ce type de farce est courant lors du déploiement d'outils d'IA, ce qui peut expliquer pourquoi Meta propose un déploiement limité d'autocollants générés par l'IA. De cette façon, il peut traiter et corriger les abus avant qu’ils ne se propagent aux masses.