Meta a récemment officiellement lancé un nouveau système de détection de contenu d'IA « Content Seal », qui vise à intégrer des filigranes invisibles dans les images créées par les modèles de dernière génération d'IA de l'entreprise (tels que Muse), aidant ainsi les internautes à distinguer le contenu réel des contrefaçons profondes. Cependant, la sortie de ce nouveau système n’a pas reçu les éloges de l’industrie. Au lieu de cela, cela a suscité de nombreux doutes quant à sa nécessité et à son caractère pratique.

Il est entendu que le principe de fonctionnement de base de Content Seal est similaire à celui de Google.ID de synthétiseurSemblables aux informations d’identification de contenu du C2PA, les signaux de traçabilité invisibles à l’œil nu sont intégrés au contenu généré par l’IA. Même si l'image est recadrée, compressée, redimensionnée ou capturée, le filigrane peut toujours être reconnu par les outils de détection. Bien que sa logique fonctionnelle recoupe fortement les normes existantes, Meta n'a pas choisi de rejoindre l'écosystème mature soutenu par plusieurs géants, mais a décidé de créer indépendamment un nouveau système exclusif.

L’analyse a souligné que Content Seal a mis en évidence de nombreuses limites évidentes à ce stade. Tout d'abord, les utilisateurs ne peuvent actuellement réussir que le test que Meta teste.Outils Web propriétairespour les tests, Meta n'est pas encore aussiGoogle fait ça en GémeauxIntégrer cette capacité de détection directement dans son produit chatbot principal. Deuxièmement, ce filigrane n'est actuellement applicable qu'aux images générées par le modèle Muse sur les applications et sites Web Meta AI. Non seulement il n’est pas en mesure de couvrir les modèles d’IA précédents de Meta, mais la prise en charge du contenu vidéo généré n’a pas encore été lancée.

De plus, Meta impose également une limite d'utilisation quotidienne de l'outil de détection pour empêcher les abus malveillants du système, ce qui contraste fortement avec la norme C2PA qui ne fixe pas de limites de requêtes. Des tests multimédias pertinents montrent également que le taux de réussite de la détection de Content Seal est faible face à des images recadrées. L'industrie estime généralement qu'avec la vague d'IA générative qui déferle sur le monde, Meta a lancé ce système auto-développé avec des fonctions limitées et un démarrage tardif. Non seulement il n’a pas réussi à améliorer efficacement la transparence de l’IA sur l’ensemble du réseau, mais il a au contraire ajouté des obstacles inutiles pour permettre aux utilisateurs grand public de vérifier l’authenticité du contenu.