Résumé :
Une photo d'un crocodile générée par l'intelligence artificielle a récemment déclenché une véritable chasse à l'homme à Singapour. La photo ayant été confondue avec une photo réelle, la direction locale a temporairement suspendu les activités dans la zone aquatique populaire et a mobilisé des ressources pour lancer une chasse à l'homme. L'homme qui a produit et diffusé la photo encourt désormais des sanctions judiciaires pouvant aller jusqu'à dix ans de prison.
Selon les informations recueillies sur le cas, Ye Lin, 30 ans, a utilisé Google Gemini pour générer une photo de crocodiles d'eau salée apparaissant dans le réservoir de Pandan en août de cette année et l'a envoyée à un collègue. Il semblerait que cet acte ait peut-être commencé comme une plaisanterie, mais la photo a ensuite été diffusée davantage et a finalement donné lieu à des informations sur l'observation du crocodile qui ont été signalées à l'agence nationale de l'eau de Singapour, PUB.
Pandan Reservoir est un site local populaire pour le kayak et les sports nautiques. Après avoir reçu la notification, le PUB et le National Park Service ont pris des mesures rapides, non seulement en émettant un avertissement au public, mais également en suspendant toutes les activités nautiques dans la zone et en organisant le personnel pour mener des opérations de recherche et de capture de crocodiles.
Après enquête, les services compétents ont confirmé le lendemain que la photo dite du crocodile était en réalité une fausse image générée par l'IA. Par la suite, PUB a signalé l'affaire à la police et l'affaire a officiellement fait l'objet d'une enquête pénale.
L'enquête policière a révélé que Ye Lin avait supprimé les photos pertinentes et l'application Gemini de son téléphone portable après l'incident. Les autorités chargées de l'application des lois ont considéré cette démarche comme un moyen de dissimuler les preuves et d'entraver les procédures judiciaires. Par conséquent, en plus de l'accusation de « diffusion de fausses informations », il a également été accusé d'« entrave à la justice ».
Selon la loi de Singapour, la diffusion de fausses informations est passible d'une peine pouvant aller jusqu'à trois ans de prison et d'une amende pouvant aller jusqu'à 10 000 dollars singapouriens, ou les deux ; l’entrave à la justice est passible d’une peine pouvant aller jusqu’à sept ans de prison. S’il est reconnu coupable des deux chefs d’accusation, il encourt une peine maximale de dix ans.
L'affaire a également déclenché des discussions sur les risques d'utilisation abusive de l'intelligence artificielle générative. Cet incident a non seulement conduit à une erreur de jugement du public, mais a également amené plusieurs agences gouvernementales à consacrer du personnel et des ressources pour faire face à un incident de sécurité inexistant. Les responsables ont souligné que les fausses informations et les contenus modifiés, falsifiés ou générés par l'IA peuvent provoquer la panique du public et gaspiller de précieuses ressources publiques, de sorte que les comportements concernés seront traités avec sérieux.
Il semblerait que Ye Lin ait déclaré qu'il prévoyait de plaider coupable et qu'il n'engagerait pas d'avocat pour se défendre. L'affaire devrait être à nouveau entendue en novembre de cette année.
Cet incident est considéré comme un cas représentatif à l'ère de l'intelligence artificielle générative. Alors que la technologie de génération d’images IA devient de plus en plus réaliste, comment distinguer le contenu réel du contenu artificiel et comment empêcher les abus des technologies associées deviennent de nouveaux défis auxquels sont confrontés les agences de réglementation et le public dans divers pays.
Commentaires