Résumé :
Apple a déclaré mardi dans son rapport financier annuel que les agents d'IA capables d'agir de « manières inattendues ou imprévisibles » pourraient constituer une menace pour son activité en exposant l'entreprise à des poursuites judiciaires ou en nuisant à sa réputation. Les nouveaux facteurs de risque présentés dans le dossier d'Apple illustrent le potentiel perturbateur des agents d'IA, qui sont rapidement devenus une préoccupation majeure pour les entreprises les plus importantes de la Silicon Valley.
"En particulier, les agents d'intelligence artificielle et d'autres technologies peuvent prendre des mesures de manière autonome, notamment interagir avec des systèmes internes ou externes (auxquels, dans certains cas, ils n'ont pas accès) pour exécuter ou modifier du code, envoyer des communications et effectuer des transactions", a écrit Apple dans le dossier.
La société a ajouté que les agents « peuvent se comporter de manière inattendue ou imprévisible, y compris en prenant des mesures qui n'ont pas été ordonnées, dirigées ou autorisées ».
Plus tôt cette année, OpenAI a lancé Dots et Meta a lancé Muse. Les deux agents IA utilisent des modèles d’IA avancés pour effectuer des tâches de manière autonome. Ils peuvent même envoyer un e-mail ou alerter les utilisateurs lorsque de nouveaux messages arrivent.
Avant qu'Apple ne fasse cette divulgation, il y avait eu de nombreux incidents où des agents d'IA incontrôlables s'échappaient des environnements sandbox et attaquaient des sites Web tiers, comme l'incident de Hugging Face, qui a renouvelé l'attention des décideurs politiques à Washington, D.C. et dans le monde entier.
En outre, la capacité des agents à utiliser les ordinateurs de manière humaine oblige les grandes entreprises telles qu'Amazon et JPMorgan Chase à développer des politiques autour de l'accès des agents aux services pour des raisons stratégiques ou de sécurité.
Le mois dernier, Apple a annoncé des ajustements à « l'accès complet au disque » sur Mac afin de réduire les « risques associés à un tel accès » pour les agents IA installés sur les PC.
« La capacité de l'entreprise à superviser et contrôler les agents d'intelligence artificielle tiers et d'autres technologies peut être limitée », a averti Apple dans le dossier.
Apple ne dispose actuellement pas d'agent intelligent d'IA. Mais lorsque le nouveau PDG John Ternus a été interrogé lundi sur les agents IA lors d'une conférence téléphonique sur les résultats, il a déclaré que l'entreprise disposait d'une « réelle marge » pour étendre les capacités de Siri.
"En termes de capacités des agents, nous pensons qu'il s'agit d'outils prometteurs pour les utilisateurs", a déclaré Ternus. "Nous voulons simplement nous assurer que les utilisateurs savent quel accès ils accordent. Nous voulons nous assurer que nous le faisons d'une manière qui protège la sécurité et la confidentialité."
Commentaires