Résumé :
Le PDG d'OpenAI, Sam Altman, semble être profondément troublé par le produit d'intelligence artificielle cauchemardesque qu'il a contribué à créer, et peut même avoir du mal à dormir paisiblement. Vers 0 h 57, heure de l'Est, Altman a posté sur la plateforme X : "Il y a deux tendances désastreuses dans le développement de l'intelligence artificielle qui doivent être évitées. Premièrement, nous pourrions perdre le contrôle de l'avenir de l'intelligence artificielle. C'est inacceptable. Nous sommes fermement du côté de l'humanité, et l'intelligence artificielle doit toujours être au service des gens. Pour ce faire, nous devons assurer la vitesse de développement de technologies et de méthodes de sécurité alignées, et garder une longueur d'avance sur l'itération des capacités des modèles."
Il a poursuivi en écrivant : « Le deuxième risque est la forte concentration du pouvoir dans le monde. Si une certaine personne ou une certaine entreprise maîtrise une intelligence artificielle extrêmement puissante et impose sa propre vision du monde à tout le monde, le résultat sera extrêmement dystopique.
En seulement deux jours, le PDG d'Anthropic, Dario Amodei, et Altman, deux géants de l'industrie de l'IA, ont émis l'un après l'autre des avertissements concernant cette technologie puissante qu'ils dirigeaient et ont amené la plus haute équipe de R&D à accélérer.
Amodei a déclaré samedi sur son blog personnel : « Au cours des derniers mois, je suis devenu de plus en plus convaincu que pour répondre pleinement aux risques associés, nous devons agir avec plus de prudence. Non seulement nous investissons des ressources pour prévenir les risques, mais nous devons également contrôler la vitesse d'itération des capacités de l'IA et laisser du temps pour rattraper notre retard en matière de prévention et de contrôle des risques. gain."
Après qu'Amodei ait publié son message, Ultraman a immédiatement exprimé son opinion et a souscrit au point de vue de son concurrent.
Ces commentaires interviennent après que deux chercheurs en IA ont exprimé leurs inquiétudes quant aux dangers des modèles d'IA avancés de pointe.
Plus tôt la semaine dernière, Jacob Coxon a annoncé son départ d'Anthropic. Il a déclaré que ni Anthropic ni OpenAI n'ont assumé la responsabilité qui leur revient dans le développement de systèmes d'intelligence artificielle hautes performances.
Par la suite, Evan Harbinger, responsable de la science de l'alignement chez Anthropic, a répondu au message de Coxon, approuvant les sentiments de l'ancien employé. Il estime qu'il y a plus de 10 % de chances que cette technologie « provoque l'extinction de tous les êtres humains ».
Le président Trump a rejeté dimanche ces préoccupations en matière de sécurité. Il a déclaré : "Nous sommes à la tête de la Chine dans le domaine de l'intelligence artificielle. Nous sommes le pays le plus avancé technologiquement au monde et, franchement, j'espère conserver cet avantage, car celui qui remportera le concours de l'intelligence artificielle gagnera l'avenir."
Affectés par les inquiétudes mentionnées ci-dessus, les principales actions du secteur de l'IA ont été sous pression lundi, le marché craignant que le développement de la technologie de l'IA ne rencontre des obstacles. SanDisk était en baisse de 5 % dans les échanges avant commercialisation, tandis que Nvidia était en baisse de 3 % dans les échanges avant commercialisation.
Dan Ives, associé fondateur de Yorkville Ives, a déclaré à Yahoo Finance : "Je pense que l'article de Dalio, associé aux discussions de l'industrie du week-end, provoquera un bref affaiblissement à l'ouverture de lundi, mais le marché va bientôt rebondir. Les investisseurs verront bientôt clairement que malgré cette tempête d'opinion publique dans l'industrie, la situation globale de 5 000 milliards de dollars d'investissements dans l'IA au cours des cinq prochaines années ne changera pas sensiblement."
Commentaires