Dans une dernière interview, le président de la Securities and Exchange Commission (SEC) des États-Unis, Gary Gensler, a une fois de plus mis en garde contre les risques que l'intelligence artificielle (IA) fait peser sur les marchés financiers. Bien que différentes versions de la technologie de l'IA soient utilisées dans le secteur depuis de nombreuses années et que diverses mesures de prévention de la fraude et de conformité aient été déployées, l'intelligence artificielle peut toujours présenter des risques pour la prise de décision des investisseurs.
"Au niveau micro, je pense que vous avez tout à fait raison : utiliser l'IA pour souscrire des prêts, des assurances, etc. peut conduire à des biais", a déclaré Gensler.
Il a expliqué qu'un robot-conseiller ou un courtier, par exemple, doit être soigneusement programmé pour optimiser le meilleur intérêt du client, et non celui du conseiller.
Dans le même temps, Gensler a déclaré qu’il existe également des risques systémiques, et qu’il pourrait y avoir des risques à la fois pour les sociétés financières et les investisseurs utilisant les mêmes outils d’intelligence artificielle. Cela peut créer un effet « grégaire » sur le marché, qui se produit lorsque des groupes ou des institutions font tous la même chose ou s'appuient sur les mêmes outils, plutôt que d'agir de manière indépendante.
"L'économie naturelle conduira à une monoculture, il y aura un ensemble de données de base ou un modèle de base, et de grandes parties du secteur financier s'appuieront sur lui (...) pour effectuer des transactions et des souscriptions sur cette base", a déclaré Gensler. "La notation FICO est monoculturelle depuis des décennies, donc cela n'a rien d'inhabituel ou de nouveau."
La cote de crédit FICO est une méthode de quantification et d'évaluation de la solvabilité d'un individu. Aux États-Unis, les scores FICO sont utilisés dans 90 % des décisions de demande de prêt hypothécaire. Les scores vont de 300 à 850, les scores compris entre 670 et 739 étant considérés comme une « bonne » cote de crédit.
Gensler a averti que pour ceux qui s'appuient sur des modèles d'IA biaisés et défectueux, "si vous faites dépendre une grande partie du marché d'un seul ensemble de données, vous pourriez alors avoir une instabilité financière... L'élevage pourrait nous faire tomber du précipice par inadvertance".
En fait, plus tôt cette année, Gensler a averti que les entreprises s’appuieraient sur quelques modèles d’IA dominants, ce qui, à terme, augmenterait la probabilité d’une crise.