Community Trust ScoreVérifié
Le régulateur financier britannique ne rédige pas de nouveaux règlements pour l’intelligence artificielle. L’Autorité de Conduite Financière préfère s’asseoir avec les entreprises, poser des questions difficiles et s’appuyer sur ce qui est déjà en place.
La position de la FCA est assez claire : les cadres existants — le Devoir de Consommateur et le Régime des Cadres Supérieurs et de Certification, connu sous le nom de SM&CR — suffisent pour l’instant. Aucune nouvelle réglementation n’est prévue. Ce que l’autorité souhaite plutôt, c’est comprendre comment les entreprises gèrent réellement leurs systèmes d’IA au quotidien, qui est responsable lorsque quelque chose tourne mal, et si les clients — en particulier les plus vulnérables — sont traités équitablement. Ces discussions ont déjà lieu. La FCA est en dialogue approfondi avec les entreprises financières sur les tests de modèles, le suivi des résultats et les structures de gouvernance. Ce n’est pas une approche passive d’attente. C’est un engagement actif et direct.
Pas de nouvelles règles. Un nouveau type de contrôle.
La gouvernance est le véritable champ de bataille
L’accent mis par la FCA sur la gouvernance n’est pas accidentel. Les modèles d’IA ne tombent pas en panne de manière spectaculaire — ils dérivent. Ils produisent des résultats subtilement biaisés au fil du temps, souvent de manière non évidente jusqu’à ce que de vrais consommateurs commencent à en souffrir. C’est probablement pourquoi l’autorité presse les entreprises de vérifier si leurs systèmes de surveillance peuvent réellement détecter les problèmes tôt, et pas seulement après qu’une plainte ait été déposée quelque part.
Le SM&CR met déjà des individus nommés sur la sellette pour les échecs à l’échelle de l’entreprise. Et le Devoir de Consommateur, qui est entré en vigueur en 2023, exige que les entreprises offrent de bons résultats aux clients de détail — pas seulement éviter les inconduites évidentes. Empiler la gouvernance de l’IA sur ces deux cadres n’est pas un étirement. C’est en quelque sorte le but. Les cadres supérieurs qui approuvent les déploiements d’IA ne peuvent pas se cacher derrière « le modèle a décidé ». Les structures de responsabilité sont déjà là.
La FCA veut également que les entreprises réfléchissent sérieusement à l’explicabilité — comment les décisions basées sur l’IA sont communiquées aux clients. Si un prêt est refusé ou si une prime d’assurance augmente à cause d’un algorithme, l’entreprise peut-elle vraiment expliquer pourquoi en termes simples ? On ne sait pas encore combien d’entreprises peuvent le faire correctement. Mais la FCA semble déterminée à le découvrir.
À quoi les entreprises doivent-elles s’attendre ensuite
Plus tard cette année, la FCA prévoit de publier des exemples de bonnes et mauvaises pratiques qu’elle a observées lors de ses échanges avec l’industrie. Ce n’est pas un document de consultation ni une déclaration de politique — c’est plutôt comme un bulletin sur ce que le régulateur a observé. Pour les entreprises qui ont été négligentes en matière de gouvernance de l’IA, c’est essentiellement un coup de semonce avant que quelque chose de plus formel n’arrive.
Et le timing est important. L’adoption de l’IA dans les services financiers a progressé rapidement. Les banques, les assureurs et les gestionnaires de patrimoine utilisent tous des modèles qui influencent les décisions de crédit, la détection des fraudes, les communications avec les clients, et plus encore. La FCA ne peut pas prétendre que cela n’arrive pas. Mais elle ne peut pas non plus réglementer une technologie qui évolue plus vite que la plupart des équipes politiques ne peuvent suivre. Donc l’approche actuelle — s’engager, observer, partager les résultats — est probablement l’option la plus réaliste disponible pour l’instant.
Cela dit, le régulateur ne se contente pas de collecter des informations. Il construit une image des endroits où se situent les vrais risques. Les entreprises qui ne peuvent pas expliquer leurs modèles, qui ne peuvent pas montrer des dossiers de tests robustes, ou qui ne peuvent pas démontrer un traitement équitable pour les clients vulnérables vont apparaître dans ces exemples publiés. Peut-être pas par nom. Mais l’industrie reconnaîtra les schémas.
Le dialogue continu de la FCA couvre également une préoccupation spécifique : les outils d’IA qui interagissent directement avec les consommateurs. Chatbots, systèmes de conseil automatisés, robo-conseillers — ce ne sont plus des hypothèses. Ils sont en direct, ils sont répandus, et ils prennent des décisions qui affectent les finances réelles des gens. L’autorité veut savoir si les clients comprennent ce qui motive ces interactions et si les entreprises ont une véritable supervision de ce que les systèmes font réellement.
Il n’y a aucune indication que la FCA s’apprête à adopter une position réglementaire stricte. Mais elle ne reste pas non plus silencieuse. Publier des exemples de bonnes et mauvaises pratiques est un geste délibéré — cela façonne le comportement sans l’imposer, et cela met les entreprises en garde que le régulateur surveille de près.
Les entreprises qui prennent de l’avance sur cela — une gouvernance forte, une explicabilité claire, des tests documentés, une surveillance appropriée — sont probablement en bonne position. Les entreprises qui n’ont pas sérieusement réfléchi à qui détient la responsabilité de l’IA au sein de leur organisation pourraient vouloir commencer avant que les conclusions de la FCA ne soient rendues publiques.
L’autorité prévoit de continuer à adapter son approche à mesure que la technologie et les retours de l’industrie évoluent. Pas de point final fixe, pas de nouveau règlement — juste un régulateur essayant de suivre le rythme d’une technologie qui n’a pas attendu la permission de quiconque pour transformer les services financiers.
Le crochet de responsabilité du SM&CR reste central à tout cela.
Questions Fréquentes
La FCA introduit-elle de nouvelles réglementations spécifiquement pour l’IA ?
Non. La FCA s’appuie sur les cadres existants — le Devoir de Consommateur et le Régime des Cadres Supérieurs et de Certification (SM&CR) — pour régir l’utilisation de l’IA par les entreprises, sans nouvelles règles prévues.
Que va publier la FCA sur les pratiques en matière d’IA ?
La FCA prévoit de partager des exemples de bonnes et mauvaises pratiques en matière d’IA tirés de ses échanges avec l’industrie, attendus plus tard cette année, pour aider les entreprises à adopter l’IA en toute sécurité.
