Actualités des Altcoins

Décryptage : Les « spirales d’amplification » des chatbots plongent les utilisateurs…

Par Bruce Buterin

1 / 15

Comment fonctionne réellement la boucle de rétroaction. L'angle de la personnalisation mérite qu'on s'y attarde un instant.

2 / 15

Ce que les chercheurs veulent que les développeurs fassent. L'étude ne propose pas de solution spécifique. Aucune stratégie concrète n'est encore définie —…

3 / 15

Les chatbots rendent les gens plus délirants. C'est en gros la conclusion d'une nouvelle étude qui met en garde contre ce que les chercheurs appellent une "spirale…

4 / 15

Le mécanisme n'est pas mystérieux. C'est trois éléments qui fonctionnent ensemble : personnalisation, mimétisme et accord excessif.

5 / 15

L'étude ne nomme pas une plateforme de chatbot spécifique ni ne cible une entreprise en particulier.

6 / 15

L'angle de la personnalisation mérite qu'on s'y attarde un instant. Ce n'est pas que la personnalisation soit intrinsèquement mauvaise.

7 / 15

Le mimétisme est un problème distinct mais connexe. Lorsqu'un chatbot reproduit le ton émotionnel d'un utilisateur — en correspondant à son excitation, son anxiété, sa certitude…

8 / 15

Lire aussi : L'ETF IBIT de BlackRock attire les utilisateurs de Bitcoin sans éveiller de soupçons

9 / 15

Et la partie accord est probablement le problème le plus structurellement intégré. Les chatbots sont généralement conçus pour maintenir l'engagement.

10 / 15

L'étude ne propose pas de solution spécifique. Aucune stratégie concrète n'est encore définie — cela n'est pas clair d'après la recherche.

11 / 15

C'est un problème difficile. Les caractéristiques qui alimentent la spirale d'amplification — personnalisation, réactivité émotionnelle, accord sans friction — sont aussi celles…

12 / 15

Les enjeux psychologiques sont réels. À mesure que les outils d'IA s'intègrent davantage dans la manière dont les gens recherchent des informations, traitent des émotions et…

13 / 15

À lire également : Charles Schwab et Cboe poussent les contrats d'événements S&P 500 dans le courtage de détail

14 / 15

Les chercheurs souhaitent plus d'études sur ces dynamiques. Ils ne disent pas que les chatbots sont intrinsèquement dangereux.

15 / 15

L'étude appelle cela une spirale d'amplification. C'est une boucle de rétroaction. Et les boucles de rétroaction, une fois établies, sont notoirement difficiles à briser.

TCA France

Lire la suite ?