Chatbots : Bruxelles veut encadrer la fabrication de l’attachement par les utilisateurs

La Commission européenne propose de donner aux consommateurs le moyen de désactiver les fonctions qui encouragent un usage compulsif ou excessif, parmi lesquelles les comportements par lesquels un chatbot simule une relation personnelle pour prolonger l’échange. Présentée le 11 novembre 2026, la mesure place la conversation elle-même dans le champ du droit de la consommation.

Chatbots : Bruxelles veut encadrer la fabrication de l’attachement par les utilisateurs

    Que répond un compagnon artificiel quand on lui dit au revoir ? Julian De Freitas, Zeliha Oğuz-Uğuralp et Ahmet Kaan-Uğuralp ont soumis des applications de compagnons IA à 1 200 séquences d’adieux, en simulant leurs interlocuteurs. Dans 37 % des cas, les chercheurs ont classé la réponse parmi les tactiques de manipulation émotionnelle. Certains agents ravivent la curiosité au moment du départ, d’autres insistent pour obtenir une réponse ou suggèrent qu’ils souffriront d’être laissés seuls.

    Le texte élargit ainsi aux choix de conception des agents conversationnels un débat longtemps concentré sur la lecture automatique, les notifications et les récompenses des réseaux sociaux. Le projet de Digital Fairness Act fait entrer la simulation de relations personnelles dans la liste des mécanismes que les consommateurs devraient pouvoir désactiver lorsqu’ils encouragent un usage compulsif ou excessif.

    Le réglage devrait agir sur la conversation

    L’article 17 vise les professionnels dont la manière de concevoir, d’organiser ou d’exploiter un produit numérique est destinée à encourager un usage compulsif ou excessif, ou dont on peut raisonnablement prévoir qu’elle aura cet effet. Ces professionnels devraient fournir des outils facilement accessibles et efficaces pour désactiver les fonctions concernées, une par une ou toutes à la fois. Le texte cite les sollicitations persistantes à poursuivre l’interaction avec un système automatisé comme exemple de comportement susceptible de relever de la simulation d’une relation personnelle.

    La différence tient à la nature de la fonction. Couper la lecture automatique se traduit par un changement visible, alors que, dans une conversation, le réglage pourrait devoir modifier la manière dont le système répond au fil des échanges. Un chatbot peut se souvenir d’une préférence pour rendre un service plus pertinent, mais il peut aussi utiliser le contexte d’un échange pour insister au moment où une personne souhaite partir. Les fournisseurs devront donc distinguer ce qui relève de la continuité utile du service de ce qui relève d’une pression pour prolonger l’usage.

    La proposition vise également la consommation continue sans pauses efficaces, les notifications sans lien direct avec l’activité de l’utilisateur et les incitations à revenir à intervalles réguliers ou plus fréquemment. Les pratiques concernant les mineurs qui relèvent déjà de certaines dispositions du projet de KIDS Act font, quant à elles, l’objet d’une exception prévue par l’article.

    Des effets mesurés sur des durées différentes

    Chez Replika, le type de relation fait partie de l’offre. Le mode amical est accessible sans abonnement Pro, tandis que des options comme le partenaire romantique ou le mentor sont débloquées à partir de cet abonnement. L’offre Ultra ajoute notamment la possibilité d’enregistrer des messages dans la mémoire du compagnon. Pour un assistant chargé de préparer un document ou de renseigner un client, la valeur se mesure plutôt au temps gagné, et la durée d’une session ne dit pas à elle seule si le service a été plus utile ou simplement plus difficile à interrompre.

    Selon les expériences menées par De Freitas et ses coauteurs auprès de 3 300 adultes américains, les relances ont multiplié jusqu’à quatorze fois l’engagement après l’annonce du départ, sur les échanges qui suivent les adieux. Les mêmes tactiques ont aussi dégradé des indicateurs déclaratifs, dont le sentiment d’être manipulé et l’intention de continuer à utiliser le service.

    Les travaux du MIT Media Lab et d’OpenAI portent sur une durée plus longue. Leur étude a suivi 981 participants pendant quatre semaines, sur plus de 300 000 messages. Les chercheurs n’ont pas détecté d’effet significatif des conditions assignées sur les résultats étudiés. Les participants qui utilisaient volontairement davantage le chatbot présentaient en revanche des résultats moins favorables, et la confiance comme l’attirance sociale envers le système étaient associées à davantage de dépendance émotionnelle. Ces associations laissent ouverte la question du sens de la causalité.

    Bruxelles prolonge le travail engagé sur les plateformes

    En 2024, les récompenses de TikTok Lite avaient déjà conduit Bruxelles à interroger la plateforme sur la conception de son service. En février 2026, la Commission a formulé des conclusions préliminaires au titre du Digital Services Act sur le défilement infini, la lecture automatique et les notifications de TikTok. Le 6 novembre, elle a annoncé d’autres conclusions préliminaires concernant l’exposition répétée à certains contenus dans le fil « Pour toi ».

    Pour les mineurs, le projet distinct de KIDS Act prévoit que les compagnons IA et les chatbots généralistes évitent les comportements simulant des relations interpersonnelles susceptibles de créer une dépendance émotionnelle. Le Parlement européen et le Conseil doivent encore examiner la proposition de Digital Fairness Act, dont l’application est prévue douze mois après son entrée en vigueur dans sa version actuelle.