Le plus grand rassemblement technologique mondial parle de « blanchiment de responsabilité »— voici pourquoi nous devrions les nommer Mots de l’Année

Summer Yue n’est pas l’employée la plus célèbre de Meta. La directrice de la « recherche sur l’alignement et la sécurité de la superintelligence » publie des photos d’elle promenant son chien sur la plage et des messages sur la vérification de l’honnêteté des assistants IA. Elle a un nombre modeste de followers sur les réseaux sociaux.

Recommandé vidéo

Mais pendant une journée en février, Summer Yue est devenue la personne la plus discutée chez Meta. Pas pour avoir lancé un nouveau produit remarquable ou annoncé une avancée dans l’IA agentique. Elle est devenue la personne la plus discutée chez Meta pour avoir été prise en flagrant délit.

« Rien ne vous humble comme dire à votre OpenClaw ‘confirmer avant d’agir’ et le voir supprimer votre boîte mail en un temps record », a écrit Yue sur X – un post qui compte maintenant près de 10 millions de vues. « Je n’ai pas pu l’arrêter depuis mon téléphone. J’ai dû COURIR jusqu’à mon Mac mini comme si je désamorcais une bombe. »

OpenClaw est un « agent autonome » – un produit d’intelligence artificielle capable d’effectuer des tâches de manière indépendante. Favori de la Silicon Valley, il se propose d’être votre assistant administratif constant, le « IA qui fait vraiment des choses ». Donnez-lui accès à votre journal, vos emails, votre vie, et il vous fera gagner du temps et réduire votre stress, affirment les développeurs du produit. La première phrase du site d’OpenClaw indique : « Vide votre boîte mail, envoie des emails, gère votre calendrier, vous enregistre pour les vols. »

Yue a admis avoir commis une « erreur de débutant ». Elle a testé l’assistant sur une petite liste d’emails « jouet » puis l’a déployé sur toute sa boîte mail, trop grande pour les prompts de garde-fou (« vérifier avec moi ») qu’elle avait utilisés pour le pilote. Mais si même un « directeur de la superintelligence » chez Meta a du mal à naviguer dans le monde de l’IA agentique et des « effets de compression », quel espoir reste-t-il pour nous autres ?

Lire plus : PDG de Qualcomm : « La résistance est futile » à l’approche de la révolution mobile 6G

C’est une conversation essentielle, si importante que lors du Mobile World Congress cette semaine à Barcelone – le plus grand rassemblement technologique au monde – le faux pas de Yue a été débattu sur la scène principale.

« Bien sûr, tout le monde ici au Congrès mondial parle d’OpenClaw et de comment nous pouvons utiliser des agents », a déclaré Kate Crawford, professeure de recherche à l’Université de Californie du Sud.

« Mais ensuite, nous avons vu la responsable de la sécurité de l’IA chez Meta utiliser OpenClaw, et elle a supprimé toute sa boîte mail. C’est la responsable de la sécurité chez Meta. Donc, si elle rencontre des problèmes, je pense que nous devons tous nous demander : ‘Comment faire pour que ces systèmes soient vraiment renforcés, comment s’assurer qu’ils sont rigoureusement testés ? Comment faire pour pouvoir leur déléguer en toute confiance ?’ Et c’est vraiment le problème le plus difficile à résoudre, n’est-ce pas ? »

Exactement. Quand quelque chose tourne mal, qui en est responsable ? L’utilisateur ? Le développeur ? Le manque de régulation ? Quand la réalité de l’IA entre en conflit avec la promesse de l’IA, que faisons-nous ?

La boîte mail de Yue peut n’avoir qu’une importance suprême pour elle. Mais en ce qui concerne la relation entre la technologie et, disons, notre santé, ou, notez-le bien, la défense de la nation, c’est une toute autre affaire. Il n’y a pas si longtemps, Grok, le bot d’intelligence artificielle de xAI, « déshabillait » casualement des images de femmes et de filles, au dégoût de millions. La menace d’une action gouvernementale ou étatique a finalement poussé à agir.

« Comment faire pour que ces systèmes soient vraiment renforcés, comment s’assurer qu’ils sont rigoureusement testés… ? »

Kate Crawford, professeure de recherche à l’Université de Californie du Sud

« Comment construire réellement une responsabilisation ? » a demandé Crawford. « C’est ce que nous voulons tous. Si vous commencez à utiliser des agents pour réserver vos vols, organiser vos rendez-vous médicaux, ou pour des activités plus intimes et de confiance dans votre vie quotidienne, vous voulez savoir que les informations seront protégées. »

« Alors, comment tester cela ? Comment s’assurer que cela se passe ? Si l’on regarde ce qui s’est passé ces dix dernières années dans le secteur technologique, malheureusement, nous avons vu beaucoup de blanchiment de responsabilité – c’est-à-dire quand les entreprises disent : ‘Je ne sais pas. C’est l’algorithme qui l’a fait.’ »

Ce n’est pas suffisant. Crawford exige une transparence totale et un audit du « entraînement des agents », un processus de bout en bout révélant ce qui a mal tourné et qui est responsable. Les entreprises technologiques doivent écouter et agir. Il y aura de plus en plus de Summer Yue – et cela signifiera certainement bien plus que quelques emails perdus et un post honnête sur X.

Rejoignez-nous pour une conversation virtuelle avec les cadres supérieurs du Fortune 500 Europe, en partenariat avec Syndio, sur la maîtrise des décisions en matière de main-d’œuvre et la transparence salariale à l’ère de l’IA. Conçue pour les responsables RH mondiaux et régionaux, cette session explore comment les CHRO utilisent l’IA pour prendre des décisions salariales plus intelligentes, gérer les risques réglementaires et renforcer la confiance des employés. Réservé aux CHRO et aux hauts responsables RH. Inscrivez-vous dès maintenant.