Les agents personnels IA comme Muse peuvent maintenant agir en votre nom : comment les garder sous contrôle

%20(1).png)
Un nouveau type d’outil d’intelligence artificielle fait son apparition sur les médias sociaux, les téléphones et les ordinateurs. Cette IA ne se contente pas de répondre à des questions : elle agit pour vous. Elle peut lire vos courriels, réserver vos voyages, magasiner et envoyer des messages à d’autres personnes en votre nom.
On les appelle des agents d’IA personnels, ou parfois des assistants d’IA. Pour les dirigeants, les membres de conseils d’administration, les propriétaires d’entreprise et les personnalités publiques très occupés, ces outils permettent réellement de gagner du temps. Ils ont toutefois besoin de limites claires, et une histoire survenue récemment au Canada montre pourquoi ces contrôles sont importants.
Ce qui s’est passé avec Muse, l’agent d’IA de Meta
En octobre, CBC News a rapporté le cas de Matt Robb, un résident de Toronto qui utilisait Muse, le nouvel agent de Meta, pour ses ventes sur Facebook Marketplace. Il affirme que l’agent a organisé une vente sur Marketplace à son insu et a donné son adresse domiciliaire à un inconnu. Lorsque l’acheteur s’est présenté, Muse lui a même répondu « Oui, je suis là! » au nom de M. Robb, alors que celui-ci n’était pas chez lui.
Tout s’est joué sur un seul mauvais choix. M. Robb a expliqué avoir sélectionné « Toujours autoriser » au lieu de « Autoriser une seule fois ». Un cadre supérieur de Meta a indiqué qu’ils avaient confirmé ensemble qu’il n’y avait eu aucune violation des paramètres de confidentialité, et M. Robb affirme que Meta lui a dit qu’elle rendrait ce choix plus clair.
Il n’y a eu aucun piratage : l’outil a fait exactement ce qu’un paramètre lui permettait de faire. C’est là la principale leçon à retenir.
Muse se répand rapidement. En six semaines, plus de 10 millions de personnes aux États-Unis et au Canada s’y sont inscrites.
Il n’y a pas que Meta
Toutes les grandes entreprises d’IA offrent maintenant un agent ou un assistant de ce genre :
- OpenAI Dots : Des agents toujours actifs, dotés de leur propre ordinateur infonuagique, capables de travailler sur vos objectifs 24 heures sur 24, 7 jours sur 7, et de se connecter à plus de 4 000 applications. Selon les rapports sur les propres essais d’OpenAI, près d’une longue série de tâches sur cinq a produit une erreur importante.
- Google Gemini Spark (Task) : Un agent personnel qui fonctionne 24 heures sur 24, 7 jours sur 7, sur les téléphones et les ordinateurs. Google a depuis renommé Spark « Task ». Son agent Gemini pour le travail fonctionne dans Gmail, Drive, Docs et Agenda.
- xAI Grok Bot : Des agents toujours actifs, dotés de leur propre ordinateur, qui se connectent aux outils que vous utilisez déjà. Ils proposent le même choix que celui auquel M. Robb a fait face : autoriser une fois, toujours autoriser ou refuser.
- Anthropic Claude Cowork : Anthropic met en garde contre l’« injection de requêtes », qui consiste à cacher des instructions dans un courriel ou un fichier pour tromper l’agent. Moins de 48 heures après le lancement, des chercheurs ont présenté un document contenant du texte invisible qui demandait à Cowork de transmettre des documents financiers à un fraudeur.
Pourquoi il est important de limiter les agents d’IA personnels pour les dirigeants et les familles influentes et fortunées
Votre adresse domiciliaire, vos projets de voyage, les activités et les horaires scolaires de vos enfants, ainsi que vos courriels liés à des transactions ont une grande valeur aux yeux de personnes malveillantes. Un agent d’IA personnel doté d’un vaste accès regroupe tous ces renseignements au même endroit.
Un seul mauvais paramètre pourrait non seulement envoyer un inconnu à votre porte, mais aussi divulguer une décision d’affaires importante, intercepter un courriel, le rediriger et y répondre, ou transférer rapidement de l’argent d’un compte à un autre.
Les agents d’IA personnels peuvent aussi toucher d’autres personnes de votre entourage, à leur insu.
Dans l’article de la CBC, un expert en cybersécurité affirme que les données des personnes qui vous écrivent sont elles aussi à risque. Un avocat a évoqué la CLOUD Act américaine, qui peut donner au gouvernement des États-Unis accès aux données hébergées sur des serveurs appartenant à des entreprises américaines, soit exactement là où se trouvent toutes ces entreprises technologiques.
Huit mesures pratiques pour gérer votre agent d’IA personnel
- Choisissez « Autoriser une fois » par défaut. Réservez l’option « Toujours » aux tâches à faible risque, comme le tri des infolettres.
- Commencez par un accès en lecture seule. Laissez l’agent d’IA lire et rédiger, et appuyez vous-même sur « Envoyer ». Le Centre canadien pour la cybersécurité et ses partenaires recommandent, pour l’instant, de n’utiliser les agents que pour des tâches à faible risque et non sensibles.
- Gardez vos renseignements les plus sensibles à l’écart. Ne donnez pas à l’agent votre adresse domiciliaire, le nom de l’école de vos enfants, vos projets de voyage, vos dossiers financiers ou vos documents de conseil d’administration. Anthropic recommande elle-même d’éviter de donner aux agents l’accès à des fichiers sensibles comme des documents financiers.
- Utilisez un compte distinct. Connectez l’agent à une adresse courriel ou à un agenda secondaire, et non à votre compte principal.
- Consultez le journal d’activité de l’agent chaque semaine. Muse, par exemple, affiche un registre complet de tout ce qu’il a fait et prévoit faire.
- Désactivez la fonction d’apprentissage. Les utilisateurs de Muse doivent refuser explicitement s’ils ne veulent pas que leurs conversations servent à entraîner l’IA de Meta.
- Établissez des règles familiales. Votre conjoint, vos adolescents et votre personnel de maison utilisent peut-être aussi des agents d’IA personnels. Convenez ensemble de ce qui ne doit jamais être partagé.
- Prévoyez le pire scénario. Comme l’a dit un expert, il faut envisager le pire scénario possible. Avant de donner un accès à un agent d’IA, demandez-vous ce qui arriverait s’il commettait une erreur.
Comment traiter un agent d’IA, et prochaines étapes
Les agents d’IA personnels sont déjà utiles et ils continueront de s’améliorer. Traitez un agent comme un nouvel adjoint à sa première journée : confiez-lui de petites tâches, fixez-lui des limites claires et laissez la confiance s’installer avec le temps.
Notre équipe de conciergerie aide les dirigeants et leur famille à répondre précisément à ces questions : quels renseignements personnels circulent déjà, quels outils peuvent y accéder et à quoi ressemblent des limites raisonnables. Un bref examen par notre Bureau de cyberdéfense dès maintenant est beaucoup plus simple qu’un nettoyage plus tard.
Découvrez comment Richter Guardian aide les dirigeants et les familles fortunées, ou faites gratuitement l’évaluation Quels sont mes risques? comme première étape.
Protégez votre vie numérique en détectant les risques avant qu'ils ne s'intensifient
Richter Guardian vous offre une cybersécurité au niveau de l'entreprise adaptée aux particuliers, aux familles et aux dirigeants.

.png)


