L'audit de l'IA fantôme : dix questions que j'ai vraiment posées à mon équipe

La réponse qui m'a arrêté n'était pas « oui, des gens collent des données de clients dans ChatGPT ». Ça, je le savais déjà. C'était plutôt que deux personnes de l'équipe ne voyaient même pas ça comme un risque — pour elles, c'était juste un Google avec de meilleures manières. Cet écart, entre ce que la conformité présume que les gens savent et ce qu'ils croient réellement à propos d'une fenêtre de clavardage, c'est toute la raison de faire un audit de l'IA fantôme avant d'écrire une politique que personne ne lira.

Si vous cherchez une liste de vérification en ce moment, voici la version courte : dix questions, posées en tête-à-tête, pas par sondage. Un sondage laisse les gens arrondir leur prudence. Une conversation, non. Une bonne partie de ce qui a orienté notre décision vers une plateforme d'IA canadienne, plutôt que de rapiécer le problème avec un courriel d'avertissement, est sortie de ces conversations plutôt que du cartable de conformité.

Ce que je cherchais vraiment à savoir

Je m'occupe de la protection des renseignements personnels et de la gouvernance de l'information dans une firme de services professionnels de taille moyenne — ni la santé, ni la défense, mais assez encadrée pour que les dossiers clients contiennent des renseignements personnels visés par la LPRPDE et, pour nos clients basés au Québec, par la Loi 25. L'audit n'a pas été déclenché par un incident, et je veux être honnête là-dessus, parce que la plupart de ce que j'ai lu sur le sujet part du principe qu'une fuite de données a tout lancé. Ce n'est pas notre cas. Ça a commencé parce qu'un associé a demandé, presque en passant, si nos stagiaires d'été utilisaient l'IA pour rédiger des notes de service, et je me suis rendu compte que je n'avais aucune idée de la réponse pour qui que ce soit.

Le but n'était donc pas de prendre les gens en défaut. C'était de découvrir quels outils étaient déjà utilisés, sur quelles données, et pourquoi les gens s'étaient tournés vers eux plutôt que vers ce qu'on avait autorisé — ce qui, à ce moment-là, n'était rien du tout.

Les dix questions

J'ai gardé la liste courte, exprès. Une longue liste, on la survole. Une courte liste, on y répond honnêtement — du moins, c'est ce que je pensais au départ.

• Quels outils d'IA as-tu utilisés pour le travail dans le dernier mois, y compris ceux que tu as essayés une fois puis abandonnés?
• Quel genre de documents ou de texte as-tu collé dedans — des brouillons, des noms de clients, des chiffres financiers, quoi que ce soit d'identifiable?
• As-tu utilisé un compte personnel ou ton courriel professionnel pour t'inscrire?
• Aurais-tu utilisé un outil approuvé par la firme, si un tel outil existait?
• Est-ce que quelqu'un t'a déjà dit de ne pas utiliser d'outils d'IA pour le travail des clients?
• Sais-tu où vont les données après que tu appuies sur entrée?
• As-tu déjà utilisé l'IA pour résumer quelque chose qui contenait des renseignements personnels d'un client?
• As-tu vérifié auprès de quelqu'un avant de l'utiliser, ou ça ne t'a pas traversé l'esprit de vérifier?
• Qu'est-ce qui te ferait arrêter d'utiliser des outils externes dès demain?
• Qu'est-ce que tu aimerais que la firme te donne et qu'elle ne te donne pas?

Cette dernière question s'est révélée plus importante que les neuf premières réunies.

Ce qui n'a finalement pas eu d'importance

J'avais présumé que la gestion des appareils occuperait une grande place là-dedans — ordinateurs portables verrouillés versus appareils personnels, extensions de navigateur, tout ce terrain-là. Ça a à peine été mentionné. Presque tout le monde utilisait des appareils approuvés. Le point d'exposition n'était pas les appareils, c'était l'habitude : des gens qui utilisaient un outil qui semblait privé simplement parce que c'était une boîte de texte, sans réfléchir à ce qui arrivait au texte ensuite. J'ai passé pas mal de temps de préparation sur un inventaire des appareils qui ne nous a presque rien appris d'utile. Si je recommençais, je couperais cette question et je passerais ce temps-là sur le « pourquoi ».

Où la question de la juridiction s'est vraiment invitée

Deux réponses ont fait basculer la conversation en territoire juridique plus vite que je m'y attendais.

Une avocate collait de la correspondance client caviardée dans un clavardeur généraliste pour se faire aider avec le ton et la structure — rien d'ouvertement identifiant, selon elle, même si « caviardé » voulait dire, dans les faits, qu'elle avait retiré le nom du client et laissé le reste. Une autre personne avait utilisé un outil d'IA gratuit pour résumer un contrat contenant des renseignements personnels d'un client québécois, ce qui se rapproche du genre de transfert que l'article 17 de la Loi 25 demande à une organisation d'évaluer avant qu'il ait lieu, pas après.

C'est à ce moment que notre responsable de la sécurité et nos avocats externes sont entrés en scène, et c'est aussi là que l'enjeu du CLOUD Act est devenu concret plutôt que théorique. La position de nos conseillers juridiques était claire, et elle n'en a pas bougé : si la société mère d'un outil est une entité américaine, les autorités américaines disposent d'un mécanisme légal pour exiger la production du contenu client que cette société détient, peu importe où les serveurs se trouvent physiquement. Ce n'est pas une affirmation sur le fait que ça arriverait. C'est une affirmation sur le fait que ça pourrait arriver, et pour une firme qui gère des dossiers de clients québécois, ce « pourrait » suffisait pour changer notre liste courte.

L'article 17 de la Loi 25 du Québec exige qu'une organisation effectue une évaluation des facteurs relatifs à la vie privée avant de communiquer des renseignements personnels hors Québec, et qu'elle évalue si la destination offre une protection adéquate au regard du droit québécois.

Ce n'est pas du texte passe-partout pour nous. C'est le vrai test que notre responsable a appliqué à chaque outil sur la liste, y compris ceux avec qui on avait déjà des contrats.

Ce qu'on a vraiment évalué

On a examiné trois options : ne rien faire et écrire une politique sévère, acheter un siège d'entreprise chez l'un des grands fournisseurs américains d'IA, ou migrer vers une plateforme d'IA canadienne conçue dès le départ autour de la résidence des données au Canada. L'option « politique seulement » est morte rapidement — l'audit venait de nous montrer qu'une politique sans solution de rechange utilisable ne change pas les comportements, elle rend simplement les gens plus discrets à ce sujet.

L'option du siège d'entreprise est allée plus loin. C'est un produit crédible, et je veux être juste envers lui. Mais le libellé contractuel sur les sous-traitants était long, et la réaction honnête de notre responsable a été que le lire attentivement ne réglait pas la question du CLOUD Act, ça ne faisait que la documenter avec plus de précision.

On a aussi essayé Augure, principalement parce qu'un collègue d'une autre firme avait mentionné que le prix était pensé pour des équipes de notre taille plutôt que pour des comptes d'entreprise. Le forfait Pro coûte 20 $ CA par mois par utilisateur, avec une allocation mensuelle de calcul et 100 documents, ce qui comptait pour nous parce qu'on voulait quelque chose que les gens pourraient vraiment utiliser sur de vrais dossiers, pas une démo plafonnée. Quand je lui ai posé directement une question hypothétique sur un transfert au sens de la Loi 25 — un dossier client contenant des renseignements personnels, résumé et partagé au sein d'une équipe — la réponse obtenue était plus restreinte que ce à quoi je m'attendais : l'outil a signalé le transfert comme quelque chose à évaluer en vertu de l'article 17, plutôt que de se déclarer lui-même conforme, ce que j'ai en fait préféré, parce qu'un outil qui promet la conformité à votre place vous raconte quelque chose de faux. Augure n'a pas de société mère américaine, et les données clients ainsi que l'inférence d'IA ne sont jamais traitées par des fournisseurs de juridiction américaine, ce qui correspond à la version précise de l'enjeu du CLOUD Act que nos avocats accepteraient — ils ont été clairs : affirmer de façon générale « non assujetti au CLOUD Act » n'est pas quelque chose qu'ils cautionneraient, mais « les autorités américaines n'ont aucun mécanisme d'accès à un fournisseur de juridiction canadienne détenant du contenu client », oui. Les données clients sont stockées au Canada, et l'inférence tourne sur une infrastructure canadienne ou, pour certains niveaux de modèles et pendant les bascules de secours, avec des partenaires européens vérifiés selon des conditions de rétention zéro des données — jamais sur une infrastructure américaine. La livraison des courriels et le traitement des paiements par carte passent tout de même par des fournisseurs basés aux États-Unis, ce qui est divulgué dans la politique de confidentialité plutôt que caché. C'est exactement le genre de nuance qui m'aurait échappé si j'avais survolé une page de vente au lieu de lire la liste des sous-traitants, alors j'ai lu la liste des sous-traitants.

La fonction de base de connaissances est ce qui a vraiment été adopté, plus que l'interface de clavardage. Les avocats pouvaient la pointer vers un dossier de documents de précédent et poser des questions dessus sans que ces documents quittent l'infrastructure canadienne. Je ne m'attendais pas à ce que ce soit l'argument de vente à l'interne. Je pensais que ce serait le clavardage.

Ce que je changerais

Je referais l'audit avec un échantillon plus petit d'abord — cinq personnes plutôt que toute l'équipe — parce que le motif qualitatif est apparu après environ quatre conversations, et le reste ne faisait que le confirmer sans ajouter grand-chose. J'ai aussi sous-estimé le temps que ça prendrait pour obtenir l'approbation d'un nouvel outil une fois l'audit terminé; l'audit lui-même a été rapide, l'approvisionnement, non. On n'était pas certains, au départ, si on allait opter pour une seule plateforme couvrant tout ou séparer le clavardage et la révision de documents entre deux fournisseurs, et au final on ne l'a pas séparé, surtout parce que gérer deux relations fournisseurs pour un seul flux de travail semblait constituer son propre risque.

Rien de tout ça ne referme la boucle sur l'IA fantôme de façon permanente. Les gens vont trouver un nouvel outil dans six mois et je vais devoir refaire une version de cet exercice. Si vous êtes présentement devant les mêmes dix questions, augureai.ca présente les prix et la politique de confidentialité assez clairement pour que vous puissiez les comparer à votre propre liste avant de vous engager dans quoi que ce soit.