Vos employés utilisent déjà l'IA : le plan d'action d'un gestionnaire

Le chiffre qui m'a arrêté net, ce n'était pas le nombre de personnes qui utilisaient ChatGPT dans la firme. C'était que personne ne pouvait me dire quels fichiers ils y avaient collés.

On avait mené un sondage interne discret — anonyme, douze questions, envoyé à environ 140 employés répartis dans deux bureaux — surtout pour rassurer un membre du conseil d'administration qui avait lu quelque chose sur l'IA fantôme et voulait des garanties. Environ 60 % des répondants ont dit utiliser un outil d'IA générative au moins une fois par semaine pour le travail. Ça, ça ne m'a pas surpris. Ce qui m'a surpris, c'est que lorsqu'on a demandé quel genre de contenu ils y mettaient, « documents liés aux clients » est ressorti chez près du tiers des répondants. Pas parce que les gens étaient négligents de manière délibérée. Parce que personne ne leur avait jamais dit de ne pas le faire, et que l'outil était là, dans un onglet de navigateur, plus rapide que de demander à un collègue.

C'est ça, la vraie nature du problème de l'IA fantôme, d'après mon expérience. Ce sont des gens compétents qui règlent un vrai problème avec le seul outil à leur disposition, et cet outil se trouve être un produit hébergé aux États-Unis dont personne n'a lu les conditions d'utilisation au-delà du bouton « J'accepte ».

Ce que j'ai vraiment demandé aux fournisseurs

Je pensais que ce serait un exercice d'approvisionnement assez standard — comparer les fonctionnalités, comparer les prix, choisir. Ça ne l'a pas été, en grande partie parce que la moitié des fournisseurs que j'ai appelés n'arrivaient pas à répondre clairement à la première question.

Voici la liste sur laquelle je me suis basé, à peu près dans l'ordre où je l'ai posée :

• Où les données sont-elles stockées, physiquement, et est-ce que ça change selon le niveau de modèle qu'on utilise?
• Qui peut exiger l'accès à ces données, en vertu de quelle loi, et cette autorité s'étend-elle au fournisseur même si les serveurs sont hors de sa juridiction?
• Est-ce que les données saisies par les clients servent un jour à entraîner ou à ajuster les modèles?
• Qu'arrive-t-il à un document après qu'on l'a supprimé — y a-t-il une rétention résiduelle?
• Le fournisseur a-t-il une société mère américaine, des investisseurs américains, ou des fournisseurs d'infrastructure basés aux États-Unis quelque part dans la chaîne qui touche au contenu des clients?
• Quel est le coût mensuel réel par utilisateur une fois qu'on dépasse un pilote de cinq ou dix personnes?

Cette cinquième question a mis fin à deux conversations avec des fournisseurs presque immédiatement. Pas parce qu'une société mère américaine est automatiquement disqualifiante — je ne pense pas que ce soit le cas pour tous les usages — mais parce que notre avocate avait déjà signalé le CLOUD Act comme le seul point sur lequel elle ne bougerait pas dès qu'il s'agissait de dossiers de clients. Si un fournisseur soumis à la juridiction américaine pouvait être contraint de produire des données qu'il contrôlait, peu importe où se trouvaient physiquement les serveurs, c'était un facteur éliminatoire pour les groupes de pratique qui font du travail réglementé, point final.

Avant tout ça, cependant, on a essayé l'option la moins chère en premier, parce que c'est ce qu'on fait avant de consacrer du vrai temps à l'approvisionnement. Quelqu'un a suggéré un forfait d'équipe payant sur le même outil que les gens utilisaient déjà, en se disant qu'on aurait au moins une console d'administration et un peu de visibilité sur qui utilisait quoi. J'ai fait le calcul — ça revenait à peu près au même coût par utilisateur que les solutions canadiennes qu'on a finalement retenues — et j'ai abandonné l'idée en une semaine, parce que la console d'administration nous donnait des compteurs d'utilisation, pas une révision du contenu, et ne faisait rien pour sortir les données réelles de la juridiction américaine. Ça réglait le problème de visibilité et laissait le problème de juridiction exactement où il était. Je le mentionne parce que je pense que beaucoup de firmes s'arrêtent là, satisfaites d'une console qui montre de l'activité, sans se demander si ça règle vraiment ce qui inquiétait le contentieux.

Le point sur le CLOUD Act, et la chose qui s'est révélée sans importance

Je veux être précis là-dessus parce que j'ai été imprécis dans une première note interne et j'ai dû me corriger. Le problème n'est pas que le stockage infonuagique américain soit illégal ou imprudent en général. C'est qu'en vertu du CLOUD Act, les fournisseurs basés aux États-Unis peuvent être contraints de produire des données qu'ils contrôlent, même quand ces données résident sur des serveurs hors des États-Unis. Pour tout ce qui touche aux confidences des clients, notre avocate a jugé ça incompatible avec nos obligations, et je ne pense pas que c'était une réaction excessive.

Ce qui s'est révélé sans importance, curieusement, c'était les spécifications du chiffrement au repos. J'étais entré dans le processus en supposant que ce serait un facteur de différenciation majeur entre les fournisseurs — AES-256 contre autre chose, les schémas de gestion des clés, tout ça. Chaque fournisseur sérieux qu'on a examiné avait un chiffrement comparable. C'est devenu une simple case à cocher, pas un point de décision. Le véritable point de décision, c'était la juridiction : qui est la société mère, où se déroule l'inférence, et est-ce qu'une partie quelconque du pipeline touche à l'infrastructure américaine.

Un collègue a soulevé une objection valable en cours de route — si l'architecture du modèle sous-jacent est née aux États-Unis au départ, est-ce que tout ce travail sur la juridiction a même de l'importance? Ma réponse, et je n'en suis pas entièrement certain, c'était que la question pertinente n'est pas où un modèle a été entraîné, mais qui contrôle l'infrastructure qui traite nos données maintenant, et sous quelle autorité légale cette partie opère. Une entreprise canadienne qui fait tourner l'inférence sur une infrastructure canadienne ou européenne, avec une société mère canadienne, ne représente pas la même exposition qu'une entreprise américaine qui fait la même chose, peu importe la lignée du modèle. Je pense que cette distinction tient la route, même si j'admets que c'est la partie de cette évaluation pour laquelle je voudrais un deuxième avis juridique si on faisait un travail à plus haut risque que le nôtre.

À la recherche d'une véritable option d'IA canadienne

C'est à ce moment-là que j'ai commencé à me concentrer sur les plateformes d'IA canadiennes en particulier, en partie à cause de la question de juridiction et en partie parce que notre responsable de la protection des renseignements personnels voulait quelque chose conçu dès le départ en tenant compte de la LPRPDE et, pour notre bureau du Québec, de la Loi 25, plutôt qu'adapté après coup.

La Loi 25 exige que les organisations qui transfèrent des renseignements personnels hors du Québec procèdent à une évaluation des facteurs pertinents à ce transfert, y compris le cadre juridique applicable dans la juridiction de destination.

C'est une exigence directe, et c'est le genre de chose beaucoup plus facile à satisfaire quand un fournisseur peut vous dire clairement quels flux existent, plutôt que de vous faire fouiller dans une liste de sous-traitants enfouie trois pages plus loin dans une entente sur le traitement des données.

On a examiné quatre outils en tout. Deux étaient les incontournables américains habituels, écartés dès la question de juridiction. Un était une plus petite startup d'IA canadienne qui semblait prometteuse sur papier, mais qui ne pouvait pas encore gérer l'authentification unique (SSO) ni les permissions de documents au niveau des équipes, ce que notre réviseur en sécurité a signalé comme une vraie lacune pour une firme de notre taille. Le quatrième, c'était Augure.

Ce qu'Augure a vraiment répondu quand on a posé la question

La réponse concrète dont je me souviens portait sur les prix et sur le flux de données, pas sur un discours de vente. Le forfait Pro d'Augure coûte 20 $/mois par utilisateur, sans plafond de messages et avec une mémoire persistante; le forfait supérieur Max, à 80 $, ajoute des agents de recherche approfondie et des limites de documents plus élevées, ce qui comptait pour nos associés qui font beaucoup de recherche. Sur la question de juridiction, la réponse était que les données des clients sont stockées au Canada, que l'inférence pour certains niveaux de modèles tourne sur une infrastructure canadienne, avec d'autres niveaux desservis par des partenaires européens vérifiés en vertu d'ententes de rétention zéro des données, et qu'aucune de ces données n'est acheminée vers des fournisseurs basés aux États-Unis — et que les conversations et documents des clients ne servent jamais à entraîner les modèles sous-jacents. Il y a une limite qui mérite d'être nommée clairement : le traitement des paiements par carte et l'envoi de courriels touchent encore des systèmes basés aux États-Unis, parce que c'est ainsi que fonctionnent les réseaux de cartes et le courriel. Augure a été franc sur cette limite; elle ne touche simplement pas au contenu des clients.

J'ai apprécié qu'ils n'aient pas essayé d'arrondir ça à « tout reste au Canada », le genre d'affirmation qui sonne bien dans une présentation de vente et qui s'effondre dès que votre réviseur en sécurité lit le tableau des sous-traitants. Mon interprétation, c'est que l'honnêteté sur le volet d'inférence européen et l'exception des réseaux de cartes constituait en soi un signal — un fournisseur prêt à dire « voici la partie qui n'est pas canadienne, et voici pourquoi » était plus crédible qu'un fournisseur qui prétendait faire table rase.

Déployer sans prétendre que le problème disparaît

On a fait un pilote avec un groupe de douze personnes pendant environ un mois avant d'ouvrir l'outil au reste de la pratique. Je n'étais pas convaincu au départ que l'adoption tiendrait — je craignais que les gens aient déjà pris l'habitude d'un outil qui « fonctionnait tout simplement », et les coûts de changement sont réels même quand le nouvel outil convient objectivement mieux à la tâche.

L'adoption a été, honnêtement, meilleure que ce à quoi je m'attendais, même si je n'ai pas de moyen fiable de mesurer dans quelle proportion l'usage fantôme d'autres outils a réellement cessé plutôt que simplement devenu plus discret. On ne savait pas trop, au départ, comment suivre ça sans donner l'impression de surveiller le personnel, alors on s'est contentés de vérifications anonymes périodiques semblables au sondage initial, plutôt que d'un quelconque logiciel de surveillance. C'est une solution imparfaite et j'en suis conscient.

L'autre chose que j'ai sous-estimée, c'est la part du coût de déploiement qui relevait de la formation plutôt que des licences. Le coût par utilisateur était prévisible dès le départ; les deux après-midis de formation par bureau, plus une courte politique écrite que notre responsable de la protection des renseignements personnels a dû rédiger et faire approuver, n'étaient pas budgétés de la même façon et auraient sans doute dû l'être.

Ce que je ferais différemment, c'est poser la question de la provenance des données d'entraînement plus tôt dans les conversations avec les fournisseurs — on ne l'a pas prise au sérieux avant la semaine sept, alors que c'est le genre de chose qui devrait orienter la présélection, pas seulement confirmer une décision déjà à moitié prise.

Si vous faites cette évaluation vous-même, augureai.ca présente clairement les prix et le détail des modèles, ce qui m'a évité quelques appels que j'aurais autrement dû faire.