L’intelligence artificielle non autorisée est un problème de gestion

En juin, entre deux séances d’un symposium sur les marchés avancés à Montréal, je discutais avec un groupe de conseillers de la façon dont l’intelligence artificielle (IA) était déjà utilisée dans le secteur de l’assurance.

La conversation était animée jusqu’à ce que je leur suggère de poser une question précise à leur assureur d’entreprise : quelle couverture s’appliquerait à la suite d’une atteinte aux données impliquant un compte personnel d’IA utilisé en dehors de l’environnement approuvé par l’entreprise et qui n’est pas détenu au nom de celle-ci?

Les sourcils se sont froncés. Plusieurs regards se sont tournés vers le sol. C’est souvent la réaction que suscite cette question, et cela semblait être la première fois que quelqu’un dans le groupe l’entendait posée aussi directement. Peu après, la conversation a repris, comme c’est souvent le cas lorsque des collègues de l’industrie se mettent à parler d’IA.

Lorsque le groupe s’est dispersé pour assister à la séance suivante, je me suis dirigé vers l’ascenseur. Un conseiller d’expérience qui était resté derrière m’a abordé en privé. Il m’a avoué qu’il ne savait plus quoi faire face à l’IA fantôme (shadow AI, en anglais) au sein de son entreprise. Il était certain que des employés utilisaient leurs propres comptes personnels d’IA pour travailler sur des dossiers de clients plutôt que les outils approuvés par l’entreprise, et il voulait s’attaquer au problème avant qu’une atteinte aux données ou un problème de conformité ne l’y oblige.

L’IA fantôme désigne l’utilisation non autorisée ou non déclarée de l’IA au sein d’une entreprise. Quelqu’un résume une réunion, rédige un courriel à un client ou organise des notes de dossier dans un compte personnel ChatGPT ou Claude parce qu’il cherche à travailler plus rapidement.

Un sondage de KPMG réalisé en novembre 2025 a révélé que 51% des employés canadiens interrogés utilisaient l’IA générative au travail, comparativement à 22% en 2023.

L’entreprise hérite néanmoins des conséquences. Les renseignements des clients peuvent désormais se trouver dans un environnement que l’organisation ne peut ni administrer, ni superviser, ni auditer, ni utiliser pour récupérer des dossiers.

L’interdiction peut pousser la pratique dans la clandestinité

Au fil de conversations distinctes avec des professionnels de grandes entreprises, j’ai été confronté tant à des blocages stricts qu’à des menaces sévères.

Dans une organisation, ChatGPT et Claude étaient inaccessibles à partir des appareils ou du réseau Wi-Fi de l’entreprise. Dans une autre, les employés avaient été avertis que l’utilisation de quoi que ce soit en dehors de l’environnement d’IA approuvé pourrait leur coûter leur emploi.

Les professionnels à qui j’ai parlé ont affirmé sans détour que les outils approuvés étaient moins performants.

Je comprends pourquoi les gens contournent la politique. Dans bien des cas, l’outil d’IA personnel est nettement meilleur. Le travail n’a pas disparu, pas plus que le désir d’effectuer des recherches plus rapidement, d’obtenir de meilleurs résumés et de produire de meilleures premières ébauches.

Lorsqu’une entreprise demande à ses employés d’abandonner un produit performant au profit d’un autre qui leur donne plus de travail plutôt que moins, la politique finira par être mise à l’épreuve en privé.

L’IA fantôme est un problème de gestion avant de devenir un problème informatique. Les entreprises ont besoin de limites claires, d’un outil approuvé et utile, ainsi que d’une formation qui montre aux gens comment travailler dans ce cadre.

Les hauts dirigeants peuvent commencer par déterminer ce qui se passe déjà. Demandez aux employés quelles tâches ils cherchent à accomplir plus rapidement ou plus efficacement, et lesquelles leur prennent le plus de temps. Demandez-leur où les outils approuvés montrent leurs limites et vers quels outils d’IA personnels, le cas échéant, ils se tournent à la place.

L’objectif est de déterminer quels processus de travail doivent être interrompus, repensés ou transférés dans un environnement que l’entreprise peut superviser, sans pénaliser les utilisateurs précoces.

Cinq questions avant que l’IA ne touche au travail des clients

« La bonne nouvelle, » dis-je à mes clients, « c’est que votre entreprise n’a pas besoin de régler toutes les questions entourant l’IA avant d’approuver un processus de travail utile. » Ce dont elle a besoin, en revanche, ce sont des réponses claires à cinq questions concernant ce flux de travail précis avant de commencer.

1. Quelles données sont utilisées?

Les documents publics et les exemples fictifs présentent beaucoup moins de risques que les renseignements sur la santé, les dossiers successoraux, les discussions sur la dynamique familiale, les données relatives aux polices, les documents d’entreprise ou la transcription d’une réunion. Comme bon nombre de lecteurs le savent déjà, retirer le nom d’un client peut tout de même laisser suffisamment de détails familiaux, organisationnels, financiers et géographiques pour permettre de l’identifier.

Si l’IA améliore la formulation d’une explication destinée à un client, elle n’a pas besoin de l’ensemble du dossier de celui-ci. Si elle prépare un suivi à partir d’une partie d’une réunion, elle n’a peut-être pas besoin de la transcription complète.

N’utilisez que ce qui est nécessaire à la tâche.

2. Quel outil et quel compte sont utilisés?

Un compte personnel ChatGPT, Gemini, Grok ou Claude constitue un environnement différent d’un déploiement d’entreprise approuvé par l’organisation, assorti de contrôles administratifs, de pistes d’audit et de modalités contractuelles relatives au traitement des données.

L’approbation d’un outil s’applique au produit, au type de compte et à la configuration précis que l’entreprise a examinée. Elle ne s’étend pas automatiquement à tous les services vendus par le fournisseur d’IA.

3. Quel processus précis est approuvé?

L’outil résumera-t-il l’enregistrement approuvé d’une réunion auquel le client a consenti? Organisera-t-il les faits d’un dossier? Rédigera-t-il une lettre expliquant les motifs d’une recommandation? Aidera-t-il un conseiller à mettre à l’épreuve une explication avant de s’entretenir avec un comptable?

Chaque processus doit avoir un objectif défini, des données d’entrée approuvées, un résultat attendu et un point désigné de révision humaine. Il doit également préciser ce que l’IA est autorisée à faire, ce qu’il lui est interdit de faire et où l’approbation est consignée.

Le problème avec les politiques vagues qui « permettent » l’IA est qu’elles laissent les employés inventer leurs propres processus plutôt que de suivre des procédures opérationnelles normalisées conçues pour des flux de travail réglementés.

4. Quels contrôles sont en place?

L’entreprise doit savoir où les renseignements sont stockés et traités, qui contrôle le compte, qui peut accéder aux renseignements et combien de temps ils sont conservés.

Elle doit également savoir si les requêtes ou les résultats peuvent servir à améliorer les systèmes du fournisseur, si les renseignements sont transmis à d’autres fournisseurs de services et si les activités peuvent faire l’objet d’un audit.

Le consentement, la tenue de dossiers, la suppression et la révision ont leur place dans la conception du processus. Réglez ces questions avant le premier téléversement. Une fois que les renseignements d’un client entrent dans le système, l’entreprise dépend des règles en matière de consentement, d’accès, de conservation et de suppression qui étaient déjà en vigueur.

5. Qui est responsable?

Un outil d’IA ne détient ni le permis du conseiller, ni ses obligations professionnelles, ni sa relation avec le client.

Une personne désignée demeure responsable des faits, des hypothèses et du document final. Le flux de travail doit préciser qui révise le résultat, ce que cette personne vérifie et où l’approbation est consignée.

Réviser signifie davantage que déterminer si le document se lit bien. Le réviseur doit vérifier les faits tirés des sources, les hypothèses, les renseignements manquants et toute conclusion que les éléments disponibles pourraient ne pas étayer.

Un résultat soigné ne prouve pas que les bons renseignements sources ont été utilisés. Le conseiller est responsable des communications avec les clients et de ce qui leur est remis, de l’utilisation des outils approuvés dans l’environnement approprié et de l’intégration de son jugement professionnel au processus plutôt que de simplement l’ajouter à la toute fin.

La souveraineté est un ensemble de couches, pas une étiquette

J’ai évalué des fournisseurs qui mettent de l’avant l’expression « résidence des données au Canada ». Cette affirmation peut nous indiquer où les données sont stockées. Elle en dit souvent beaucoup moins sur l’endroit où l’inférence est effectuée, sur la question de savoir si une société mère américaine demeure assujettie à la juridiction des États-Unis ou sur la possibilité que des requêtes et des résultats sensibles servent à améliorer les systèmes du fournisseur.

Aux États-Unis, le CLOUD Act a modifié le Stored Communications Act de façon à ce qu’un fournisseur établi aux États-Unis puisse être contraint par un tribunal américain de produire des données qui sont en sa possession, sous sa garde ou sous son contrôle, peu importe où ces données se trouvent.

Une transcription de Microsoft Teams contenant de nombreux renseignements sensibles sur la santé, la succession, la famille et les finances peut être stockée à Toronto. Le stockage au Canada demeure important, mais il ne met pas nécessairement le fichier hors de portée du droit américain lorsque le fournisseur est une entreprise américaine assujettie à la juridiction américaine.

C’est pourquoi, lors de mes récentes conférences, je décris la souveraineté en matière d’IA comme un ensemble de couches plutôt que comme une simple étiquette.

Il suffit de penser à la façon dont la mention « Fabriqué au Canada » peut décrire un produit appartenant à des intérêts étrangers, fabriqué à partir de pièces importées et régi par des décisions prises ailleurs. L’étiquette est exacte, mais le portrait d’ensemble demeure incomplet.

Lorsqu’un fournisseur affirme que les données sont stockées au Canada, continuez à poser des questions : qui contrôle l’infrastructure, quelles juridictions s’appliquent, qui peut y accéder et qui demeure responsable?

Les démonstrations publiques peuvent normaliser des processus non approuvés

Une planificatrice financière m’a récemment parlé d’un webinaire professionnel au cours duquel un conseiller canadien a fait la démonstration d’une équipe d’IA élaborée. Des agents distincts s’occupaient de la recherche, du marketing, de la programmation et de la révision.

Sa réaction oscillait entre fascination et inquiétude. Elle se sentait déjà débordée, et la démonstration l’a rendue anxieuse à l’idée de ne pas adopter l’IA assez rapidement. Mais « utile » ne signifie pas « approuvé ».

Ma première question, bien qu’utile, était moins emballante : « Quels renseignements sur les clients entraient dans ces systèmes, et quels outils avaient été approuvés pour les traiter? » Elle ne pouvait pas répondre, car ce n’était pas précisé dans la vidéo.

J’ai vu à maintes reprises des créateurs de contenu dans les secteurs de l’assurance et de la finance faire la démonstration de flux de travail liés à des clients au moyen de comptes personnels ChatGPT ou Claude. Ils téléversent des transcriptions, des notes de dossier ou des renseignements financiers, puis montrent à quelle vitesse le système produit quelque chose de sophistiqué. Il est difficile de ne pas s’enthousiasmer lorsqu’on voit cela, à moins de travailler en gouvernance ou en conformité (... ou d’être moi).

L’écran d’une vidéo montre la requête et le document peaufiné parce que c’est ce qui génère des partages et des vues. Il montre rarement le type de compte, les modalités de traitement, les paramètres de conservation, le processus de consentement ou les exigences de révision.

Enfin, je lui ai rappelé ceci : « Évaluez l’ensemble du processus avant de reproduire l’une ou l’autre de ces méthodes ou techniques. »

Ce qui devient possible dans le bon environnement

Une fois qu’une entreprise a choisi un fournisseur approprié, établi des conditions acceptables de stockage et de traitement, approuvé un processus défini et désigné la personne qui en est responsable, l’IA peut soutenir le travail concret au sein d’une pratique réglementée.

Dans un processus approuvé pour un conseiller, celui-ci estimait que la première ébauche d’une lettre expliquant les motifs d’une recommandation lui prenait habituellement entre 90 minutes et trois heures. Avec l’aide de l’IA, la première version a pris environ 30 minutes. Le système rassemble les renseignements disponibles sur le dossier afin de créer un meilleur point de départ, puis le conseiller le corrige, confirme les faits et approuve ce qui est transmis au client.

Dans un autre cas, un conseiller a transformé la transcription d’une conversation avec un client en une première version d’un document de planification successorale pendant qu’il se rendait à son prochain rendez-vous. Cela a pris quelques minutes, puis le document a suivi le processus de révision habituel du conseiller. Celui-ci a remis en question les hypothèses, confirmé les renseignements et décidé de ce qui devait figurer dans la version finale.

J’ai également vu le contraire. Dans un processus utilisé par un conseiller, le logiciel produisait des résultats incohérents et était incapable de transférer des instructions ou du contexte d’un modèle à l’autre. Le conseiller ne pouvait pas prévoir ce que le logiciel produirait chaque fois. Tant que le système n’avait pas fait ses preuves dans plusieurs dossiers différents, il devait encore vérifier s’il avait inventé des faits et ajouter les renseignements manquants.

Une fois ce seuil de confiance franchi pour un processus défini, le système peut contribuer à l’assemblage de documents, à la préparation de comptes rendus de réunions, à la collecte de renseignements, à l’adaptation du dossier aux différents intervenants et à la préparation d’une première version de la documentation de conformité. Le conseiller demeure responsable du résultat.

Approuver un processus à la fois

Choisissez un processus reproductible et soumettez-le à ces cinq questions.

Testez-le d’abord avec des renseignements fictifs ou réduits de façon appropriée au strict nécessaire. Comparez les résultats obtenus dans plusieurs dossiers. Définissez ce que le réviseur doit vérifier et consignez qui a approuvé le processus, à quelle fin et dans quelles conditions.

Une fois que le processus produit des résultats constants et a gagné la confiance de l’entreprise, envisagez de passer au suivant.

L’IA prépare. Le conseiller décide.