Plusieurs constatent des problèmes de biais découlant des algorithmes d’intelligence artificielle (IA).

En 2017, Amazon a dû retirer un système de traitement des curriculums vitae après avoir constaté que les candidatures féminines étaient plus largement rejetées.

Par ailleurs, la revue Science a publié une étude sur un système de traitement du langage, où l’on associait un prénom féminin à une activité sociale ou familiale, tandis que les activités professionnelles étaient associées à un prénom masculin.

« Des biais dans les décisions, il y en a toujours eu, mais c’était le fait d’individus. Le jour où ces décisions sont prises par un algorithme, ça ne garantit pas qu’elles seront toujours justes », a affirmé le professeur François Laviolette, directeur et fondateur du Centre de recherche en données massives et professeur en génie informatique à l’Université Laval, lors d’un panel tenu dans le cadre de la 4e édition du colloque Femmes en finance, tenu à Québec et organisé par le cercle Finance Québec.

Selon lui, il est impossible d’éliminer tous les biais, mais il faut tester la robustesse de l’algorithme en vérifiant la robustesse des résultats en enlevant ou pas la variable, par exemple celle du genre.

Comme partout ailleurs, on voit une croissance exponentielle des emplois qui demandent des aptitudes en IA. En même temps, on manque de main-d’œuvre dans cette industrie où l’on ne trouve pourtant que 12 % de femmes, selon les statistiques les plus récentes, note Camille Aubin, avocate chez Robic, cabinet juridique spécialisé en propriété intellectuelle.

Croissance spectaculaire

Les banques de données ont connu une expansion phénoménale ces dernières années, indique Me Aubin. Certaines entreprises choisissent l’impartition pour la collecte et l’analyse de données. Néanmoins, la finance et l’assurance sont toujours les deux secteurs où ces deux activités représentent 50 % de l’activité, d’où l’intérêt de développer des algorithmes en IA qui permettent d’optimiser l’analyse.

L’apprentissage automatique (« machine learning ») est une branche de l’IA où on aide la machine à apprendre à partir d’exemples, pour ensuite utiliser ces capacités de calcul dans l’analyse d’images, de données, etc. Les progrès les plus spectaculaires sont du domaine de l’apprentissage profond (« deep learning »), explique François Laviolette.

Le professeur Laviolette est aussi titulaire de la Chaire de recherche industrielle CRSNG-Intact Corporation financière sur l’apprentissage machine en assurance. Selon lui, on a grandement amélioré et dans un temps record la capacité d’analyse des images, et on s’en rapproche aussi dans l’analyse de textes.

L’impact en assurance

Selon Jean-François Lessard, chef des données d’Intact Assurance, l’importance des institutions financières dans la région de Québec justifie à elle seule l’intérêt d’y développer l’expertise en IA. Chez Intact, ajoute-t-il, on est un peu dépassés par le potentiel énorme des progrès de l’IA. C’est pourquoi l’assureur a choisi de s’associer à l’Université Laval. « C’est un milieu plus serré où il est plus facile de susciter le travail interdisciplinaire », dit-il.

La présence des chercheurs en géomatique permet ainsi de créer des ponts avec les chercheurs en assurance, par exemple en jumelant l’expertise en géolocalisation (GPS) et en analyse de risques. « Cette collégialité nous permet d’aller plus loin », dit-il.

Selon Pierre Miron, vice-président principal, technologies de l’information chez iA Groupe financier, la présence importante de l’appareil gouvernemental dans la région de Québec permet aussi d’augmenter la demande pour de nouvelles applications. M. Miron est responsable de la stratégie numérique de l’assureur.

Dans certains cas, la collaboration est possible entre les assureurs pour les sujets de recherche où ils ne se concurrencent pas entre eux, par exemple en sécurité de l’information. « Nous avons tous besoin de protéger nos renseignements personnels », lance-t-il. Les gens dans l’assistance ont ri, à cause de l’allusion à peine voilée à l’attaque informatique subie chez Industrielle Alliance dont on avait entendu parler deux jours plus tôt.

La numérisation ne signifie pas pour autant que les assureurs peuvent et doivent robotiser toutes leurs fonctions, ajoute M. Miron. « Chez une entreprise fondée il y a 125 ans, on ne va pas réinventer le modèle d’affaires. On le transforme pour l’optimiser. »

On doit améliorer l’efficacité du service à la clientèle, et en cette matière, on ne pourra pas remplacer tout le monde par des robots. « En assurance, on fait évoluer nos compétences pour mieux utiliser les nouvelles technologies dans notre contexte de vente d’assurance », indique Pierre Miron.

Intact est à la recherche des meilleurs experts en IA, tant à Québec que Montréal et Toronto. « J’ai des postes ouverts dans les trois villes, et la barre n’est pas moins haute ici », souligne Jean-François Lessard.

On robotise des tâches et non des humains, ajoute M. Lessard. Cela permet de libérer les employés qui n’ont plus à réaliser des tâches qui n’apportent pas de valeur. « Nous vivons une évolution, ce n’est pas une révolution dans le domaine de l’assurance. Toutes les compagnies qui ont duré jusque dans les années 2000 ont déjà montré leur aptitude à s’adapter », dit-il.

Plus que des données

François Laviolette constate que de nombreuses entreprises compilent des données. Assez souvent, il doit leur indiquer que l’IA n’est pas le bon outil pour elles. Les données ne sont pas toujours prêtes à l’analyse par un algorithme. Chez certains assureurs, on fait déjà de l’analyse de données depuis longtemps, et les systèmes marchent encore très bien. « Pourquoi les changer ? », se demande le professeur.

Souvent, on utilisait des données structurées, et les requêtes étaient faites en fonction de certaines variables. Désormais, l’IA permet de croiser des données non structurées avec les données météorologiques ou géomatiques, cite-t-il en exemple.

Les progrès technologiques ont permis à l’Industrielle Alliance de créer une plateforme de souscription, explique Pierre Miron. L’agent d’assurance peut ainsi automatiser le processus qui offre une couverture en quelques secondes, au lieu de prendre d’une à deux semaines comme c’était le cas auparavant. L’algorithme améliore son efficacité au fur et à mesure de son développement dans la tarification d’une assurance vie. On se rapproche de la personnalisation de la police en fonction des paramètres propres à tel client, estime-t-il.

Chez Intact, le programme Ma Conduite fonctionne avec une application mobile, qui fournit des données sur les déplacements automobiles, le trajet et la vitesse, les accélérations et les freinages, etc., explique M. Lessard.

François Laviolette se spécialise dans la conception d’algorithmes qui servent à mieux comprendre l’univers dans lequel on travaille en interprétant des masses de données. Ces recherches sur le caractère interprétable des données sont au cœur même des travaux de la Chaire dont il est le titulaire.

François Laviolette fait partie d’un groupe de neuf chercheurs qui aident à développer des outils d’IA pour l’industrie de l’assurance. Quelque 37 étudiants chercheurs collaborent aux travaux. « C’est un effort important, car on se rend compte qu’il n’y a pas assez d’experts en IA sur le marché. On ne sait pas encore comment bien faire le virage pour mieux utiliser les données », dit-il.

Comme on le voit avec les systèmes de reconnaissance faciale utilisés par les autorités gouvernementales en Chine, et qui alimentent un programme de crédit citoyen très sophistiqué, l’utilisation de l’IA soulève des questions éthiques, indique le professeur. « Pour les institutions financières, dont l’activité est basée sur la confiance avec le client, il y a des limites que l’on ne peut franchir », rappelle-t-il.

Il existe aussi une chaire de leadership en enseignement, dont Marie-Pier Côté est la titulaire à l’école d’actuariat, axée sur l’analyse des données massives, aussi commanditée par Intact.

Numériser les affaires

Pierre Miron juge que ces efforts en intelligence artificielle doivent viser à améliorer les processus d’affaires et l’expérience client. Il n’y a pas de magie dans l’IA, poursuit-il. C’est la puissance de calcul fournie par les ordinateurs qui permettent d’avaler une grande quantité d’information. « Une voiture autonome qui prendrait trop de temps à analyser ce qu’il se passe devant le véhicule avant de freiner, ça n’est pas utile », dit-il.

L’approche de résolution de problèmes est la plus utile en assurance, enchaine Jean-François Lessard. Selon lui, il importe donc de créer des partenariats avec les bonnes personnes qui facilitent le mariage entre la connaissance scientifique, l’intuition de l’entrepreneur et les besoins en affaires.

Ce besoin de l’interdisciplinarité est essentiel en intelligence artificielle, ajoute François Laviolette. Tous les projets de recherche auxquels il collabore ont lieu dans des domaines scientifiques très distincts. « Les données appartiennent à un domaine précis. Il faut minimalement comprendre les lois qui gouvernent telle activité si l’on veut en tirer du sens », dit-il.

Pierre Miron souligne que le secteur des TI est en pleine expansion et la demande restera forte. Quelque 225 000 personnes y travaillent déjà. Dans l’industrie financière, les frontières ne représentent pas un problème et les entrepreneurs d’ici ont accès à un plus large bassin d’investisseurs pour soutenir leur développement, poursuit-il.

Lors d’un voyage en Israël en 2017, M. Miron a constaté l’expertise du pays dans les TI, où les intervenants du milieu ont su créer un pôle de développement de grande valeur, particulièrement dans le domaine de la sécurité de l’information. Le compte a huit millions d’habitants, tout comme ce pays du Proche-Orient. Selon M. Miron, il est possible de trouver une niche en IA au Québec.

La place des femmes en informatique

En recherche universitaire, le domaine de l’informatique a été déserté par les femmes depuis le début des années 1980, constate François Laviolette. On ne peut se lancer en IA sans passer par le génie informatique. « Il faut montrer que l’IA, ça n’est pas un geek qui ne mange que de la pizza et qui passe ses journées dans son sous-sol à faire du code », dit-il.

L’Université Laval vient d’embaucher la professeure Audrey Durand, une étoile montante en IA, affirme M. Laviolette. « Mais il reste encore beaucoup de travail à faire de ce côté-là. (...) Je ne pense pas qu’il y ait un blocage systémique en IA », dit-il.

Pierre Miron confirme que la diversité des genres et des profils sociaux améliore la qualité des algorithmes. Dans les diplômés des professions associées aux TI, on trouve seulement 20 % de femmes et ça ne bouge pas beaucoup, poursuit-il. Pour améliorer la perception des femmes à l’égard du secteur, l’industrie doit mieux faire connaitre la grande variété des métiers auprès des élèves du primaire et du secondaire, indique M. Miron. Le programme Code les filles est une bonne initiative à cet égard.

Chez Intact Assurance, Jean-François Lessard estime que l’on trouve un peu plus de 20 % de femmes dans le personnel en IA. M. Lessard, qui travaille pour cet assureur depuis 2003, est chef des données depuis décembre 2016. Selon lui, la manière dont on recrute a une influence.

« On parle de performance financière, de la compétition, de notre équipe d’experts, etc. C’est très masculin comme approche. Alors que notre travail en assurance, c’est d’abord d’aider les gens à se remettre sur pied après un sinistre. (...) C’est ça qu’il faut faire valoir », dit-il.

François Laviolette rappelle que si les premiers ordinateurs ont été fabriqués par des ingénieurs mâles, la programmation relevait des femmes, qui étaient les « calculatrices » de l’époque. L’un des premiers langages de programmation, le Cobol, a été conçu par Grace Hopper à la fin des années 1950. « Travaillons pour que ça revienne comme à l’époque », dit-il.