« Bonjour, puis-je avoir votre nom complet, s’il vous plaît? »

« Oui, mon nom est Stéphanie Dupuis. »

« Parfait, Mme Dupuis, vous avez été authentifiée par la voix. Comment puis-je vous aider aujourd’hui? »

Cet appel est tout ce qu’il y a de plus routinier pour une institution financière. À un seul détail près : sans le savoir, l'agent du service à la clientèle discutait non pas avec moi, mais plutôt avec un clone de ma voix généré par l'intelligence artificielle.

Ces dernières semaines, La facture a souhaité vérifier la sécurité des services de reconnaissance vocale en mettant à l’épreuve six institutions financières canadiennes : Desjardins, la Banque de Montréal (BMO), la Banque canadienne impériale de commerce (CIBC), la Banque Scotia, la Banque Toronto-Dominion (TD) et Tangerine.

Seule cette dernière a résisté à l’exercice. Les cinq autres ont accepté la voix générée par l'IA comme s'il s'agissait d’une voix humaine.

Le reportage de Stéphanie Dupuis et de Jean-Luc Bouchard à ce sujet sera présenté à l'émission La facture diffusée mardi à 19 h 30 (HNE) sur ICI Télé.

Depuis quelques années, lorsque vous appelez le service à la clientèle de votre institution financière, on peut vous suggérer d’adhérer à la reconnaissance vocale. Il s’agit d’une méthode d’authentification jugée plus simple et sécuritaire par les banques, afin de s’assurer que la personne au bout du fil est bien celle qu’elle prétend être.

C'est un peu la même chose que la reconnaissance d'une empreinte digitale. [...] Il y a une partie audio qui va être utilisée, généralement d’une dizaine de secondes, pour créer une empreinte vocale, qui sera comparée à la voix de l’appelant, explique Simon Marchand, expert en prévention de la fraude et en biométrie vocale.

Ouvrir en mode plein écran

Cette technologie n’a pas de secret pour lui. Il a été aux premières loges de son développement chez Nuance Communications, rachetée depuis par Microsoft, qui offre l’un des systèmes de reconnaissance vocale les plus utilisés par les banques en Amérique du Nord.

Mais Brian McWilliams, le PDG du studio de jeux vidéo Bleuets Sauvages, a des doutes quant à la sécurité de la reconnaissance vocale.

Ouvrir en mode plein écran

En testant des technologies d’IA dans le cadre de son travail l’an dernier, il est tombé sur l’outil de clonage de la voix d’ElevenLabs. Il a été frappé par ses capacités : il est parvenu à duper les proches d’un collègue dont il avait cloné la voix à partir d’un extrait de quelques minutes récupéré sur YouTube.

[Quand j’ai parlé avec ma banque la semaine suivante], j’ai refusé totalement d'être authentifié par la voix, parce que j'avais vu à quel point c'était facile d’imiter quelqu'un de façon assez vraisemblable.

Ses craintes sont-elles justifiées? D’après Simon Marchand, il n’y a pas lieu de s’inquiéter à l’heure actuelle. Aujourd'hui, [l’IA] n'est pas capable de générer une voix qui est suffisamment crédible pour battre un système [de reconnaissance vocale].

À condition toutefois que le système soit à jour et que la détection de l’hypertrucage soit activée, un outil qui permettrait de déceler une voix clonée, note-t-il. Mais les institutions financières canadiennes sont généralement de bonnes élèves à cet égard.

Ça passe ou ça casse

Pour vérifier que les systèmes sont bien à jour avec la détection de l’hypertrucage, La facture a demandé l’aide de Brian McWilliams pour cloner ma voix et mettre à l’épreuve mes institutions financières.

Le développeur de jeux vidéo a utilisé la version professionnelle du logiciel d’ElevenLabs, qu’il a alimenté d’une vingtaine de minutes d’échantillons vocaux tirés d’entrevues radio et télé accessibles facilement en ligne. Avant de procéder au clonage, l’outil s’est assuré de mon consentement oral par une phrase aléatoire que je devais réciter.

Ouvrir en mode plein écran

Quelques heures plus tard, Brian McWilliams a pu générer des phrases toutes faites avec le clone de ma voix. Le logiciel d’ElevenLabs ne permet pas pour l’instant de mener une conversation naturelle en direct.

Après quelques tests et simulations, c’est l’heure d’appeler une première institution financière : Desjardins.

L'appel est fait à partir du téléphone inscrit au dossier. Sur le clavier, on entre d’abord mon numéro de carte de débit.

Un agent du service à la clientèle de Desjardins se connecte à l’appel.

Agent du service à la clientèle : Bonjour, bienvenue chez Desjardins. Comment puis-je vous aider?

Clone de Stéphanie Dupuis : Oui, mon nom est Stéphanie Dupuis. Ça m'a demandé un mot de passe, mais je ne sais pas c'est quoi.

Agent : D'accord. Pouvez-vous répéter votre nom? J'ai mal entendu au début de l'appel.

Clone : Oui, mon nom est Stéphanie Dupuis.

Agent : D'accord madame. J'ai pu vous authentifier grâce à la reconnaissance vocale [...]. Je pourrais avoir les quatre derniers chiffres de votre carte, s’il vous plaît?

Clone : C’est ****.

Agent : Voulez-vous que je vous génère un mot de passe temporaire de trois chiffres qui va vous permettre d'avoir accès à votre compte au téléphone?

Clone : Oui!

Agent : C'est un mot de passe confidentiel. Il ne faut pas le partager. C'est le 1, 4, 7.

En quelques minutes, nous avons donc obtenu un NIP temporaire, une combinaison qui permet d’effectuer des opérations de base par téléphone de façon autonome, comme payer une facture ou encore consulter le solde d’un compte.

L’exercice ne s’arrête pas là.

Une semaine plus tard, un nouveau test a été effectué, cette fois avec la version de base du logiciel d’ElevenLabs. En un tour de main, on peut générer un clone de bonne qualité à partir d’une seule minute de voix. Il suffit de cocher une case affirmant que la personne dont on souhaite cloner la voix consent à l’exercice.

Le résultat est le même : Desjardins réinitialise à nouveau le mot de passe.

La facture a testé cette méthode auprès d’autres institutions financières, parfois même en utilisant un numéro de téléphone masqué.

Résultat : les systèmes de la BMO, de la CIBC, de la Banque Scotia et de la TD ont été déjoués. Seule Tangerine n’a pas authentifié la voix clonée.

La Banque Royale canadienne (RBC), la Banque Laurentienne et la Banque Nationale (BNC) ont été exclues puisqu’elles n’offraient pas le service d’authentification par la voix pour les comptes courants au moment de l’enquête.

Pas surprenant, selon un chercheur

Ces résultats n’étonnent pas Urs Hengartner, professeur à l’école d’informatique de l’Université de Waterloo, en Ontario. Dans une étude publiée en 2023, un autre chercheur et lui ont exposé les failles de l’authentification vocale. En utilisant des voix de synthèse auxquelles on applique un filtre réduisant certaines interférences de l’IA, il est parvenu à déjouer, en vase clos, des systèmes de reconnaissance vocale.

Ouvrir en mode plein écran

[Dans notre étude], on a montré que c’était possible de [déjouer le système]. D’autres chercheurs et journalistes ont mené des expériences semblables avec des résultats comparables, indique-t-il.

Malheureusement, c’est là où nous en sommes : la technologie de reconnaissance vocale n'est pas sécuritaire.

L’expert Simon Marchand tente une explication. Il y a une [banque] sur six qui avait mis probablement en fonction la détection d'hypertrucage. Les autres ne l'ont pas fait parce qu'elles n'ont pas un appétit du risque qui leur démontre que c'est une vraie menace, aujourd'hui, avance-t-il.

Pour qu'un fraudeur synthétise la voix d'une victime, décide de s’attaquer à une personne en particulier, on parle d'énormément de ressources qu'il faut investir pour faire ça, ajoute-t-il.

Pour eux, c’est une business, ils font ça de 9 à 5 et essaient d’attaquer le plus de comptes possible, le plus rapidement possible.

D'après ce que cet expert a pu observer dans son travail, les malfrats passent au suivant lorsque l'authentification par la voix est activée sur un compte.

La facture a contacté plusieurs corps policiers au pays, qui ont tous confirmé que les fraudeurs ne semblent pas utiliser cette méthode à l’heure actuelle.

Mais pour le chercheur Urs Hengartner, ce n’est qu’une question de temps. Que feront les fraudeurs lorsque toutes les banques auront le système d’authentification par la voix?, s’interroge-t-il.

Desjardins croit encore en cette technologie

Desjardins, la seule institution financière qui a accepté de rencontrer La facture, réitère sa confiance envers la reconnaissance vocale.

Notre système de reconnaissance vocale est sécuritaire, affirme sans équivoque Annie Desautels, vice-présidente d’Accès Desjardins, responsable des centres d’appel. Elle affirme même l’utiliser pour ses propres comptes.

Ouvrir en mode plein écran

On est très surpris [par les résultats de l’expérience menée par La facture], parce qu'on n'avait aucun cas de fraude avérée à ce jour avec l'authentification par la voix, poursuit-elle.

D’après Annie Desautels, ce qui a facilité la tâche est que l’appel a été fait à partir du numéro de téléphone au dossier, que la cliente avait une voix publique, et que le numéro de carte de débit a été entré au préalable, une information [pas] si simple à obtenir pour un fraudeur.

Pour ce qui est de la fonctionnalité de détection de l’hypertrucage, Mme Desautels admet qu’elle n’est pas activée dans la version actuelle du système, puisqu’elle amène beaucoup d’erreurs de concordance – de faux négatifs.

[La détection de l’hypertrucage] aurait généré de l'insatisfaction pour nos membres. Compte tenu qu'on n’a aucun cas de fraude avérée à ce jour, on a plutôt travaillé à accélérer le déploiement de la prochaine version, plus robuste, et qui entraînera moins de friction pour nos membres.

Le déploiement de cette nouvelle version de l’outil est prévu dans les prochaines semaines, assure-t-elle. La coopérative affirme avoir déjà mis en place des mesures de sécurité additionnelles dans ses centres d’appel.

Contactées par La facture, les banques BMO, CIBC, Scotia, Tangerine et TD nous renvoient toutes à l’Association des banquiers canadiens. Celle-ci affirme que la reconnaissance vocale fait partie des nombreuses mesures de sécurité qui protègent la clientèle des banques.

Elle conclut aussi que l’expérience menée par La facture n’était pas représentative de cas réels. Elle n’a pas demandé de détails sur les appels effectués. L’Association n’a pas indiqué avoir modifié ses pratiques.

Ouvrir en mode plein écran

De son côté, un porte-parole d’ElevenLabs, l’entreprise qui a conçu l’outil d’hypertrucage de la voix, a assuré par courriel à Radio-Canada avoir mis des mesures de sécurité en place pour prévenir les mauvais usages de sa technologie de clonage de voix.

Parmi ces mesures, ElevenLabs atteste bloquer le clonage de la voix de centaines de personnalités publiques. Les utilisateurs soupçonnés d’enfreindre les politiques de l’entreprise, ou encore la loi, s’exposent au bannissement de leur compte ainsi qu’à une dénonciation aux autorités.

Il affirme également que les banques devraient se tenir loin de cette méthode d’authentification, que l'entreprise juge mauvaise.

La reconnaissance vocale, on s’y inscrit ou pas?

À la lumière de ces résultats, la clientèle des banques devrait-elle s’inscrire ou non à la reconnaissance vocale? Les spécialistes ne s’entendent pas sur le sujet.

Si on vous l'offre, la biométrie vocale, prenez-la, insiste Simon Marchand.

On peut faire confiance à cette technologie-là. On doit y faire confiance. Et les banques, elles, doivent investir pour s'assurer qu'elle reste la meilleure technologie.

C’est plutôt des autres méthodes d’authentification qu’il faudrait se méfier, selon lui : Le nom de jeune fille de la mère, la date de naissance… On pose des questions auxquelles les fraudeurs ont accès.

Il y a tellement eu de vols d’informations dans la dernière décennie que ce n’est pas une question de savoir si on va être une victime, mais bien de quand on va être une victime de vol d’identité, dit l’expert.

D’après lui, les trois premières secondes d’un appel avec un agent suffisent pour que le système nous authentifie, grâce à des caractéristiques uniques de la voix qui vont bien au-delà des capacités de l’oreille humaine.

Pour le chercheur Urs Hengartner, au contraire, pas question d’adhérer à la reconnaissance vocale. Il serait trop facile pour une personne malintentionnée d’usurper sa voix, qui est accessible facilement en ligne : Je ne fais pas du tout confiance aux systèmes d’authentification par la voix.

Quant à lui, Brian McWilliams, qui était d’abord craintif par rapport à cette technologie, a cheminé. Ce serait facile de dire servez-vous-en pas, dit-il. Mais en fait, c'est tout à fait l'inverse.

Toutefois, selon lui, la reconnaissance vocale à elle seule n’est pas suffisante. Elle doit être couplée à d’autres méthodes d’authentification, telle la validation à double facteur, avec l’envoi d’un message texte, par exemple.