L’IA ukrainienne Victoria Shi victime de propos racistes

Le ministère ukrainien des Affaires étrangères a créé un avatar « pour commenter officiellement les informations consulaires destinées aux médias ». Dénommée Victoria Shi par ses créateurs, cette porte-parole virtuelle est entièrement générée par intelligence artificielle, mais à peine lancée, cette simulation est déjà victime de propos racistes et de messages de haine sur les réseaux sociaux.

Dénommée Victoria Shi par ses créateurs, la porte-parole virtuelle du ministère ukrainien des Affaires étrangères est entièrement générée par intelligence artificielle © MAE_Ukraine

Son prénom fait référence à la victoire contre l'envahisseur russe, tandis que son nom de famille signifie littéralement IA en ukrainien. Les Affaires étrangères dès l’origine du projet ont pris soin de mettre en place des mesures afin d’éviter les dérapages de leur IA. Notamment, en employant un QR code qui mène directement au site officiel du ministère ukrainien des Affaires étrangères pour prouver l’authenticité des vidéos émanant de la représentante virtuelle ukrainienne.

👋 Veuillez saluer Viktoriia Shi - la représentante numérique de MAE d’Ukraine, qui a été conçue par le biais de l’intelligence artificielle ayant pour but de fournir les mises à jour actuelles sur des affaires consulaires! pic.twitter.com/2mT60w7HFt

— MAE d'Ukraine (@MAE_Ukraine) May 1, 2024

Les fonctions de Victoria Shi volontairement limitées

Cette simulation n’est pas du même type qu’une intelligence artificielle générative comme peut l’être ChatGPT. Impossible, par exemple, pour les internautes de converser avec le programme. Victoria Shi, se contente d’un rôle de speakerine en lisant des textes sur les règlements consulaires, qui sont toujours « rédigés et vérifiés par de vraies personnes », précise le ministère par la voix même de sa porte-parole virtuelle : « Mon nom est Victoria Shi, j’ai été créée par le ministère ukrainien des Affaires étrangères… Je suis une personne numérique… je suis chargée d’effectuer un certain nombre de taches comme d’informer le grand public pour lui transmettre des informations opérationnelles et vérifiées du service consulaire ukrainien… Je fournirai aux journalistes des communications mises à jour sur le travail du ministère au sujet de la protection des droits et des intérêts des citoyens ukrainiens à l’étranger… Nous préparons le futur et j’ai hâte de coopérer avec vous. »

L’influenceuse Rosalie Nombre a servi de modèle

L’avatar du ministère reprend les traits physiques de cette jeune femme métissée qui est chanteuse, influenceuse et ancienne candidate de la version ukrainienne de l’émission de télé-réalité « The Bachelor ». Elle « a accepté de participer bénévolement au projet » pour soutenir l’effort de guerre, précise le ministère dans son communiqué. Mais à peine lancée, l’IA Victoria Shi se retrouve sous le feu des critiques acerbes des complotistes et des suprématistes blancs sur les réseaux sociaux. « Je ne suis pas réelle, et mon information non plus » publient certains internautes inquiets de cette utilisation de l’IA qu’ils accusent de véhiculer des Infox.

Une profusion de réactions en ligne à caractère racistes

Les messages à caractère racistes envahissent le compte de la diplomate virtuelle : « Un peu trop bronzée pour une Ukrainienne » assènent certains tandis que d’autres se déchainent au travers de commentaires de plus en plus virulents : « l’Ukraine accélère le grand remplacement ». Le MAE ukrainienne précise que Victoria « n'est pas un caprice, mais une exigence en temps de guerre » pour « économiser le temps et les ressources du ministère ». Il s'agit, par ailleurs, du deuxième projet basé sur l’IA lancé par l’Ukraine. L'ONG The Game Changers qui a permis la création de Victoria a conçu auparavant une expérience de réalité virtuelle en ligne intitulée « Vivre la guerre » pour dénoncer l’extrême brutalité de l'invasion russe en Ukraine.