Anis Ayari, expert IA et fondateur de Deeplayer AI

Ingénieur en Intelligence Artificielle, Anis Ayari est le fondateur de Deeplayer AI, une startup qui développe des agents d’IA spécialisés, multimodaux (voix, visage, texte), interactifs, sécurisés et fiables, dotés d’une mémoire construite à partir de n’importe quelle base de connaissance. Il partage régulièrement des vidéos de vulgarisation sur l’IA, le machine Learning et la Data Science, et a récemment partagé sur la plateforme Twitch une session de questions-réponses en live avec des avatars d’Emmanuel Macron et du général de Gaulle créés par l’IA. 

Vous êtes récemment devenu viral en diffusant sur Twitch un live dans lequel une version IA d’Emmanuel Macron répond aux questions des internautes. Quel était votre objectif ?

C’est partie d’une simple remarque d’un viewer sur Twitch, qui venait de regarder ma dernière vidéo Youtube où je montre comment on peut reproduire des vidéos réalistes pour faire dire ce qu’on veut à Squeezie, Hugo Décrypte ou au président, et il me dit dans le chat pendant un de mes lives “ce serait incroyable de mettre le système sur Twitch, non ?”.

Ni une ni deux, j’ai répondu “bon si on a du temps on le fera, je pense que c’est rapide”. “Rapide” étant un mot bien trop rapidement utilisé dans le développement, et après une nuit blanche le jeudi, et toute la journée du vendredi à coder, le système était en ligne vendredi soir sur la plateforme de streaming. Donc l’objectif était avant tout une curiosité mais il y avait bien un intérêt sous chacune de mes casquettes.

Ma première casquette est vulgarisateur en IA sur Youtube et Twitch. Je m’efforce de démocratiser ces technologies depuis 3 ans en montrant les capacités de l’Intelligence Artificielle pour que ça parle au grand public, aussi bien pour en voir les opportunités que pour éduquer aux risques potentiels. Je pense que tout le monde a compris grâce à ce live qu’on est à une nouvelle étape de la désinformation et qu’il devient encore plus urgent de faire attention à ce qu’on partage individuellement. Un message Whatsapp envoyé à une connaissance pourra devenir une arme demain pour copier votre voix.

Un autre objectif était de montrer la capacité à réaliser ce type de système dans le cadre du développement de ma jeune startup française en IA. On développe des agents d’IA c’est -à -dire des modèles capables de répondre à un objectif précis dans un but interactif et évolutif. Et quoi de mieux pour démontrer ça que de permettre à n’importe qui de discuter avec une version IA du Président ?

Votre chaîne Twitch à récemment été bannie à cause de propos deepfake mal interprétés. Comment lutter contre la modération des algorithmes ?

Oui, la chaîne a été bannie car le “Président” a répondu à la question: “donne-moi le top 3 des pires noms de villages français”. Dans ce listing il y avait le village “La-Mort-Aux-Juifs”, renommé depuis 2014. Bien que l’IA ait précisé que c’est un nom historique du village en ajoutant le contexte nécessaire, l’algorithme de modération de Twitch a identifié ce nom de village comme un appel à la haine et a automatiquement banni ma chaîne.

Depuis, Twitch est revenu sur sa décision et à avoué s’être trompé, car il s’agit d’un véritable nom de village, utilisé dans un contexte adéquat sans aucun appel à la haine.

Mais cet événement montre bien le problème de déléguer des décisions si importantes aux algorithmes. Cette décision a failli ruiner le développement de ma chaîne Twitch sur laquelle je travaille depuis 2 ans, en plus de m’empêcher de streamer pendant une semaine. J’ai perdu des partenariats et toutes mes vidéos Twitch ont été automatiquement supprimées.

Le pire a été que je m’attendais à une réponse rapide d’un humain pour contrer cette modération algorithmique rapide, mais cela a pris une semaine, ce qui est excessivement long aux vues du préjudice. D’autant qu’au début Twitch n’a pas fourni la cause exacte du ban, j’ai donc dû enquêter seul.

Je comprends le contexte de Twitch qui a des millions d’utilisateurs et qui a besoin de répondre rapidement et efficacement aux appels à la haine potentiels. Mais il est aussi important d’améliorer ces systèmes sur l’explication, et la vérification plus rapide par un humain.

Vous vous êtes déjà fait voler ou détourner votre techno (par Cyril Hanouna notamment). Il y a un fort intérêt pour cette technologie et on imagine facilement les dérives. Est-il possible que cette technologie soit accessible au grand public prochainement ?

La technologie est déjà accessible au grand public si on sait fouiller un peu dans du code. La partie principale et la plus difficile étant de savoir combiner les systèmes pour avoir des systèmes fiables et stables. C’est pour ces raisons que je travaille avec beaucoup d’acteurs individuels pour comprendre comment intégrer ce type de système pour eux.

Mais plus que jamais, il est urgent que les gens comprennent que ces systèmes existent, car je suis persuadé que la meilleure protection que nous avons en tant que société face à ces technologies est l’éducation de notre esprit critique car nous rentrons dans un monde où la frontière entre le virtuel et le réel se fait de plus en plus fine (et sera bientôt inexistante).

Je viens de créer un live twitch en continue de Macron version #IA qui répond au message du chat.

C’est trop une dinguerie comme ça marche trop bien !!! pic.twitter.com/81c1NkOpo7

— Anis Ayari | Defend Intelligence (@DFintelligence) August 25, 2023