Mes enfants ne sont pas des IA – #3 Ils ont tous les deux du mal à reconnaître les émotions.

Un jour, alors que notre petite famille était à table, mon fils aîné est tombé de sa chaise et, d'une manière ou d'une autre, s'est fait mal. Rien de grave, mais vous imaginez bien comme un petit garçon de 5 ans peut en faire tout un drame. Il a commencé à crier et à pleurer très fort en faisant d'horribles grimaces. En face de lui, mon bébé alors âgé de 6 mois le regardait avec stupeur, ses yeux bleus grands ouverts. Après quelques secondes, il s'est mis à rire et à agiter ses petits bras et ses petites jambes. Bien entendu, cela a énervé mon fils aîné qui pensait qu'il se moquait de lui. Mon bébé a alors arrêté de rire, a eu l'air de réfléchir pendant quelques secondes, puis s'est mis à pleurer, de vraies larmes coulant de ses yeux.

Reconnaître les émotions n’est pas inné. Nous commençons à apprendre à reconnaître les émotions de base dès notre plus jeune âge et nous continuons à apprendre tout au long de notre vie. Reconnaître les émotions est la première étape vers l’empathie. Comme mon petit bébé en fait l'expérience pour la première fois, pour créer des liens avec d'autres êtres humains, il est non seulement important de comprendre ce qu'ils disent, mais aussi ce qu'ils ressentent et, mieux encore, de partager ce qu'ils ressentent. C’est ce qui fait de nous des êtres humains, c’est ce qui fait de nous des êtres sociaux.

Alors, qu’est-ce que l’IA a à voir dans ce cas ? Comment pouvons-nous nous attendre à ce qu'une IA comprenne ce que nous ressentons ? Pourquoi serait-ce utile ? À ce stade de la recherche, l’IA est loin de pouvoir ressentir quoi que ce soit d’humain. Cependant, de la même manière que mon petit bébé, l’IA utilise ce qu’on appelle la technologie de reconnaissance des émotions (Emotional Recognition Technology or ERT) pour apprendre à les reconnaître. L'ERT est déjà utilisé dans plusieurs domaines : cette campagne marketing est-elle efficace ? Les élèves qui suivent ces cours à distance pendant la pandémie sont-ils vraiment attentifs? Cette industrie qui brasse des millions connaît une croissance exponentielle, mais de nombreux experts et organisations tirent la sonnette d'alarme et alertent des dangers et de la nécessité d’en réglementer l’usage.

Tout d’abord, l’ERT est encore très partiale. À titre d’exemple, dans une étude datant de 2019 sur un outil de reconnaissance et d’analyse faciale appelé Face++, les hommes noirs étaient identifiés comme ayant des émotions négatives plus souvent que les hommes blancs. Aujourd’hui, l’ERT n’est entraîné à reconnaître que 6 émotions humaines de base (bonheur, tristesse, peur, surprise, dégoût et colère). Cependant, les humains sont bien plus complexes que cela. Rire de bon coeur est différent d'un rire moqueur, on peut pleurer de tristesse mais aussi de rire. Tout dépend du contexte et de la culture. Nous sommes également très doués pour feindre des expressions. Le projet Emojify l'explique très bien dans une courte vidéo et propose quelques jeux pour voir si vous pouvez battre la machine. Aux vues de toutes ces limites, on comprend aisément la controverse autour de l’utilisation de l’ERT à des fins très sensibles : utiliser l’ERT pour évaluer si tel candidat à un emploi est fiable, si tel voyageur aérien est suspect, si ce prisonnier en liberté conditionnelle peut être digne de confiance… Science-fiction ? Pas vraiment, ce sont des cas d’usage déjà testés et utilisés dans la réalité, et fortement critiqués.

J'ai récemment découvert une application appelée « cry analyser ». Elle prétend être capable d'interpréter les cris de bébé avec un score de précision impressionnant de 80 % pour les bébés de moins de 6 mois. Je l'ai testé avec mon bébé et, je dois l'avouer, j'ai été assez impressionnée. Mais cela m’a amené à m’interroger sur le rôle que joue la technologie dans la relation que les parents établissent avec leur propre enfant. Lorsque nous devenons parent pour la première fois, nous sommes bombardés de conseils (non)sollicités, ce qui suscite le doute et rend parfois difficile la prise de confiance dans notre propre rôle de parent. Si la technologie sait maintenant mieux que nous, comment pouvons-nous encore expérimenter et apprendre par nous-mêmes comment communiquer avec nos propres enfants ? L’ERT pourrait-elle changer notre nature humaine si nous commencions à remplacer notre propre jugement par leur analyse ?

Alors que l’IA devient de plus en plus omniprésente dans notre quotidien, il convient de prendre du recul et de considérer, au-delà des bénéfices immédiats, ses enjeux. Qu'avons-nous à perdre sur le long terme si nous laissons les machines nous surpasser sur nos compétences humaines fondamentales ?