Mes enfants ne sont pas des IA – #5 Aucun des deux ne sait ce qui est réel.
Noël approche à grands pas, et le Père Noël se prépare pour sa livraison de cadeaux... du moins c'est ce que croit mon fils! Faire la part des choses entre la réalité et la fiction n'est pas chose aisée et l'IA n'arrange rien! Dans ce 5ème article, j'explore comment mon fils et l'IA parviennent à distinguer le vrai du faux.
Mon fils de 5 ans est un grand fan d'Harry Potter. Nous passons des heures à lire des livres, à discuter des personnages et à se lancer des sorts. Un jour, il m’a demandé de lui confirmer que la magie n’existait pas. J'ai opiné, mais il a immédiatement ajouté « sauf pour le Père Noël et ses lutins ! ». Pour être honnête, cela m’a mise un peu mal à l’aise. J'essaie d'inculquer à mon fils le sens de l'honnêteté et l'esprit critique, et à côté de ça, je participe pleinement au plus grand complot de tous les temps : celui d'un vieil homme qui vole dans les airs et qui offre des cadeaux aux enfants sages du monde entier en une seule nuit. Si c’est vrai, alors pourquoi Harry Potter ne le serait-il pas aussi ?
J'ai demandé à ChatGPT si le Père Noël existait et il m’a répondu : « Le Père Noël n'existe peut-être pas au sens littéral, mais la joie et le bonheur que le Père Noël représente existent certainement dans le cœur de beaucoup pendant la période des fêtes ». Cela signifie-t-il que l’IA sait mieux que mon fils ce qui est vrai ou faux ?
Nous avons pu voir ces derniers temps dans les médias plusieurs histoires de personnes ayant reçu des réponses erronées de ChatGPT, comme cet avocat new-yorkais qui a cité 6 cas de jurisprudence entièrement fictifs et qui risque désormais des sanctions pour pratiques contraires à l'éthique. L’IA générative n’a pas été conçue pour dire la vérité, mais pour donner des réponses probables basées sur les données sur lesquelles elle a été entraînée. Sur Internet, il y a suffisamment de contenu au sujet du Père Noël pour permettre à ChatGPT de me donner une réponse sensée et plutôt poétique. Cependant, si vous posez une question beaucoup plus complexe et spécifique, vous obtiendrez une réponse plausible, mais pas nécessairement vraie.
Nous vivons désormais dans une société très connectée dans laquelle les médias sociaux jouent un rôle important pour nous tenir informés de ce qui se passe dans le monde. Pour la jeune génération, il joue d’ailleurs un rôle encore plus grand que les médias traditionnels. En lien avec ces changements dans nos méthodes de communication, nous avons pu constater ces dernières années une augmentation sans précédent des fausses informations ou « fake news ». Une étude de l’Université Carnegie Mellon indique que « 45 % des tweets sur le coronavirus proviennent de robots diffusant des fake news […] dans le but de semer la division au sein de l’Amérique ». Les fake news se diffusent 6 fois plus vite que les vraies informations, car leur sensationnalisme les rend plus attrayantes et choquantes, ce qui les amène à être partagées et republiées plus souvent. Je vous encourage vivement à consulter d'autres statistiques et faits très intéressants sur les fake news, ainsi que sur d'autres impacts de la technologie sur l'humanité dans le Ledger of Harmspublié par le Center for Humane Technology.
Les fake news deviennent de plus en plus plausibles avec le développement récent de photos et de vidéos deepfakes, rendues possibles par l'IA. De nombreux exemples sont assez bluffant, du pape François qui porte une doudoune blanche à Mark Zuckerberg parlant à CBS News de la "vérité de Facebook et à qui appartient réellement l'avenir", ou du faux porno avec des célébrités. Ils sont aussi utilisés à des fins de propagande et comme arme de guerre de désinformation dans des conflits armés comme les guerres Russo-Ukrainienne et Israélo-Palestinienne. L'IA peut même animer des images de personnes mortes ou fictives comme Salvador Dali ou Mona Lisa. Il est de plus en plus difficile, voire parfois impossible, pour les humains de déterminer si une photo ou une vidéo est réelle.
D’un autre côté, l’IA peut aider à identifier les deepfakes bien mieux que les humains. Adobe a développé une nouvelle fonctionnalité dans Photoshop pour modifier les expressions sur les photos et les vidéos avec le projet Morpheus, mais également, à l’inverse, pour détecter les deepfakes et même annuler les modifications. Ces technologies ne sont cependant pas conçues pour fonctionner à grande échelle et ne peuvent pas traiter l’ensemble du flux de vidéos publiées en permanence sur Internet. La technologie peut également permettre d’ajouter des marqueurs numériques au contenu original et de joindre des métadonnées sur la source de l’information. Nous avons beaucoup parlé récemment des métiers qui seront bientôt remplacés par l’IA, le journalisme étant l’un d’entre eux aux vues des impressionnantes capacités rédactionnelles de l’IA générative. Mais les journalistes et les médias ont et auront un rôle d’autant plus primordial à jouer dans un avenir proche pour vérifier la source des informations et mener des investigations, et pas seulement pour copier ou réécrire les informations qu’ils glanent sur Internet.
Alors, comment puis-je préparer mon enfant tout innocent, qui croit encore au Père Noël, à ce monde où il sera constamment bombardé d’informations peu fiables ? Premièrement, il doit apprendre à ne pas croire tout ce qu’il lit, entend et voit. Il devra contrôler l’impact émotionnel que toutes ces informations ont sur lui afin de pouvoir penser de manière rationnelle. Il devra développer un fort esprit critique pour remettre en question la véracité et évaluer le contexte social de chaque information. Il devra trouver des sources d’informations fiables et peut-être même utiliser de nouveaux outils pour cela. Et en tant que parents, nous avons l’immense responsabilité de montrer l’exemple dans notre vie de tous les jours, notamment en leur disant la vérité… mais peut-être seulement après Noël !