Intelligence artificielle: panacée ou catastrophe annoncée?
Nous revenons pour un nouvel épisode de Wake Up Call dans lequel nous abordons le sujet controversé de l’IA, l’intelligence artificielle. Olivier nous explique tout d’abord comment cela fonctionne, en termes simples et clairs, et nous dérivons rapidement sur des problématiques liées à cette IA et à son utilisation.
Nous nous demandons si l’IA est un progrès pour l’homme ou si, au contraire, elle l’emmène vers une situation où, alors qu’il aura l’impression de devenir de plus en plus compétitif, il risque de devenir de moins en moins compétent. Nous discutons également de ce que le terme « intelligence » englobe, et si ce nom est finalement adéquat pour définir l’objet dont nous parlons.
Nous évoquons les dangers de la démocratisation de cette IA, qui n’en est qu’à ses balbutiements et ne va pas manquer d’évoluer et de devenir plus puissante et efficace (comme toute technologie qui l’a précédée), pour la pérennité de certains emplois et dans le domaine de de l’éducation des enfants. Marie se demande, citant Theodore Kaczynski, si la source de tous nos maux présents n’a pas démarré avec la révolution industrielle et la fuite en avant vers de progrès, qui place paradoxalement l’humain en état de servitude croissante, tout en lui faisant miroiter plus de liberté.
Un aspect que nous n’avons pas abordé (faute de temps!) mais que nous rajoutons ici est celui du mimétisme de la réalité par l’IA. Nous voyons parfois passer sur les réseaux sociaux des « deep fakes » très convaincants, par lesquels on peut faire dire n’importe quoi à n’importe qui, sans que nous ne puissions dire, à l’oeil nu, si nous avons affaire à la vérité ou à de la contrefaçon. Ceci ne va évidemment pas simplifier la tâche de s’informer de manière fiable à l’avenir!
Nous avons également évoqué d’autres problématiques que nous vous laissons découvrir par vous-mêmes en écoutant ce podcast, qui se termine sur une note d’espoir apportée par l’optimiste Olivier.
Nous mentionnons plusieurs sources au fil du podcast :
Cinéma: Matrix, film des frères (devenues soeurs) Wachowski, avec Keanu Reeves, Carrie-Anne Moss et Laurence Fishburne.
La série des Terminator, films de James Cameron avec Arnold Schwarzenegger et Linda Hamilton.
Livres: Isaac Azimov, Cycle des robots. Petit rappel ici de ces trois lois de la robotique que Marie mentionne: 1)Un robot ne peut porter atteinte à un être humain, ni, restant passif, laisser cet être humain exposé au danger 2)Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi 3)Un robot droit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première et la deuxième loi.
Bernard Stiegler, La Société automatique : 1. L’avenir du travail
Theodore Kaczynski, La Société industrielle et son avenir.
Personnalités : Marie-Estelle Dupont, psychologue clinicienne. Bill Gates, que l’on n’a plus besoin de présenter. Elon Musk, dans son rôle de créateur de l’Open AI. Steve Wozniak, co-créateur de l’Open AI. Yuval Noah Harari, historien et philosophe. Liliane Held-Khawam, journaliste, dont nous reprenons ici une citation qui tiendra lieu de conclusion à cette présentation:
« On nous fait croire que l’IA réfléchit par elle-même et qu’elle émet des opinions « librement ». Le grand public y croit car ne sait pas que l’IA ne restitue que ce que les rédacteurs de code ont mis dedans.«
Nous vous souhaitons, comme d’habitude, une bonne écoute de ce podcast et accueillons vos commentaires avec plaisir!
Bonjour Marie-Florence, bonjour Didier,
Toujours très intéressant et bien documenté votre podcast, bravo pour la clarté et vos sentiments sur l’IA.
Je vois un peu différemment l’issue de l’IA. Je crois que devant la nullité des connaissances des futures générations, la machine s’arrêtera et personne ne pourra la remettre en route. Toutes les technologies seront en panne. L’humanité disparaîtra dans sa grande majorité. L’Homme reviendra à la traction animale et à la pioche.
Les vraies valeurs seront de retour.
Cordialement à vous deux.
J.F.
Merci Jean-François pour votre contribution. On constate déjà une certaine nullité des connaissances mais il restera toujours une frange d’habiles pilotes pour maintenir et développer les machines. Tout l’enjeu est de savoir de quelle façon.
Quant à la disparition de l’humanité, je n’y crois pas, même si beaucoup devront partir sans doute. Je crois à une nouvelle humanité davantage basée, en effet, sur des valeurs fondamentales.
Merci pour votre fidèle écoute.
Bien à vous,
Olivier (non pas Didier)