Intelligence artificielle: La nouvelle barbarie

Cet article vous a plu ? Pourquoi ne pas le partager ?

Poursuivant mon exploration des livres sur l’Intelligence Artificielle, je suis tombé, sur le conseil de Pierre Blanc, l’auteur de l’IA expliquée à mon boss, sur une petite pépite. Intelligence Artificielle, la nouvelle barbarie, est un livre écrit à quatre mains par deux polytechniciens, Marie David et Cédric Sauviat. Contrairement à Luc Julia, ils ne soutiennent pas que l’IA n’existent pas, et comme d’autres auteurs, ils pointent plutôt les dangers qui en relèvent. Mais contrairement au techno-scientisme d’un Laurent Alexandre ou d’un Nick Bostrom, ces deux auteurs ne prétendent pas que c’est l’avénement d’une super-intelligence qui risque de mettre l’humanité en péril, mais plutôt deux caractéristiques inhérentes aux modes de développement des techniques liées à l’IA.

Deux graves dangers

Éminemment critique sut la suprématie technologiste ambiante, le livre expose alors les deux principaux reproches que les deux auteurs adressent à l’usage de plus en plus important de l’IA. Le premier, c’est qu’en prétendant éviter à l’espèce humaine d’effectuer les traitements les plus pénibles, d’un point de vue physique (via l’automatisation et les robots) ou intellectuel (via la puissance de calcul), la technologie finit par cantonner nos congénères aux tâches les plus inintéressantes (serrer des boulons, déplacer des objets dans un entrepôt), aboutissant à une perte de sens de l’activité salariée, avant la disparition finale de toute activité professionnelle dans certains secteurs. Seuls les ingénieurs et les architectes, ces rares représentants d’une caste privilégiée capable de maîtriser encore un peu l’usage de ces technologies, pourront tirer leur épingle du jeu.

Le second, encore plus insidieux, a trait à la perte de responsabilité induite par des algorithmes auxquels on confie, de plus en plus, la lourde tâche de déterminer les choix optimaux dans des situations de plus en plus fréquentes : diagnostic médical, arbitrage financier, et jusqu’aux décisions de justice, comme le rappel Cathy O’Neill ans un ouvrage récent. À terme, prétendent les auteurs, c’est notre capacité de jugement qui risque d’être sérieusement entamée, et note faculté de prendre des décisions, indépendamment de tout calcul algorithmique. Réduits à dépendre d’évaluations faites par des logiciels, nous serions incapables de prendre la moindre initiative, et d’assurer la moindre responsabilité. Et risquerions de nous réveiller dans le monde horripilant décrit dans le film Idiocratie.

Pour une société moins technophile

Le livre de Marie David et Cédric Sauviat s’inscrit donc une approche beaucoup moins laudative de l’intelligence artificielle, que les nombreux ouvrages parus récemment. Ils notent même, au passage, que derrière le discours de défiance de certains auteurs qui prétendent que l’avènement d’une IA forte est un risque potentiel, se cache en réalité une admiration démesurée pour la technologie. Et c’est cette forme de soumission qu’ils dénoncent, avec un talent certain. Leur livre fait donc partie, de manière claire, de ceux qu’il faut lire pour comprendre vers quelle impasse nous nous dirigeons si nous n’apprenons pas à repenser notre relation aux algorithmes.

Vaste programme, n’est-ce pas ?

Cet article vous a plu ? Pourquoi ne pas le partager ?