L’intelligence artificielle : non pas la fin du monde mais la fin d’un monde

Jacob Coxon, ancien chercheur chez Anthropic nous alerte que l'intelligence artificielle pourrait tous nous tuer d'ici quelques années. Ce type d'avertissement nourrit chez de nombreuses personnes les craintes d'un scénario apocalyptique à la Terminator ou Matrix.

L'intelligence artificielle, passée de générative à générale, telle Skynet, deviendra ainsi bien plus intelligente que l'espèce humaine. Dès lors, n'ayant plus aucun besoin d'elle, l'IA l'effacera purement et simplement de la surface de la Terre. Mais cette vision a peu de chances de se réaliser pour une raison assez simple à comprendre : les IA n'ont pas de conscience, elles simulent seulement la pensée et le langage humain. Comme elles ne sont pas capables d'émotions ni d'éprouver la moindre intention, l'idée même qu'une IA puisse éradiquer l'humanité relève du pur fantasme.

​Pourtant, le vrai risque de l'IA n'est probablement pas un anéantissement de l'humanité par des machines à la Terminator[1], mais une atrophie progressive des capacités humaines dans une société devenue technologiquement assistée et intellectuellement passive. Ce sera un mélange Her[2]/Idiocracy[3] pour ceux qui connaissent ces longs-métrages. La chute du niveau général qui a déjà commencé depuis belle lurette en Occident et en France, comme le montre l'effondrement historique des compétences en mathématiques et en compréhension de l'écrit révélé par les enquêtes PISA, risque fortement de s'accélérer avec le développement de l'intelligence artificielle[4]. On a déjà un aperçu de cet abrutissement des masses à travers l'usage quotidien des écrans ; on n'ose même pas imaginer la suite dans les années à venir lorsque l'IA aura fini de remplacer le moindre effort de réflexion, de mémorisation et de création chez l'être humain.

​Et l'autre conséquence majeure, ce sera également un scénario à la Black Mirror. L'intelligence artificielle nous fera entrer définitivement dans une surveillance numérique généralisée : contrôle permanent des données personnelles, profilage comportemental, notation sociale par la mise en œuvre d'un crédit social ou d'un pass citoyen. L'épisode le plus marquant de cette série a été le premier de la saison 3 intitulé Nosedive (Chute libre), mettant en scène une jeune femme obsessionnelle vivant dans une société où chaque interaction sociale est immédiatement évaluée de 1 à 5 étoiles sur smartphone[5]. La note globale conditionne directement l'accès au logement, aux transports ou au travail, réduisant la vie humaine à un théâtre de faux-semblants et d'hypocrisie pour ne pas perdre de points. Cet épisode, qui agit comme une véritable claque dans la gueule, montre exactement ce qu'il adviendra du futur de l'humanité : un monde où tout le monde sera noté, surveillé et soumis aux algorithmes.

​En somme, l'intelligence artificielle n'amènera probablement pas à un scénario apocalyptique du type fin du monde. Non, à la place, elle façonne une civilisation d'humains complètement abrutis, contrôlés par les algorithmes et dépendants intellectuellement des « choix » de la machine. Ce ne sera pas la fin du monde, mais la fin d'un monde : celui où l'humanité était seule décisionnaire de son avenir.

Nicolas Maxime