L’intelligence artificielle ne domine pas encore l’humain : ce que révèle le livre de Jean-Gabriel Ganascia
L’idée d’une domination des machines fascine autant qu’elle inquiète. Pourtant, les systèmes d’intelligence artificielle capables de reconnaître une voix, d’analyser un texte ou de battre un champion au jeu de go ne possèdent pas, pour autant, une volonté propre. Le livre Intelligence artificielle : vers une domination programmée ?, de Jean-Gabriel Ganascia, distingue les capacités techniques observables des scénarios dans lesquels l’humanité deviendrait l’esclave de ses créations.
Un ouvrage pour examiner l’IA sans céder à la fascination
Le livre s’adresse aux lecteurs qui veulent comprendre pourquoi l’intelligence artificielle occupe une place croissante dans la vie quotidienne et dans les débats de société. Il n’en fait pas une force autonome et uniforme. Il invite plutôt à observer ce que font réellement les programmes, les données dont ils dépendent et les décisions humaines qui accompagnent leur déploiement.
Jean-Gabriel Ganascia est professeur à l’université Pierre et Marie Curie. Il a dirigé une équipe de recherche du Laboratoire d’informatique de Paris-VI, spécialisée notamment dans les agents cognitifs et l’apprentissage symbolique automatique. Son approche relie l’informatique, la modélisation cognitive et les questions philosophiques ou politiques. L’objectif n’est donc pas de prédire la date d’un éventuel règne des robots, mais de fournir des repères pour évaluer les annonces technologiques.
Une question volontairement provocatrice
Parler de « domination programmée » oblige à poser plusieurs questions : qui programme, avec quelles données, pour quel objectif et sous quel contrôle ? Une machine ne choisit pas seule ses finalités. En revanche, un système automatisé peut peser fortement sur une décision lorsqu’il est intégré à une organisation, à un service public, à une entreprise ou à une plateforme.
Le risque de pouvoir ne vient donc pas uniquement d’un robot imaginaire devenu conscient. Il peut aussi résulter de procédures opaques, de données concentrées et d’une confiance excessive dans une prédiction informatique. La question porte alors sur les usages et sur la capacité des humains à conserver un contrôle réel.
Ce que l’intelligence artificielle fait réellement
L’intelligence artificielle désigne un ensemble de méthodes qui permettent à un ordinateur d’accomplir certaines tâches associées à l’intelligence humaine : reconnaître des formes, traiter la parole, comprendre partiellement des textes en langage naturel, classer des informations, calculer une stratégie ou produire une réponse. Ces performances peuvent être impressionnantes, mais elles restent généralement liées à un domaine précis.
| Notion | Ce qu’elle désigne | Ce qu’elle ne prouve pas |
|---|---|---|
| IA faible | Un système performant sur une tâche déterminée | Une compréhension générale du monde |
| Machine Learning | Des méthodes qui ajustent un modèle à partir de données | Une connaissance spontanée ou une intention |
| Deep Learning | Une forme d’apprentissage profond utile pour repérer des régularités complexes | Une conscience artificielle |
| Test de Turing | Un protocole qui examine la capacité d’une machine à soutenir une conversation convaincante | La preuve qu’elle possède un esprit |
Des données aux résultats : une chaîne d’apprentissage
Le Big Data fournit de grandes masses de données à partir desquelles certains systèmes construisent automatiquement des régularités. Pendant l’entraînement, le programme repère des associations statistiques et ajuste ses paramètres pour mieux classer, prédire ou générer. Lorsqu’il reçoit une nouvelle requête, il produit une réponse en s’appuyant sur ce qu’il a appris à partir de ces exemples.
Cette logique explique certaines réussites en reconnaissance de la parole, en analyse d’images et dans des usages du langage naturel. Elle montre aussi pourquoi les données occupent une place centrale dans les performances d’un modèle. Un système ne produit pas ses résultats à partir d’une compréhension spontanée du monde, mais à partir des régularités qu’il a apprises.
Les limites apparaissent lorsque les situations rencontrées diffèrent des données d’entraînement, lorsque les informations sont incomplètes ou lorsque les catégories utilisées comportent des biais. Un modèle peut alors se tromper. Son résultat n’est pas une vérité automatique : c’est une sortie calculée, qui doit être vérifiée selon les conséquences de la décision.
Performance, conscience et créativité : les distinctions décisives
Une confusion fréquente consiste à assimiler une performance spécialisée à une intelligence comparable à celle d’un être humain. La victoire d’une machine contre un champion du monde de go démontre une capacité remarquable à traiter ce jeu. Elle ne démontre ni une expérience vécue, ni des émotions, ni une conscience de soi.
Règlement européen sur l’intelligence artificielle (AI Act) — Consultez le texte officiel de l’Union européenne établissant des règles harmonisées pour l’intelligence artificielle.
Pourquoi l’analogie avec le cerveau est insuffisante
Les termes de « réseau neuronal » ou d’« apprentissage » peuvent donner l’impression que l’ordinateur reproduit l’activité cérébrale. Il s’agit d’analogies techniques, pas d’une équivalence. Le raisonnement informatique repose sur des opérations formelles et sur des modèles définis par des humains.
L’intelligence humaine est liée à un corps, à une histoire, à des relations sociales, à des valeurs et à la capacité de donner du sens à une situation. Ces dimensions ne se résument pas à la détection de régularités dans des données.
La couture offre une image concrète de cet écart. Un système peut reconnaître qu’un vêtement comporte une manche ou prédire un motif probable à partir de milliers d’images. Il ne ressent ni le tombé d’un tissu, ni la résistance d’une fibre sous l’aiguille, ni l’intention d’une personne qui retouche une veste pour se présenter autrement au monde. Entre assembler des formes et interpréter une situation, il reste tout ce qui relève du geste, du contexte et du jugement.
L’IA forte reste une hypothèse
L’expression intelligence artificielle forte désigne l’hypothèse d’une machine dotée d’une intelligence générale, voire d’une conscience comparable à celle de l’humain. Elle se distingue de l’IA faible, conçue pour accomplir des tâches circonscrites.
Les systèmes actuels peuvent générer des textes, proposer des images ou dialoguer de façon convaincante. Ces capacités ne suffisent pas à établir l’existence d’émotions, d’intuition, de créativité ou d’une intention propre démontrée. Une réponse qui semble pertinente ne prouve pas qu’une machine comprend une situation comme le ferait une personne.
Les risques concrets sont d’abord sociaux et politiques
Réduire les inquiétudes à la science-fiction ferait passer à côté des enjeux immédiats. L’automatisation peut transformer l’organisation du travail, déplacer certaines tâches et modifier les compétences attendues. Il serait imprudent d’annoncer que les robots mettront mécaniquement tous les travailleurs au chômage. Les effets dépendent des métiers, des choix d’investissement, de la formation et de la manière dont les organisations redistribuent les gains de productivité.
- Surveillance et démocratie : l’exploitation de données à grande échelle peut renforcer le suivi des comportements et concentrer un pouvoir considérable entre les mains de ceux qui possèdent les infrastructures et les informations.
- Biais et responsabilité : une décision automatisée peut reproduire des biais présents dans les données ou dans les critères retenus. La responsabilité ne disparaît pas derrière l’algorithme : des personnes conçoivent, déploient et valident le système.
- Décisions critiques : les voitures autonomes et les robots militaires soulèvent des questions éthiques, car une erreur peut avoir des conséquences physiques directes. Ces usages exigent des règles, une supervision et une attribution claire des responsabilités.
La domination la plus plausible n’est donc pas nécessairement celle d’une conscience artificielle qui se retournerait contre ses créateurs. Elle peut prendre une forme plus ordinaire : une délégation excessive. Des systèmes de classement, de recommandation ou de prédiction peuvent alors décider sans possibilité réelle de contestation humaine.
Lire la domination programmée comme une question de gouvernance
L’intérêt central de l’ouvrage est de déplacer le débat. Au lieu de choisir entre enthousiasme aveugle et catastrophisme, il propose d’examiner les promesses de l’IA à partir de leurs conditions matérielles et sociales. Les ordinateurs ne sont ni infaillibles ni invincibles. Leurs résultats dépendent des objectifs fixés, de la qualité des données, de la puissance de calcul et des règles de contrôle.
Cette lecture permet de distinguer trois niveaux. Les capacités existantes, comme la reconnaissance de la parole ou l’apprentissage à partir de données, peuvent être évaluées. Les hypothèses, comme l’avènement d’une intelligence forte, doivent être discutées sans être présentées comme des faits. Les récits d’immortalité numérique, de téléchargement intégral des consciences ou d’asservissement inéluctable relèvent de spéculations qui ne doivent pas remplacer l’analyse.
Face à l’intelligence artificielle, la question n’est pas seulement de savoir ce que pourront faire les machines. Il faut aussi demander quels usages une société accepte, qui garde la main sur les décisions et comment préserver l’autonomie humaine. Dans cette perspective, l’expression « vers une domination programmée » devient moins une prophétie qu’un avertissement sur la gouvernance des systèmes automatisés.