IA et pensée complexe : ce qu'Edgar Morin change à notre manière de la gouverner

Nous découpons l'IA parce que c'est ainsi que nous savons la contrôler

La logique de l'ingénierie consiste à rendre un problème décomposable. Lorsqu'une application expose une API, on teste l'API. Lorsqu'un agent possède des droits, on vérifie ses permissions. Lorsqu'une sortie doit respecter un schéma, on contrôle sa conformité. Lorsqu'une organisation adopte une IA, on inventorie les usages, les données, les responsables et les risques.

Les travaux récents autour de l'Answer Engineering illustrent bien cette progression. Après avoir longtemps travaillé l'entrée du modèle avec le prompt, on formalise davantage la sortie : quelles formes sont recevables, quelles valeurs sont autorisées, comment extraire le résultat utile, à quelles conditions une réponse peut être utilisée. C'est utile, mais cela traite une couche déterminée. Un JSON valide peut toujours contenir une affirmation fausse, et une réponse techniquement conforme peut produire un effet inattendu lorsqu'elle entre dans un processus humain.

Le même constat vaut pour la gouvernance. Une règle peut être correctement écrite et un contrôle correctement exécuté sans que cela suffise à décrire ce que l'usage répété de l'IA modifiera dans six mois. Ce n'est pas une faiblesse de l'ingénierie. C'est sa frontière lorsqu'on lui demande de prévoir les propriétés d'un ensemble à partir de la seule maîtrise de ses composants.

Morin ne fournit pas une méthode pour l'IA, il déplace le regard

Edgar Morin reprend le terme complexus dans son sens de "ce qui est tissé ensemble". Dans un texte publié par l'UNESCO en 2019, il oppose une pensée qui sépare et réduit à une pensée qui distingue tout en reliant. Son point n'est pas que tout serait impossible à analyser, mais qu'une connaissance perd en pertinence lorsqu'elle coupe durablement un élément de son contexte et des relations qui lui donnent sens.

Pour l'IA, la distinction est utile. Un logiciel peut être extrêmement compliqué tout en restant largement décomposable. La difficulté change de nature lorsque les interactions entre ses composants produisent des effets qui reviennent ensuite modifier les usages, les données ou l'environnement du système.

Morin insiste aussi sur l'incertitude, les relations entre le tout et les parties, la dialogique et les boucles récursives. Il ne faut pas transformer ces notions en vocabulaire décoratif. Elles servent à poser une question simple : qu'est-ce qui change lorsque l'objet que nous introduisons commence à transformer le milieu dans lequel il fonctionne ?

Cette lecture n'est pas cantonnée aux textes historiques de Morin. Publié le 3 septembre 2026 chez EMS Éditions et dirigé par Céline Chatelin et David Carassus, Vers un management public hypermoderne réunit près de soixante chercheurs et spécialistes autour d'une réflexion explicitement fondée sur la pensée complexe. L'ouvrage traite du management public, pas de l'IA, mais il mobilise une gouvernance systémique, collaborative et adaptative face à des environnements en évolution. Ce n'est pas une preuve transposable à l'intelligence artificielle. C'est un exemple contemporain de la manière dont la pensée complexe continue d'être utilisée lorsque les interactions comptent autant que les règles initiales.

L'écologie de l'action devient concrète quand l'IA entre dans l'organisation

Le concept morinien le plus directement exploitable est probablement celui d'"écologie de l'action". Une action, une fois engagée dans un environnement, entre dans un jeu d'interactions qui peut en modifier la trajectoire. L'enjeu n'est donc pas de renoncer à agir, mais d'accepter qu'une action sérieuse doive être suivie, réévaluée et adaptée à ce que le réel renvoie.

Prenons une entreprise qui déploie un assistant génératif pour gagner du temps. Les collaborateurs apprennent à l'utiliser, déplacent certaines tâches vers la machine, changent leur manière de rédiger ou de rechercher une information. Les managers constatent que certains livrables sortent plus vite et revoient progressivement les attentes. Des textes générés deviennent des documents de travail. La vérification prend une place différente de la production. Les compétences valorisées évoluent.

La question n'est alors plus seulement : "combien de temps avons-nous gagné ?" Elle devient : "qu'avons-nous changé pour obtenir ce gain ?" C'est précisément la tension déjà examinée dans l'article sur l'IA au travail et l'efficacité : accélérer une tâche ne garantit pas que l'ensemble du travail devienne plus efficace si le temps se déplace vers la vérification, la correction ou la coordination.

La boucle peut se résumer ainsi :

Intention de départ
      ↓
Déploiement de l'IA
      ↓
Usages humains
      ↓
Nouvelles pratiques
      ↓
Nouvelles informations
      ↓
Nouveaux processus
      ↓
Organisation transformée
      ↺

L'entreprise avait introduit l'IA pour transformer son travail. Le travail transformé crée à son tour de nouvelles conditions d'utilisation de l'IA. L'organisation devient à la fois l'auteur du changement et l'un des objets transformés par ce changement.

La mémoire montre pourquoi le modèle n'est qu'une pièce

Cette boucle devient visible lorsqu'on regarde la mémoire. Le RAG répond à une question essentielle : comment retrouver un fragment pertinent dans un corpus et le fournir au modèle au bon moment ? Mais une organisation ne manipule pas seulement des fragments. Elle manipule des décisions, des versions, des corrections, des relations, des provenances et des informations dont la validité évolue.

C'est l'une des raisons pour lesquelles l'article consacré à OAM, l'après-RAG et la mémoire qui relie et évolue insiste sur la continuité de l'information plutôt que sur sa seule récupération. Retrouver une phrase ne suffit pas toujours à savoir si elle est encore valable, ce qu'elle a remplacé, qui l'a produite ou dans quel contexte elle devait être comprise.

Dans une lecture complexe de l'IA, la mémoire fait partie de la boucle. Une sortie d'IA peut devenir une source interne, cette source peut être corrigée, la correction peut modifier une procédure, puis la procédure peut devenir le contexte d'une future requête. Cela ne signifie pas qu'un RAG serait condamné à se "polluer" avec ses propres réponses. Cela signifie qu'une organisation doit distinguer ce qui provient d'une source, ce qui a été généré, ce qui a été validé, ce qui a été remplacé et ce qui reste incertain.

La complexité apparaît alors moins dans la taille du corpus que dans l'histoire des relations entre les informations.

Gouverner une cible qui bouge ne signifie pas renoncer au contrôle

Opposer brutalement pensée complexe et gouvernance classique serait une caricature. Les cadres sérieux intègrent déjà une partie de cette réalité.

Le NIST AI Risk Management Framework décrit l'IA comme un système sociotechnique et souligne que plusieurs caractéristiques du risque sont liées aux comportements humains et sociaux. ISO/IEC 42001 définit un système de management de l'IA comme un ensemble d'éléments corrélés ou en interaction dans l'organisation, et l'inscrit dans une logique d'amélioration continue. Le règlement européen sur l'IA prévoit, pour les systèmes à haut risque concernés, une surveillance après commercialisation qui doit collecter et analyser les données pertinentes sur leurs performances pendant leur cycle de vie.

Autrement dit, les référentiels modernes ne prétendent déjà plus qu'une validation initiale suffirait pour toujours. La difficulté se situe davantage dans la mise en pratique. Une organisation peut disposer d'une politique IA sans savoir quels usages se sont réellement développés. Elle peut attribuer un responsable à chaque outil sans observer comment le travail se recompose. Elle peut vérifier un modèle sans réexaminer les décisions prises autour de lui.

L'analyse sur l'adoption responsable de l'IA arrivait déjà à cette idée : encadrer ne suffit pas si l'organisation ne sait pas où l'IA agit, avec quelles données, qui peut contredire ses résultats et comment revenir en arrière.

La pensée complexe ajoute une exigence : ne pas seulement auditer l'objet, mais observer les relations qu'il crée.

Ce que cela change concrètement dans une gouvernance IA

La pensée complexe devient utile lorsqu’elle change les questions de pilotage, pas lorsqu’elle ajoute du vocabulaire. Une gouvernance qui ne regarde que l’outil risque de manquer les effets de second ordre. Une gouvernance qui ne regarde que les interactions risque, à l’inverse, de devenir trop abstraite. Le compromis consiste à conserver les contrôles techniques et à ajouter quelques questions de système.

• Qu’est-ce que l’IA modifie dans le travail réel ? Pas seulement ce qu’elle automatise, mais aussi ce qu’elle déplace vers la vérification, la coordination ou la décision.
• Quelles sorties deviennent de nouvelles sources ? Un texte généré, validé puis réinjecté dans une base documentaire ne doit pas perdre son histoire ni sa provenance.
• Quels comportements les indicateurs encouragent-ils ? Un gain de temps, un taux d’acceptation ou un score de conformité peuvent changer les pratiques qu’ils prétendent simplement mesurer.
• Qui peut contredire le système et revenir en arrière ? La supervision humaine n’est utile que si le désaccord reste possible, traçable et techniquement réversible.
• Quel signal déclenche un réexamen ? Une gouvernance sérieuse définit non seulement des règles initiales, mais aussi les événements qui imposent de rouvrir une décision.

Cette grille n’est ni une norme ni un audit. Elle sert à éviter une confusion fréquente : croire qu’un ensemble devient maîtrisé dès lors que chacun de ses composants possède un propriétaire, une métrique et une procédure.

Une recommandation peut modifier celui qui la suit

Le contrôle humain est souvent présenté comme la réponse naturelle aux limites de l'IA. L'humain valide, donc l'humain reste maître. Le raisonnement suppose pourtant que celui qui contrôle reste inchangé par le système qu'il supervise.

Or une recommandation répétée peut modifier le jugement de celui qui la reçoit. Un collaborateur peut apprendre à suivre certains résultats, à vérifier moins souvent certaines sorties ou, au contraire, à développer une expertise de contradiction. Le comportement du contrôleur devient donc une partie du système de contrôle.

C'est un prolongement direct de l'article sur l'IA et la prise de décision : une meilleure prédiction ou une réponse plus convaincante ne garantit pas automatiquement une meilleure décision. L'architecture dépend aussi de la manière dont l'humain interprète, conteste ou délègue la recommandation.

On peut tester séparément le modèle et former séparément l'utilisateur, puis découvrir que leur interaction produit une pratique qui n'avait été décrite ni dans la documentation technique ni dans le programme de formation.

Un proxy peut transporter tout un environnement

L'étude publiée en 2019 dans Science par Ziad Obermeyer, Brian Powers, Christine Vogeli et Sendhil Mullainathan fournit un cas particulièrement éclairant. Les chercheurs ont analysé un algorithme utilisé pour identifier des patients devant bénéficier de programmes de soins renforcés. Le système utilisait les dépenses de santé comme approximation du besoin médical.

Le choix pouvait sembler défendable : les personnes nécessitant davantage de soins coûtent généralement plus cher. Mais les dépenses passées reflétaient aussi des différences historiques d'accès aux soins. En utilisant le coût comme proxy, l'algorithme transportait dans sa décision une partie du fonctionnement du système de santé qui l'avait précédé.

Le point intéressant n'est pas seulement qu'un biais ait été détecté. Il est que la variable n'avait pas de sens indépendamment de son environnement social et organisationnel. Regarder le modèle sans regarder le système qui avait produit la donnée empêchait de comprendre complètement ce que cette donnée signifiait.

Séparer permet de mesurer. Relier permet parfois de comprendre ce que la mesure transporte avec elle.

Ce que l'on ne peut pas conclure

La pensée complexe ne transforme pas toutes les défaillances de l'IA en phénomènes mystérieux. Une permission trop large reste une permission trop large. Une source fausse reste une source fausse. Une architecture mal isolée doit être corrigée par de l'ingénierie, pas par de la philosophie.

Il faut aussi éviter de confondre la pensée complexe de Morin avec la complexité computationnelle en informatique. Le mot est le même, l'objet ne l'est pas. La première travaille les relations, l'incertitude et l'organisation ; la seconde étudie formellement les ressources nécessaires à la résolution de problèmes algorithmiques.

Enfin, la complexité ne doit jamais diluer la responsabilité. Dire qu'un résultat provient d'une interaction entre données, modèles, utilisateurs et organisation ne signifie pas que plus personne n'en répond. Mieux décrire les interactions doit au contraire permettre de comprendre où un contrôle a manqué, quelle hypothèse était fausse et à quel moment une décision aurait dû être réexaminée.

La conclusion n'est donc pas qu'il faudrait remplacer les approches réductionnistes par la pensée complexe. Nous avons besoin des deux : isoler pour tester, mesurer et sécuriser ; relier pour comprendre ce que l'ensemble est en train de devenir.

Ma lecture : la gouvernance doit aussi observer ce que l'IA change chez nous

Nous avons longtemps posé la question de l'IA en termes de maîtrise : quel modèle choisir, quelles données lui donner, quelles règles imposer, quelles réponses accepter, quels contrôles mettre autour de lui. Ces questions restent indispensables.

Mais elles décrivent surtout ce que nous faisons à l'IA.

La pensée complexe oblige à ajouter l'autre moitié : que fait l'IA à l'organisation qui l'utilise ?

Que devient une compétence lorsque sa pratique est régulièrement déléguée ? Que devient une base de connaissances lorsque les contenus générés y prennent une place croissante ? Que devient une règle lorsqu'elle est contournée par les usages réels ? Que devient un indicateur lorsque l'outil modifie précisément ce qu'il mesure ? Que devient enfin le contrôle humain lorsque celui qui contrôle apprend lui aussi à travailler avec la machine ?

Le sujet n'est plus seulement de gouverner un objet technique. Il est de gouverner une relation évolutive entre des modèles, des données, des personnes, des règles et une mémoire qui change avec eux.

Morin reste actuel non parce qu'il aurait décrit l'intelligence artificielle contemporaine, mais parce qu'il rappelle une idée simple : lorsqu'un phénomène est "tissé ensemble", comprendre chaque fil ne suffit plus à comprendre ce que le tissu devient.

À lire aussi

• Answer Engineering : après le prompt, définir ce qu'une réponse doit respecter
• OAM : après plusieurs années de recherche, nous ouvrons l'après-RAG
• IA responsable : encadrer ne suffit pas à garder la maîtrise
• IA au travail : pourquoi gagner du temps ne suffit pas à travailler plus efficacement
• IA et prise de décision : pourquoi une meilleure réponse ne garantit pas une meilleure décision