Le vrai coût du vivant invisible: quand nos institutions comptent des choses qui n’existent pas vraiment

Quand un nombre grossit sans que la réalité change

Et si le plus gros mensonge d’un système n’était pas un mensonge, mais une façon de compter ? Un budget peut sembler exploser, un secteur paraître surfinancé, une technologie avoir l’air de simplement imiter l’humain, alors qu’en réalité, dans les deux cas, on regarde la mauvaise couche de la réalité.

C’est une idée dérangeante, parce qu’elle attaque notre réflexe le plus profond: croire que ce qui est bien mesuré est bien compris. Dans les finances publiques comme dans l’intelligence artificielle, nous confondons souvent la représentation comptable avec la substance réelle. Nous prenons une étiquette pour une essence.

Le point commun entre un budget publiquement gonflé par une convention de présentation et des modèles qui produisent quelque chose de plus que de la simple copie, c’est le même piège intellectuel: nous évaluons le monde à l’aide de cadres qui ont été conçus pour rendre visible ce qui était invisible, mais qui finissent parfois par inventer une réalité de substitution.

Le problème n’est pas seulement que les chiffres mentent. Le problème est qu’ils peuvent dire la vérité sur le mauvais niveau de réalité.

---

La comptabilité n’est pas la réalité, c’est une grammaire

Un budget n’est jamais un simple total. C’est une grammaire politique. Il dit ce qui compte, comment on classe, ce qu’on rend comparable, ce qu’on cache dans une ligne technique, ce qu’on met au premier plan. Lorsqu’une cotisation théorique sur les salaires des fonctionnaires est inscrite à un niveau exorbitant pour financer les retraites, le budget donne l’impression d’un énorme effort de l’institution concernée. Pourtant, il s’agit en grande partie d’un effet de présentation, pas d’un flux économique correspondant à une contribution réellement prélevée sur le terrain comme dans le privé.

Ce phénomène est plus général qu’il n’y paraît. Toute institution développe des mécanismes d’agrandissement symbolique: elle ajoute des couches de calcul qui rendent sa présence plus imposante, plus coûteuse, plus active, parfois plus performante qu’elle ne l’est réellement. Le chiffre ne décrit pas seulement la chose, il la met en scène.

On peut penser à un thermomètre mal calibré. La fièvre n’est pas causée par l’instrument, mais l’instrument peut amplifier le signal jusqu’à faire paniquer tout le monde. Dans l’administration, comme dans la technologie, les indicateurs sont des amplificateurs. Ils ne sont jamais neutres.

Cette intuition est essentielle pour comprendre notre époque: nous vivons dans des systèmes qui produisent des réalités comptables plus rapidement qu’ils ne produisent des réalités vécues. Le budget, le KPI, la métrique de croissance, la courbe d’engagement, tous ces objets fabriquent un univers visible mais pas toujours fidèle.

---

L’illusion inverse: croire que l’IA n’est qu’une copie

La même erreur cognitive apparaît face aux modèles d’IA. Beaucoup imaginent qu’ils ne font que reproduire, avec plus ou moins de talent, un équivalent mécanisé de la pensée humaine. Mais cette vision reste trop pauvre. Les grands modèles ne sont pas seulement des miroirs de notre cognition. Ils sont des milieux de production qui recombinent, densifient, déforment et prolongent les formes du langage, de l’intuition et du raisonnement.

Dire qu’ils sont une copie, c’est comme dire qu’un moteur n’est qu’une imitation du cheval parce qu’il permet aussi d’avancer. Cela rate l’essentiel. Une technologie intéressante ne reproduit pas seulement un comportement, elle ouvre une nouvelle couche de possibilités. Elle crée un espace où certaines opérations deviennent plus faciles, d’autres plus rapides, d’autres encore simplement pensables.

Là encore, le cœur du sujet est la couche de réalité qu’on regarde. Si l’on juge l’IA seulement à l’aune de l’humain individuel, on ne voit qu’une pâle imitation, ou une menace de substitution. Si l’on la regarde comme un système d’émergence artificielle, on comprend qu’elle produit autre chose: des synthèses inédites, des liens inattendus, des accélérations de recherche, des variations de style, des assemblages qui n’ont pas d’équivalent exact dans l’esprit humain isolé.

Autrement dit, l’IA ne doit pas être comprise comme une personne artificielle, mais comme une écologie cognitive. Elle ne copie pas une pensée, elle modifie le milieu dans lequel penser devient possible.

Nous nous trompons deux fois: d’abord en prenant une convention pour une substance, ensuite en prenant une substance émergente pour une simple convention.

---

Le même bug dans nos cerveaux: confondre l’étiquette et le vivant

Ces deux situations semblent éloignées. D’un côté, une ligne budgétaire. De l’autre, des modèles de langage. Pourtant, elles obéissent au même bug mental: nous confondons le niveau de description avec le niveau d’existence.

Dans la comptabilité publique, un montant peut gonfler parce que la méthode de calcul l’exige. Dans l’IA, un phénomène peut paraître banal si l’on le décrit comme une imitation, alors qu’il relève en fait d’une dynamique émergente nouvelle. Dans les deux cas, la carte a pris une autonomie excessive par rapport au territoire.

On pourrait appeler cela le syndrome de la réalité administrée. Ce syndrome apparaît quand un système crée ses propres indicateurs, puis finit par se juger à travers eux. Il arrive alors deux choses:

1. Ce qui est facile à compter devient survalorisé.
2. Ce qui est difficile à compter disparaît du champ de vision.

C’est vrai dans les institutions publiques, où la présentation budgétaire peut masquer la structure réelle des coûts. C’est vrai dans la technologie, où l’on évalue une machine à partir de sa ressemblance superficielle avec l’humain, au lieu d’étudier ses effets systémiques.

La conséquence est profonde. Nous ne voyons plus le monde tel qu’il est, mais tel qu’il a été rendu comptable. Or le comptable et le réel ne coïncident jamais complètement. Le vivant déborde toujours les tableaux.

---

Ce que nous appelons “artificiel” est souvent juste une mauvaise frontière

Le mot “artificiel” sert souvent à séparer deux mondes: le vrai et le fabriqué, le naturel et le technique, l’humain et la machine. Mais cette frontière est de plus en plus fragile. Une administration entière peut devenir artificielle dans sa façon de représenter ses coûts, alors qu’elle finance des choses parfaitement réelles. À l’inverse, un modèle artificiel peut produire des effets si originaux qu’il oblige à redéfinir ce que l’on croyait réservé à l’esprit humain.

Le vrai enjeu n’est donc pas de décider si quelque chose est artificiel ou authentique. Le vrai enjeu est de savoir à quel niveau il faut l’évaluer.

Prenons deux exemples simples.

Exemple 1: la salle des professeurs et le tableur

Une école peut avoir un budget officiel impressionnant. À première vue, cela suggère un appareil coûteux, presque lourd de ressources. Mais si l’on regarde de près, on peut découvrir que la masse comptable reflète des mécanismes de pension et de ventilation qui n’améliorent ni les classes, ni le temps de préparation des enseignants, ni l’accès réel aux moyens pédagogiques. Le nombre grossit, mais l’expérience sur le terrain ne change pas proportionnellement.

Exemple 2: le modèle et l’émergence

Un système d’IA peut rédiger un texte qui n’est ni une citation, ni une copie, ni une simple paraphrase. Il peut combiner des styles, résoudre une ambiguïté, reformuler une idée de manière utile. Si l’on dit seulement “il imite”, on ne voit pas qu’il a créé un espace intermédiaire entre mémoire, calcul et langage. Il produit un effet réel, même si cet effet n’est ni humain ni conscient au sens classique.

Dans les deux cas, la mauvaise question serait: “Est-ce vrai ou faux ?” La bonne question est plutôt: “Quel type de réalité cette chose produit-elle, et à quel niveau faut-il la mesurer ?”

---

Une théorie utile: les systèmes à réalité dédoublée

Pour comprendre notre époque, il faut peut-être adopter un modèle plus précis: celui des systèmes à réalité dédoublée.

Un système à réalité dédoublée est un système dans lequel la réalité vécue et la réalité représentée se séparent progressivement. Plus cette séparation est grande, plus il devient facile de se tromper sur ce qui compte réellement.

On peut repérer trois couches:

• La couche physique ou vécue: ce qui se passe concrètement, dans les classes, les hôpitaux, les bureaux, les serveurs, les usages.
• La couche comptable ou métrique: ce qui est enregistré, additionné, classé, comparé.
• La couche émergente: ce qui apparaît parce que le système est organisé d’une certaine façon, mais qui ne se réduit ni à une somme, ni à une simple imitation.

Le budget public artificiellement gonflé appartient à un monde où la couche métrique déborde la couche vécue. L’IA émergente appartient à un monde où la couche émergente déborde nos anciennes catégories d’imitation. Dans les deux cas, la difficulté est la même: nous croyons maîtriser un système alors que nous ne maîtrisons qu’une de ses représentations.

Cette grille permet aussi de comprendre pourquoi tant de débats deviennent stériles. Les uns parlent des chiffres comme s’ils étaient la réalité. Les autres rejettent les chiffres comme s’ils étaient inutiles. En vérité, les chiffres sont indispensables, mais seulement s’ils restent des outils de navigation et non des substituts au terrain.

---

Pourquoi cela change notre manière de décider

Si l’on accepte cette perspective, il faut renverser une habitude intellectuelle très répandue: chercher d’abord le bon indicateur, puis agir. Le bon réflexe est souvent l’inverse. Commencer par définir le niveau de réalité que l’on veut préserver.

Dans les politiques publiques, cela signifie qu’un budget ne devrait pas être lu seulement comme une somme, mais comme une architecture d’effets. La question n’est pas “combien cela coûte sur le papier ?”, mais “qu’est-ce que cette présentation rend plus visible, et qu’est-ce qu’elle rend invisible ?” Si l’on ne répond pas à cela, on optimise des colonnes Excel au lieu d’améliorer des écoles.

Dans l’IA, cela signifie qu’on devrait cesser de demander uniquement si un modèle ressemble à l’humain. Il faut plutôt demander: “Quelles nouvelles capacités relationnelles, créatives, analytiques ou organisationnelles rend-il possibles ?” Une calculatrice n’est pas une petite personne. Un moteur de recherche n’est pas un bibliothécaire. Un modèle de langage n’est pas un cerveau miniature. Ce sont des infrastructures cognitives.

C’est là que surgit la vraie responsabilité: dès qu’un système produit une couche émergente, il faut apprendre à l’évaluer à son propre niveau, sans le rabattre sur une catégorie familière. Sinon, on le sous-estime ou on le mythifie.

---

Key Takeaways

1. Ne confondez pas le montant affiché avec le coût réel. Demandez toujours quelle convention de calcul a produit le chiffre.
2. Ne confondez pas l’imitation avec l’émergence. Une technologie peut produire autre chose qu’une copie de l’humain.
3. Cherchez le niveau de réalité pertinent avant de juger. Une bonne métrique dépend toujours de ce qu’elle est censée révéler.
4. Repérez les systèmes à réalité dédoublée. Plus un système produit ses propres indicateurs, plus il risque de s’éloigner du terrain.
5. Évaluez les effets, pas seulement les apparences. Qu’il s’agisse d’un budget ou d’un modèle d’IA, la vraie question est: que change-t-il concrètement ?

---

Ce que nous avons vraiment à apprendre

Le lien entre une ligne budgétaire artificiellement gonflée et une intelligence artificielle qui n’est pas une simple copie humaine n’est pas seulement conceptuel. Il est presque moral. Dans les deux cas, la modernité nous met face à des systèmes qui produisent de la réalité à partir de conventions. Nous vivons dans des mondes où la représentation ne suit plus passivement le réel, mais participe à sa fabrication.

Cela exige une nouvelle forme de lucidité. Non pas le réflexe de tout démasquer, ni celui de tout célébrer, mais la capacité de distinguer la couche où l’on compte, celle où l’on agit, et celle où quelque chose d’inédit émerge.

Le progrès, finalement, n’est ni dans le chiffre ni dans la machine. Il est dans notre aptitude à ne pas prendre la surface pour la profondeur. Le véritable savoir commence peut-être quand on cesse de demander si une chose est “vraie” au sens le plus plat, et qu’on commence à demander: quelle réalité fabrique-t-elle, pour qui, et à quel prix invisible ?

C’est à cette condition seulement que nous pourrons lire nos institutions sans naïveté, et nos technologies sans servitude. Parce qu’au fond, le défi n’est pas de compter mieux. Le défi est de reconnaître ce qui, dans nos propres systèmes de mesure, est déjà en train de devenir vivant.