Qui Contrôle le Contexte Contrôle la Réalité

Une question apparemment technique traverse pourtant toute la vie publique : qui décide du contexte dans lequel une idée sera comprise ?

Un modèle de langage peut produire une réponse brillante, puis devenir trompeur parce qu’il lui manque un document, une date ou une contradiction essentielle. De la même manière, une société peut débattre de culture, de boycott ou de liberté artistique, mais ne jamais réellement délibérer si certains acteurs imposent à l’avance le cadre moral dans lequel ces sujets doivent être jugés.

Dans les deux cas, le pouvoir ne consiste pas seulement à parler. Il consiste à sélectionner ce qui sera présent au moment où les autres devront interpréter, décider et agir.

Cette idée permet de relier deux phénomènes que l’on considère généralement comme étrangers l’un à l’autre : la génération augmentée par la récupération d’informations, et la bataille politique autour des artistes, des œuvres et des scènes culturelles. Le premier concerne l’intelligence artificielle. Le second concerne la démocratie. Mais tous deux posent la même question : comment empêcher qu’un système, technique ou politique, ne transforme la sélection du contexte en monopole de la vérité ?

Le vrai pouvoir n’est pas dans la réponse, mais dans le contexte

Un grand modèle de langage possède une capacité remarquable : il peut recombiner des formes, des concepts et des arguments à partir de vastes quantités de données. Pourtant, cette capacité a une limite structurelle. Lorsqu’une question dépend d’informations précises, récentes ou spécialisées, le modèle ne peut pas simplement faire appel à une mémoire parfaite. Il risque de compléter les blancs avec une formulation plausible, mais fausse.

La récupération augmentée de génération, souvent désignée par le sigle RAG, répond à ce problème en ajoutant une étape. Avant de produire une réponse, le système recherche des documents pertinents, les introduit dans le contexte, puis s’appuie sur eux pour formuler son résultat. L’intelligence apparente de la réponse ne vient donc pas uniquement du modèle. Elle dépend aussi de la qualité de la recherche, de la sélection des passages et de la manière dont ceux ci sont hiérarchisés.

C’est un détail technique qui contient une leçon politique majeure. Une réponse n’est jamais seulement le produit d’une capacité de raisonnement. Elle est aussi le produit de ce qui a été rendu visible, disponible et légitime.

Imaginez deux assistants chargés de répondre à la question suivante : « Une campagne de boycott favorise t elle la paix ? » Le premier reçoit uniquement des déclarations militantes présentant le boycott comme un outil de pression non violent. Le second reçoit en plus des données d’opinion, des témoignages de personnes ciblées, des analyses sur les effets historiques du boycott et des informations sur les appels à l’intimidation physique. Les deux assistants peuvent être honnêtes. Les deux peuvent raisonner correctement à partir des éléments fournis. Pourtant, leurs conclusions différeront fortement.

Le problème ne se situe pas nécessairement dans leur logique. Il se situe dans l’architecture de leur attention.

Dans la vie collective, cette architecture est construite par les médias, les partis, les institutions, les réseaux sociaux, les universités, les associations et les groupes militants. Chacun ne se contente pas de proposer une opinion. Chacun tente aussi de déterminer quels faits doivent servir de point de départ, quelles catégories doivent être utilisées et quels comportements doivent apparaître comme normaux ou scandaleux.

Contrôler le contexte, ce n’est pas encore contrôler les conclusions. C’est quelque chose de plus discret et souvent plus puissant : contrôler les conclusions qui paraîtront naturelles.

De la recherche documentaire à l’hégémonie culturelle

Le langage de la technologie aide à clarifier ce qui se joue dans les conflits culturels. Un système de récupération d’informations doit effectuer au moins trois opérations : sélectionner, pondérer, puis générer. Il choisit certains éléments, leur accorde plus ou moins d’importance, puis construit une sortie qui donne l’impression d’une réponse unifiée.

Les mouvements politiques font souvent la même chose avec la réalité sociale. Ils sélectionnent des événements, pondèrent les souffrances, nomment les responsables et construisent un récit dans lequel certaines actions deviennent évidentes. Ce processus n’est pas en soi illégitime. Toute politique a besoin d’une interprétation du monde. Le danger commence lorsque cette interprétation prétend devenir la seule interface acceptable avec la réalité.

Les chiffres concernant les sympathisants de La France insoumise illustrent la force de cette transformation du contexte. Alors qu’une large majorité des Français considère que certains appels au boycott alimentent l’antisémitisme, près d’un sympathisant sur deux estime qu’ils contribuent à faire progresser la paix au Proche Orient. Plus troublant encore, 31 % des sympathisants interrogés jugent justifié de s’en prendre physiquement à des artistes israéliens ou perçus comme favorables à Israël pour empêcher leur venue. Ce chiffre ne prouve pas que tous les membres d’un mouvement approuvent ces comportements, mais il révèle une fracture profonde dans les cadres d’interprétation.

Le même geste, empêcher un artiste de se produire, peut ainsi être décrit comme une agression intolérable ou comme un acte de solidarité nécessaire. La différence ne réside pas seulement dans les faits connus. Elle réside dans la grille de classement moral qui les organise.

Dans une grille, l’artiste est une personne civile dont la responsabilité individuelle ne peut être déduite de sa nationalité ou d’une opinion supposée. Dans une autre, il devient le représentant d’un État, d’un camp ou d’une structure de domination. Une fois ce déplacement accompli, la violence symbolique, puis parfois physique, peut être requalifiée en résistance.

C’est exactement le type de distorsion qu’un système d’intelligence artificielle peut produire lorsqu’un moteur de recherche renvoie exclusivement des documents confirmant une hypothèse initiale. La machine ne ment pas nécessairement. Elle ne voit simplement pas les éléments qui pourraient modifier son jugement.

Le danger du contexte fermé

Un contexte fermé est un environnement où chaque nouvelle information est interprétée à l’intérieur d’un récit qui ne peut plus être véritablement corrigé. Dans un tel environnement, les faits contradictoires ne sont pas examinés. Ils sont reclassés comme propagande, trahison ou preuve supplémentaire de l’hostilité du camp adverse.

On peut représenter ce mécanisme avec une formule simple :

Récit fermé = sélection des faits + vocabulaire exclusif + sanction des contradicteurs.

La sélection des faits répond à la question : que doit on voir ? Le vocabulaire répond à la question : comment doit on le nommer ? La sanction répond à une question plus décisive encore : que risque t on à le nommer autrement ?

Dans le champ culturel, la volonté de soumettre l’art, le sport ou la création à un agenda politique ne menace pas seulement quelques événements. Elle cherche à transformer les institutions culturelles en dispositifs de validation. Une programmation ne serait plus évaluée d’abord selon la qualité artistique, la diversité des œuvres ou la liberté de création, mais selon l’identité politique supposée des participants.

Cette logique repose sur une confusion entre responsabilité et contamination. La responsabilité demande ce qu’une personne a dit ou fait. La contamination demande à quel groupe elle est censée appartenir. Dans le premier cas, on enquête sur des actes. Dans le second, on punit une proximité réelle, imaginaire ou simplement attribuée.

La distinction est essentielle. Un artiste peut être critiqué pour une déclaration précise. Une institution peut être interrogée sur ses financements. Un État peut être condamné pour ses actions. Mais empêcher une personne de se produire en raison de sa nationalité ou d’un soutien politique présumé consiste à remplacer le jugement des actes par la culpabilité par association.

C’est une forme de mauvaise récupération de contexte. Au lieu d’ajouter des informations pertinentes, elle injecte dans chaque situation un document unique, toujours le même : « cette personne représente l’ennemi ». À partir de là, tout le reste devient secondaire.

Pourquoi plusieurs intelligences valent mieux qu’une seule

Les systèmes les plus robustes ne reposent pas toujours sur un modèle unique qui répond directement. Ils utilisent plusieurs fonctions : un agent recherche, un autre évalue la pertinence, un autre repère les contradictions, un autre encore vérifie la formulation finale. L’intérêt de cette architecture ne vient pas d’une multiplication magique des voix. Il vient de la possibilité de séparer les tâches et de rendre les désaccords visibles.

Cette idée peut être transposée à la démocratie. Une société libre n’est pas une société sans récit commun. C’est une société où aucun récit ne peut verrouiller entièrement la recherche, l’interprétation et la sanction. Elle a besoin d’institutions qui jouent des rôles différents : journalistes qui vérifient, tribunaux qui établissent les responsabilités, universités qui contestent les évidences, artistes qui déplacent les frontières du dicible, citoyens qui peuvent changer d’avis sans être exclus de la communauté.

La pluralité ne consiste donc pas à mettre plusieurs opinions dans la même pièce. Elle exige une pluralité fonctionnelle. Il faut des acteurs qui ne fassent pas la même chose et qui ne dépendent pas tous du même centre de validation.

Prenons un exemple concret. Supposons qu’un théâtre invite un artiste controversé. Une architecture démocratique pose plusieurs questions distinctes :

1. Qu’a réellement déclaré ou fait l’artiste ?
2. Existe t il une menace précise et crédible pour le public ?
3. L’annulation résulte t elle d’une décision artistique, d’une contrainte juridique ou d’une intimidation ?
4. La mesure s’applique t elle selon une règle générale, ou seulement à un groupe désigné comme ennemi ?
5. Qui bénéficie du pouvoir de décider ce qui est acceptable ?

Ces questions empêchent une seule catégorie, par exemple « soutien d’Israël », de remplacer toute l’enquête. Elles obligent à distinguer la critique, le boycott, la pression et la violence. Elles rendent les étapes du raisonnement auditables.

C’est là une règle générale pour l’intelligence comme pour la politique : plus une décision est grave, plus son contexte doit être contestable. Une réponse automatique peut être acceptable pour recommander une recette. Elle ne l’est pas de la même manière pour attribuer une responsabilité pénale, exclure un artiste ou justifier une violence.

Construire une démocratie résistante aux récits uniques

La solution n’est pas de supprimer les récits militants. Les sociétés ont besoin de mobilisations, de causes et de conflits publics. La solution consiste à empêcher qu’une cause transforme son propre cadre d’interprétation en tribunal universel.

On peut utiliser une méthode en quatre questions, applicable à une discussion politique, à un article partagé en ligne ou à une décision culturelle.

Première question : quelles informations ont été récupérées ? Cherchez les données absentes. Qui parle ? Qui n’est pas cité ? Quelle période est couverte ? Une histoire qui ne contient ni victimes de la position adverse, ni conséquences imprévues, ni désaccords internes est probablement incomplète.

Deuxième question : comment les personnes sont elles classées ? Sont elles jugées sur leurs actes, leurs paroles et leurs responsabilités précises, ou sur leur nationalité, leur entourage et leur identité supposée ? Cette question permet de détecter le passage de la critique à la culpabilité collective.

Troisième question : quelle action le récit rend il normale ? Tout cadre moral oriente vers une conduite. Il peut appeler à convaincre, boycotter, poursuivre, exclure ou attaquer. Plus l’action proposée est coercitive, plus il faut exiger de preuves spécifiques et de garanties contradictoires.

Quatrième question : le système peut il reconnaître son erreur ? Un mouvement, une institution ou une plateforme qui ne prévoit aucun mécanisme de correction finit par confondre fidélité et vérité. La possibilité de réviser une décision n’est pas une faiblesse morale. C’est une technologie de sécurité collective.

Cette dernière idée est particulièrement importante. Dans un modèle de langage, la récupération de documents ne suffit pas. Il faut également évaluer la fiabilité des sources, repérer les conflits entre documents et signaler l’incertitude. Dans une démocratie, la liberté d’expression ne suffit pas non plus. Il faut des procédures capables de mettre en évidence les erreurs, les abus de pouvoir et les conséquences inattendues.

Key Takeaways

1. Examinez le contexte avant de juger la conclusion. Demandez quels faits ont été rendus visibles et lesquels ont été écartés.
2. Séparez les actes des identités. Une accusation solide porte sur des paroles ou des comportements précis, non sur une nationalité ou une association supposée.
3. Méfiez vous des récits qui absorbent toute contradiction. Si toute objection est immédiatement qualifiée de trahison ou de propagande, le débat est déjà fermé.
4. Augmentez les garanties avec la gravité de la décision. L’exclusion, la censure et la violence exigent davantage de preuves, de pluralité et de contrôle qu’une simple préférence culturelle.
5. Créez des rôles contradictoires. Pour une décision importante, faites intervenir au moins une personne chargée de rechercher les faits contraires et une autre chargée d’identifier les effets sur les personnes visées.

La question fondamentale n’est donc pas de savoir si une cause est noble, si un modèle est puissant ou si un récit est mobilisateur. La question est de savoir ce que cette cause, ce modèle ou ce récit fait de ce qui lui résiste.

Une intelligence fiable n’est pas celle qui produit toujours une réponse assurée. C’est celle qui sait montrer les sources de son contexte, exposer ses incertitudes et laisser entrer une information capable de la corriger. Une culture libre n’est pas celle où personne ne boycotte, ne proteste ou ne condamne. C’est celle où aucun groupe ne peut décider seul qui a le droit d’apparaître, de créer ou d’être entendu.

Le véritable test de la liberté n’est pas l’existence d’un consensus. C’est la possibilité de modifier le contexte sans devoir d’abord demander la permission à ceux qui le contrôlent.