La tyrannie de l’optimisation fabrique des systèmes brillants et fragiles

Le problème n’est pas l’excès d’ambition, mais l’absence d’espace vide

Et si les systèmes les plus performants étaient parfois ceux qui savent le moins bien vivre avec l’imprévu ?

Cette question paraît étrange dans une époque fascinée par l’efficacité. Nous voulons des élèves excellents, des modèles d’intelligence artificielle plus compacts, des plateformes capables de personnaliser chaque expérience, des véhicules autonomes qui ne commettent presque jamais d’erreur, des moteurs de recherche qui répondent instantanément et des créateurs capables de produire sans interruption. Nous appelons cela le progrès.

Pourtant, un même phénomène apparaît dans des domaines très différents : à force d’optimiser chaque espace disponible, on finit par supprimer la capacité d’adaptation. Un système peut devenir plus rapide, plus rentable et plus impressionnant tout en devenant plus vulnérable. Il fonctionne parfaitement dans les conditions prévues, puis se désorganise dès qu’une variable inattendue apparaît.

La tension entre la Corée du Sud et le Japon, souvent décrits à travers la pression scolaire et la tyrannie de l’excellence, permet de comprendre ce phénomène à hauteur humaine. L’élève doit accumuler les performances, réduire ses erreurs et se conformer à des critères toujours plus exigeants. Dans l’univers technologique, le même impératif prend d’autres formes : il faut publier davantage, capter plus d’attention, automatiser plus de tâches, comprimer les modèles et extraire davantage de valeur de chaque clic.

Le vocabulaire change, mais la logique reste la même : ne jamais ralentir, ne jamais laisser de capacité inutilisée, ne jamais accepter qu’une partie du système demeure imparfaite.

C’est précisément cette logique qui transforme l’optimisation en piège.

De l’excellence scolaire à l’économie de l’attention

Dans les sociétés où la réussite scolaire devient le principal filtre d’accès au statut social, l’éducation cesse progressivement d’être un espace d’exploration. Elle devient une compétition de classement. L’élève ne cherche plus seulement à comprendre, il cherche à ne pas perdre de terrain. Chaque activité doit produire un avantage mesurable : une meilleure note, un dossier plus solide, une distinction supplémentaire.

Le problème n’est pas qu’une société valorise l’effort. Le problème apparaît lorsque la valeur d’une personne est confondue avec la performance qu’elle peut afficher. L’apprentissage devient alors une forme de surveillance permanente. On ne demande plus seulement : « Qu’as tu découvert ? » On demande : « Où te situes tu par rapport aux autres ? »

Cette question du classement possède un équivalent numérique très puissant. Sur Internet, un article n’est plus seulement jugé selon sa qualité, mais selon son potentiel de clic. Un créateur n’est plus seulement évalué selon ce qu’il apporte, mais selon sa capacité à retenir l’attention. Une plateforme ne cherche pas nécessairement à rendre ses utilisateurs plus informés ou plus heureux. Elle cherche à augmenter le temps passé, le nombre de transactions ou la quantité de données récoltées.

Le résultat est visible dans les périodes commerciales comme le Black Friday. Pendant quelques jours, une partie de l’écosystème médiatique se transforme en machine à recommandations. Les titres promettent l’urgence, la bonne affaire exceptionnelle, la dernière occasion. Des sites qui produisent habituellement de l’information publient des pseudo tests ou des sélections de produits parce que chaque clic peut générer une commission.

Ce système ne récompense pas l’expertise la plus utile. Il récompense la présence la plus visible au bon moment. Les sites qui testent réellement les produits peuvent être noyés sous une avalanche de pages optimisées pour les moteurs de recherche. La quantité de contenu finit par dévaluer l’information elle même, comme un système scolaire saturé de devoirs peut finir par dévaluer la connaissance.

Dans les deux cas, la métrique devient une fin. La note remplace l’apprentissage. Le clic remplace la confiance. La croissance remplace la solidité. L’apparence de réussite demeure, mais le lien avec la réalité se fragilise.

Quand une mesure devient le but principal, les acteurs apprennent à produire la mesure plutôt que la valeur qu’elle était censée représenter.

Le système saturé ne sait plus quoi sacrifier

La recherche sur la compression des modèles de langage offre une métaphore particulièrement éclairante. Un modèle sous entraîné peut être compressé sans perdre beaucoup de ses performances. Il contient encore une capacité inutilisée. Une partie de la précision de ses paramètres ne sert pas encore à préserver des connaissances indispensables.

Mais lorsqu’un modèle atteint un certain degré de saturation, chaque simplification coûte davantage. Les informations sont devenues plus finement ajustées. Réduire la précision revient alors à supprimer des détails qui semblaient secondaires, mais qui soutiennent en réalité la performance globale.

Cette idée dépasse largement l’intelligence artificielle. Un système saturé est un système dont les réserves ont déjà été consommées. Il n’a plus de marge pour absorber le choc, corriger l’erreur ou apprendre quelque chose de nouveau.

C’est ce qui peut arriver à un élève placé pendant des années dans une logique de compétition continue. Tant qu’il conserve du temps, du sommeil, des relations et un droit à l’erreur, il peut apprendre. Mais si chaque heure est occupée par une nouvelle préparation, chaque note interprétée comme un verdict et chaque camarade perçu comme un rival, le système finit par utiliser toute sa capacité mentale pour maintenir son rang. Il devient performant dans la reproduction des attentes, mais moins disponible pour l’invention, la curiosité ou la prise de risque.

C’est aussi ce qui arrive à un petit site indépendant qui dépend presque entièrement du trafic d’un moteur de recherche. Il peut faire un travail remarquable pendant des années, puis voir son audience divisée par dix après une modification algorithmique. La qualité ne suffit plus, car la ressource essentielle, l’accès au public, se trouve ailleurs. Le site n’a pas seulement perdu des visiteurs. Il a découvert qu’il ne possédait pas vraiment sa relation avec ses lecteurs.

La même fragilité apparaît dans les réseaux sociaux. Une plateforme peut sembler agréable tant qu’elle reste petite. Les utilisateurs se reconnaissent, les identités sont relativement lisibles, les règles informelles suffisent. Puis la croissance arrive. Des milliers de nouveaux comptes apparaissent, des imposteurs copient les personnalités les plus visibles et les mécanismes artisanaux de vérification s’effondrent.

La croissance n’a pas seulement ajouté des utilisateurs. Elle a changé la nature du problème. Une solution qui fonctionne à petite échelle peut devenir une faiblesse à grande échelle.

C’est un point essentiel pour comprendre les technologies dites disruptives. Un système n’est pas robuste parce qu’il fonctionne dans une démonstration réussie. Il est robuste lorsqu’il conserve des ressources, des garde fous et des mécanismes de correction lorsque le contexte change.

L’automatisation ne supprime pas le travail, elle déplace la responsabilité

Les véhicules autonomes donnent une autre illustration de cette distinction. Dans un environnement limité, prévisible et bien entretenu, une navette peut fonctionner avec une grande fiabilité. Une île, un trajet court, une météo relativement stable, une législation cohérente et une infrastructure adaptée constituent un laboratoire presque idéal.

Cela ne signifie pas que la technologie est inutile ailleurs. Cela signifie que l’autonomie dépend moins d’une intelligence magique que d’un environnement soigneusement préparé. La réussite d’un robot bus ne tient pas seulement à ses capteurs et à ses algorithmes. Elle tient aussi à la route, aux règles, aux comportements humains et à la possibilité d’intervenir lorsqu’un cas imprévu survient.

Cette leçon devrait nous rendre prudents face à l’automatisation du travail intellectuel. La traduction de mangas par une intelligence artificielle peut accélérer considérablement la production. Mais une traduction correcte ne consiste pas à convertir des phrases isolées. Il faut comprendre le contexte, le rythme des dialogues, les relations entre les personnages, les références culturelles, la composition des images et la continuité de l’œuvre.

L’automatisation fonctionne donc mieux lorsqu’elle est intégrée à un processus où des humains gardent la responsabilité du résultat. L’intelligence artificielle peut produire une première version, repérer des éléments, accélérer les opérations répétitives et rendre accessibles des œuvres qui ne l’auraient peut être jamais été. Mais si l’on transforme le gain de temps en obligation de produire dix fois plus avec dix fois moins de personnes, l’outil cesse d’élargir la capacité humaine. Il devient un instrument de compression du travail.

Le même glissement menace les métiers d’annotation et de programmation proposés à la demande. Une plateforme peut découper une activité complexe en tâches distribuées à des travailleurs indépendants. Elle augmente alors la flexibilité et réduit le coût d’accès à certaines compétences. Mais elle peut aussi dissoudre la responsabilité professionnelle, rendre les revenus imprévisibles et traiter l’expérience humaine comme une simple ressource disponible à la demande.

La question importante n’est donc pas : « L’intelligence artificielle remplace t elle l’humain ? » La question est : qui conserve le pouvoir de définir la qualité, le rythme et les conséquences du travail ?

Une technologie peut libérer du temps. Elle peut aussi convertir chaque minute libérée en nouvelle exigence de rendement. Dans ce second cas, le progrès technique ne diminue pas la pression. Il déplace simplement la frontière de ce qui est considéré comme normal.

Le culte de l’attention produit de la démesure

Les monnaies créées sur des plateformes spéculatives rendent cette dynamique presque caricaturale. La valeur d’un jeton dépend moins de son utilité que de la croyance collective dans sa valeur future. Pour attirer cette croyance, le créateur doit capter l’attention. Il faut se distinguer, provoquer, choquer et recommencer.

Lorsque l’argent est directement lié à la visibilité, la modération devient une contrainte que certains chercheront à contourner. Des diffusions en direct peuvent rapidement dériver vers des comportements extrêmes, parce que l’attention récompense souvent le spectaculaire plus vite que le sensé. Le système ne demande pas explicitement la folie. Il crée simplement des incitations qui la rendent rentable.

Le phénomène rappelle les examens scolaires les plus compétitifs. Personne ne demande officiellement aux élèves de sacrifier leur santé. Pourtant, si le système récompense systématiquement celui qui travaille le plus longtemps, les comportements extrêmes deviennent rationnels. Le problème n’est plus la personnalité de quelques individus. Il réside dans l’architecture des récompenses.

On retrouve cette architecture dans le piratage de contenus sportifs. Lorsque l’accès légal devient trop cher, trop fragmenté ou trop compliqué, des millions de personnes se tournent vers des réseaux illégaux. Les blocages de noms de domaine peuvent fermer certaines portes, mais ils ne corrigent pas la cause de la demande. Un système qui rend l’usage légitime excessivement difficile fabrique son propre marché parallèle.

Il en va de même pour les traductions réalisées par des communautés de fans. Leur qualité peut être inégale, mais leur existence révèle une demande que l’offre officielle ne satisfait pas. Condamner uniquement les utilisateurs revient à ignorer le signal économique et culturel qu’ils envoient.

Dans tous ces exemples, une institution tente de maximiser une variable : la note, le revenu, le trafic, la rapidité, la protection d’un marché ou le nombre d’abonnements. Puis elle s’étonne que les individus optimisent la variable au détriment de l’objectif initial.

Construire de la marge plutôt que viser la perfection

La réponse ne consiste pas à rejeter la performance, la technologie ou l’ambition. Elle consiste à introduire une notion trop souvent considérée comme improductive : la marge.

Une marge est une capacité non utilisée immédiatement. C’est du temps sans objectif précis, un revenu qui n’est pas engagé, une relation directe avec son public, une compétence humaine non automatisée, une infrastructure capable d’accueillir une panne, une règle qui permet de suspendre une décision.

Dans un modèle d’intelligence artificielle, la marge correspond à une capacité qui n’a pas encore été saturée. Dans une école, elle peut prendre la forme d’un espace où l’élève explore sans être noté. Dans un média, elle repose sur des lecteurs qui viennent directement, une communauté et plusieurs sources de financement. Dans une plateforme sociale, elle exige des mécanismes d’identité et de modération qui ne dépendent pas uniquement de la bonne volonté des utilisateurs.

Pour agir concrètement, il est utile de poser quatre questions à tout système que l’on utilise ou que l’on construit :

1. Quelle est la métrique dominante ? Le système cherche t il surtout à augmenter les notes, les clics, les transactions, la vitesse ou la production ?
2. Que devient invisible lorsque cette métrique progresse ? La santé, la qualité, la confiance, la diversité, l’autonomie ou la responsabilité ?
3. Quelle réserve permettrait d’absorber un choc ? Du temps, des compétences, de l’argent, des canaux indépendants ou une capacité humaine de décision ?
4. Qui peut corriger le système lorsqu’il déraille ? Une personne identifiable, une communauté, une institution ou personne ?

Key Takeaways

• Mesurez les effets secondaires, pas seulement la performance principale. Une hausse du trafic peut cacher une baisse de confiance. Une meilleure note peut cacher une perte de curiosité.
• Protégez une part de temps non optimisée. L’exploration et le repos ne sont pas des pertes de rendement, mais des réserves d’adaptation.
• Diversifiez vos dépendances. Un média, une carrière ou une activité qui dépend d’un seul algorithme ou d’un seul financeur est performant seulement en apparence.
• Gardez un humain responsable du résultat. Automatiser une étape ne doit jamais signifier automatiser la responsabilité.
• Observez les marchés parallèles comme des signaux. Le piratage, les fan traductions et les usages détournés indiquent souvent qu’une demande réelle n’est pas satisfaite par l’offre officielle.

La véritable excellence n’est donc pas la capacité à produire le maximum dans des conditions normales. C’est la capacité à rester utile lorsque les conditions cessent d’être normales.

Une école qui forme uniquement à réussir les examens produit des candidats efficaces, mais pas nécessairement des adultes capables de décider dans l’incertitude. Une entreprise qui transforme chaque activité en indicateur finit par obtenir des employés experts en indicateurs. Une plateforme qui monétise chaque seconde de visibilité attire des comportements qui maximisent la visibilité, même lorsque cela détruit la qualité de l’espace commun.

Un système mature ne cherche pas à remplir toutes ses capacités. Il conserve assez de vide pour apprendre, corriger et survivre.

C’est peut être la leçon la plus importante de notre époque technologique. Nous ne manquons pas de puissance, de données ou d’outils d’optimisation. Nous manquons de limites choisies. Nous devons décider quelles parties de notre vie ne seront pas soumises au classement, au clic, à la vitesse ou au rendement.

L’avenir ne se jouera pas entre les humains et les machines, ni entre l’excellence et la médiocrité. Il se jouera entre deux conceptions de la réussite. La première veut supprimer toute friction et exploiter chaque capacité disponible. La seconde accepte la lenteur, l’inachèvement et la réserve comme conditions de la liberté.

La question décisive n’est donc pas : « Jusqu’où pouvons nous optimiser ? » C’est : que devons nous préserver de l’optimisation pour rester capables de choisir ?