La technologie nous rend elle plus capables ou simplement plus dépendants ?

Pourquoi certaines technologies nous rendent elles plus puissants, tandis que d’autres nous rendent progressivement dépendants d’elles, sans que nous nous en apercevions ? La différence ne tient pas seulement à leur intelligence, à leur vitesse ou à leur prix. Elle tient à une question plus fondamentale : que nous obligent elles encore à comprendre, vérifier et construire par nous mêmes ?

Cette question relie des phénomènes qui semblent éloignés. Un étudiant utilise ChatGPT pour rédiger une dissertation. Un créateur produit des vidéos artificielles pour capter l’attention. Une plateforme transforme chaque clic en donnée, chaque donnée en prédiction et chaque prédiction en nouvelle incitation. Une entreprise automatise la traduction, la négociation ou le transport. Un navigateur gratuit devient une pièce stratégique d’un empire publicitaire. Dans tous ces cas, la technologie promet de réduire l’effort.

Mais réduire l’effort n’est pas toujours un progrès. Parfois, on retire une friction inutile. Parfois, on retire précisément la friction qui produisait la compétence, la confiance ou la qualité.

Ma thèse est simple : les systèmes technologiques deviennent fragiles lorsqu’ils optimisent la fluidité au détriment de la capacité. Ils peuvent alors paraître plus efficaces à court terme, tout en dégradant les conditions qui les rendent fiables à long terme.

La friction n’est pas l’ennemie du progrès

Nous avons pris l’habitude de considérer toute friction comme un défaut. Une traduction qui prend trois mois doit être accélérée. Une recherche qui exige de comparer plusieurs pages doit être résumée. Un trajet qui nécessite un conducteur doit être automatisé. Une négociation qui demande de connaître le droit, les prix et les rapports de force doit être confiée à un agent.

Cette intuition est souvent juste. L’outil de traduction automatisée peut rendre accessibles des œuvres qui ne l’auraient jamais été pour des raisons économiques. Un véhicule autonome peut compenser une pénurie de main d’œuvre. Une IA peut aider un spécialiste à explorer davantage d’hypothèses. Le problème n’est donc pas l’automatisation en elle même.

Le problème est de savoir quelle friction disparaît.

Il existe au moins trois sortes de friction :

1. La friction stérile, qui gaspille du temps sans produire d’apprentissage ni de valeur. Remplir plusieurs fois le même formulaire en est un exemple.
2. La friction formatrice, qui oblige à mémoriser, comparer, formuler ou vérifier. Écrire un premier texte sans assistant peut sembler lent, mais cette lenteur construit une représentation mentale du sujet.
3. La friction de contrôle, qui permet de détecter les erreurs, les manipulations et les abus. Lire plusieurs sources avant de partager une vidéo appartient à cette catégorie.

Une technologie saine élimine surtout la première. Une technologie dangereuse élimine les deux autres en les faisant passer pour de simples inefficacités.

L’expérience de ChatGPT dans l’apprentissage l’illustre parfaitement. Les personnes qui rédigent sans aide mobilisent davantage leur cerveau et retiennent mieux leur texte. Celles qui commencent directement avec le chatbot produisent des formulations plus uniformes, se sentent moins propriétaires de leur travail et peinent davantage à le restituer. En revanche, celles qui ont déjà acquis les bases peuvent utiliser l’IA comme un complément efficace.

La règle qui se dégage est presque pédagogique avant d’être technologique : l’outil doit arriver après l’effort fondateur, pas à sa place.

Un élève qui demande à l’IA de résoudre chaque problème avant d’avoir appris à raisonner ne gagne pas du temps. Il emprunte une compétence qu’il ne possède pas. La dette arrivera plus tard, au moment où il devra agir sans l’outil, évaluer une réponse fausse ou transférer la méthode à un problème inédit.

Une assistance qui arrive trop tôt ne complète pas la compétence. Elle empêche parfois sa formation.

La compression révèle ce que nous avons réellement construit

Une idée issue de la recherche sur les modèles de langage fournit une métaphore puissante pour comprendre cette dette. Les petits modèles deviennent très sensibles à la compression lorsqu’ils ont atteint leur capacité. Tant qu’ils sont sous entraînés, réduire la précision de leurs paramètres les dégrade peu. Mais une fois saturés, la moindre perte de précision détruit une partie de l’information utile.

Cette logique vaut aussi pour les humains et les organisations. La compression est un test de profondeur.

Un savoir superficiel se compresse facilement parce qu’il contient peu de structure personnelle. On peut résumer une leçon que l’on n’a pas comprise, produire une opinion avec des formules toutes faites ou déléguer une décision à un système qui donne une réponse plausible. Tout semble intact, jusqu’au moment où le contexte change.

Un savoir profond résiste davantage à la compression. Il contient des relations, des exemples, des exceptions et une capacité de reconstruction. Une personne qui a réellement compris un concept peut l’expliquer simplement, mais elle peut aussi le réinventer dans une situation nouvelle. Elle ne possède pas seulement une sortie correcte. Elle possède un modèle mental.

Ce critère permet de distinguer deux usages de l’intelligence artificielle. Dans le premier, elle fournit un résultat que l’utilisateur ne sait ni reconstruire ni contrôler. Dans le second, elle accélère un raisonnement que l’utilisateur sait déjà mener. Le premier crée une dépendance. Le second crée un levier.

Le même phénomène apparaît dans les entreprises. Une organisation qui dépend entièrement de Google pour son audience ressemble à un modèle saturé par un paramètre extérieur. Une modification d’algorithme peut diviser son trafic par dix, même si la qualité de son travail n’a pas changé. Un média qui finance ses tests par des liens d’affiliation peut progressivement remplacer l’enquête par des pages conçues pour le référencement. Il gagne en volume, mais perd la substance qui justifiait sa présence.

Internet ne se dégrade pas uniquement parce que les utilisateurs publient de mauvais contenus. Il se dégrade parce que les mécanismes de rémunération récompensent parfois la quantité de signaux plutôt que la qualité de l’information. Les articles de pseudo tests noyent les véritables essais. Les vidéos générées remplissent les plateformes plus vite que les humains ne peuvent les regarder. Les contenus sensationnels gagnent parce qu’ils captent l’attention, même lorsqu’ils n’ajoutent aucune compréhension.

PumpFun pousse cette logique jusqu’à l’absurde. Une monnaie y acquiert de la valeur principalement parce que son créateur parvient à attirer l’attention. Plus le comportement est spectaculaire, vulgaire ou choquant, plus il devient rentable. Le système ne demande pas : « Cette chose a t elle une valeur durable ? » Il demande : « Peut elle provoquer assez de réactions maintenant ? »

C’est exactement le même mécanisme que dans une partie de l’économie de l’attention. La vidéo artificielle, le faux test, le compte usurpé et la cryptomonnaie spéculative ne sont pas des accidents séparés. Ils sont les produits d’un environnement où la visibilité précède la valeur et finit par la remplacer.

Quand l’infrastructure mange l’écosystème

Les plateformes modernes ne vendent pas toujours un produit isolé. Chrome, par exemple, vaut surtout par son rôle dans l’écosystème de Google. Il facilite la recherche, l’identification des utilisateurs, la collecte de données et l’accès aux services publicitaires. Sa valeur ne se trouve pas dans ce qu’il facture directement, mais dans ce qu’il rend possible ailleurs.

Cette architecture produit une forme de dépendance difficile à voir. Un site de qualité dépend du moteur de recherche. Un créateur dépend de la plateforme vidéo. Un utilisateur dépend du compte central qui lui donne accès à plusieurs services. Un développeur dépend d’une boutique d’applications. Peu à peu, la relation n’est plus un échange entre égaux. C’est une infrastructure de passage obligé.

La conséquence la plus importante n’est pas seulement économique. Elle touche la confiance. Quand Google résume les pages au lieu d’envoyer les lecteurs vers elles, quand YouTube génère les vidéos qui concurrencent les créateurs ayant alimenté sa base d’entraînement, ou quand des lunettes connectées recueillent ce que l’utilisateur voit et entend, la plateforme cesse d’être un intermédiaire neutre. Elle devient à la fois le lieu, le public, le producteur et l’analyste de l’activité.

Cette concentration crée un paradoxe. Plus le service est fluide, moins l’utilisateur voit les dépendances qui le soutiennent. Une interface simple peut dissimuler une chaîne complexe de collecte, de classement et de monétisation. La commodité réduit la vigilance exactement comme l’automatisation précoce réduit l’apprentissage.

Les problèmes d’identité sur les réseaux sociaux montrent une autre limite de la fluidité. Une plateforme peut croître rapidement sans disposer d’un mécanisme fiable pour prouver qui parle. Les vérifications fondées sur un nom de domaine sont ingénieuses, mais peu accessibles. La vérification manuelle fonctionne à petite échelle, puis s’effondre quand le nombre d’utilisateurs augmente.

La croissance n’est donc pas seulement un problème de capacité technique. C’est un problème de capacité institutionnelle. Un système peut supporter un million d’utilisateurs et devenir incohérent à dix millions, non parce que ses serveurs sont insuffisants, mais parce que ses règles ne produisent plus de confiance.

Singapour fournit un contre exemple instructif avec les véhicules autonomes. Les navettes y progressent parce que l’infrastructure, la réglementation, la géographie et l’acceptation publique forment un environnement cohérent. À Austin, les robots taxis sont testés dans une zone réduite, cartographiée et surveillée par des humains. Dans les deux cas, l’autonomie n’est pas seulement une prouesse algorithmique. Elle dépend d’un cadre qui limite les situations ambiguës et prévoit la reprise en main.

La leçon est générale : une technologie ne devient fiable que lorsqu’elle est entourée d’institutions capables de gérer ses exceptions.

L’autonomie véritable commence par la capacité de reprise

Il est tentant d’appeler autonomes les systèmes qui exécutent une tâche sans intervention humaine. Mais ce critère est trop faible. Une voiture qui conduit seule dans une zone parfaitement cartographiée n’a pas encore démontré qu’elle sait gérer un environnement imprévisible. Une IA qui traduit dix fois plus vite n’a pas encore démontré qu’elle comprend les nuances culturelles. Un agent qui négocie à notre place n’est pas nécessairement émancipateur s’il donne les meilleurs résultats uniquement aux personnes capables de payer le modèle le plus puissant.

La véritable autonomie devrait être mesurée par une autre capacité : que se passe t il lorsque le système se trompe, devient indisponible ou rencontre un cas qu’il n’a pas prévu ?

Cette question révèle pourquoi les agents d’IA risquent de reproduire les inégalités existantes. Si l’agent le plus coûteux négocie mieux, les personnes riches obtiennent de meilleurs contrats, de meilleurs prix et de meilleures protections. L’outil ne démocratise pas le pouvoir. Il industrialise l’avantage de ceux qui disposent déjà des meilleures ressources.

Elle révèle aussi pourquoi les échecs de projets comme Hytale sont instructifs. Dix années de travail et des millions investis ne garantissent pas un produit. Une organisation peut accumuler du temps, du capital et des annonces sans accumuler une capacité réelle à livrer. À l’inverse, un développement plus indépendant et itératif peut produire rapidement des versions imparfaites, apprendre du réel et éviter de transformer chaque erreur en catastrophe terminale.

Même les fusées illustrent cette différence. Un essai qui explose peut être utile s’il produit des données, améliore la conception et rend l’échec visible. Mais un échec devient destructeur lorsqu’une organisation le masque, le rebaptise ou refuse d’en tirer les conséquences. La culture qui permet de corriger les erreurs compte davantage que l’image d’infaillibilité.

Dans une entreprise de semi conducteurs, des objectifs rigides peuvent pousser les managers à dissimuler les heures supplémentaires, les défauts et les problèmes techniques. Les chiffres paraissent alors meilleurs, tandis que la capacité réelle se dégrade. Les employés partent, l’innovation ralentit et les machines sont manipulées par des personnes épuisées. L’organisation est devenue optimisée pour paraître performante, non pour le devenir.

C’est le même danger que dans les médias optimisés pour les clics, les réseaux optimisés pour l’engagement ou les assistants optimisés pour répondre à tout. Une métrique locale augmente, mais le système perd sa raison d’être.

Construire des systèmes qui nous rendent plus capables

La bonne réponse n’est ni le rejet romantique de la technologie, ni l’enthousiasme automatique pour chaque automatisation. Il faut apprendre à concevoir et utiliser les outils selon leur effet sur notre capacité future.

Un principe simple peut servir de boussole : avant de déléguer une tâche, demandez si vous déléguez une corvée ou une compétence.

Déléguer la mise en forme d’un texte est souvent une corvée. Déléguer la formation de son opinion peut être une perte de capacité. Utiliser une IA pour comparer plusieurs arguments est utile si l’on sait encore juger leur pertinence. Lui demander de choisir à notre place parce que l’on ne comprend pas le problème crée une vulnérabilité.

Pour les organisations, la question devient : si notre plateforme ou notre fournisseur disparaissait demain, que saurions nous encore faire ? Une audience indépendante, une liste de contacts, une documentation interne, des compétences humaines et plusieurs canaux de distribution ne sont pas des coûts superflus. Ce sont des réserves d’autonomie.

Key Takeaways

1. Apprenez d’abord, automatisez ensuite. Pour toute compétence importante, produisez une première version sans assistant avant de demander à l’IA d’améliorer ou de critiquer.
2. Utilisez la compression comme test. Fermez l’outil et expliquez le raisonnement, les hypothèses et les limites avec vos propres mots. Si vous ne le pouvez pas, vous avez probablement délégué la compréhension.
3. Distinguez la visibilité de la valeur. Un grand nombre de vues, de clics ou de réactions ne prouve ni la qualité ni la durabilité d’un contenu.
4. Préservez des voies de sortie. Diversifiez vos sources d’information, vos canaux d’audience, vos sauvegardes et vos fournisseurs essentiels.
5. Exigez une reprise en main. Toute automatisation sérieuse doit prévoir un mode manuel, une possibilité d’audit et une procédure claire lorsque le système se trompe.

Le futur ne sera pas décidé par les technologies les plus intelligentes, mais par les institutions et les individus qui sauront empêcher l’intelligence de devenir une simple machine à produire davantage de dépendance.

La question décisive n’est donc pas : « Que peut faire cet outil à ma place ? » Elle est : « Quelle capacité dois je absolument conserver pour rester libre lorsque l’outil échouera, changera ses règles ou deviendra inaccessible ? »

Une technologie mérite notre confiance non lorsqu’elle nous évite tout effort, mais lorsqu’elle nous permet de fournir un effort plus rare, plus lucide et plus fécond. La vraie automatisation ne supprime pas l’humain du processus. Elle lui rend le contrôle de ce qui compte.