Le vrai produit de l’IA n’est pas l’assistance, c’est la dépendance

Le vrai produit n’est pas l’assistant, c’est votre dépendance

Et si la question la plus importante à propos d’Alexa Plus, de Siri ou de ChatGPT n’était pas de savoir s’ils comprennent mieux nos phrases, mais de savoir qui sera capable d’agir à notre place, avec quelles informations, et selon quelles règles ?

À première vue, les sujets semblent éloignés. Une enceinte connectée qui réserve une table. Un modèle de langage qui devient plus chaleureux. Un navigateur qui modifie ses conditions d’utilisation. Une messagerie imposée par un gouvernement. Un service de communication abandonné par son propriétaire. Pourtant, ils décrivent tous le même déplacement historique : nos outils numériques cessent d’être de simples instruments et deviennent des intermédiaires permanents entre nous et le monde.

L’intermédiaire connaît nos habitudes, comprend nos demandes, conserve notre historique, choisit parfois le service utilisé et peut, de plus en plus, exécuter l’action. Il ne se contente plus de transmettre un message ou d’afficher une page. Il interprète, filtre, recommande, résume, classe, surveille et décide.

C’est là que se trouve la tension centrale de la prochaine décennie : plus une technologie devient utile, plus elle risque de devenir difficile à quitter. Et plus elle devient difficile à quitter, plus une erreur, une inflexion commerciale ou une décision politique peut affecter notre liberté concrète.

La liberté numérique ne consiste pas seulement à pouvoir accéder à un service. Elle consiste à pouvoir le quitter sans perdre sa mémoire, ses relations et sa capacité d’agir.

De l’outil pratique au guichet unique

Les assistants de nouvelle génération promettent une expérience presque magique. Alexa Plus pourrait comprendre le contexte, percevoir l’humeur, observer la maison, préparer un repas, envoyer des invitations, réserver un trajet et interagir avec des services comme Netflix, Yelp ou Ticketmaster. L’ambition n’est plus de répondre à une question isolée. Elle est de devenir la couche conversationnelle qui relie toutes les autres applications.

Cette évolution est importante. Un assistant limité à « régler une minuterie » reste un outil. Un assistant capable de choisir un restaurant, de vérifier les disponibilités, de réserver une voiture, d’envoyer un message et de modifier notre agenda devient un guichet unique. Nous ne naviguons plus entre les services. Nous passons par lui.

Le gain est évident : moins d’interfaces, moins de mots de passe, moins de recherches et moins de décisions répétitives. Mais cette simplification produit une nouvelle concentration. Celui qui contrôle l’assistant peut devenir le point de passage obligé de notre vie numérique. Sa position ne dépend pas uniquement de la qualité de son modèle. Elle dépend de son accès à nos données, de ses accords avec des services tiers, de sa présence dans nos appareils et de notre difficulté à reconstruire ailleurs ce qu’il a appris de nous.

C’est pourquoi Alexa bénéficie d’une situation singulière. Elle n’a pas eu besoin de dominer le téléphone pour s’installer dans les foyers. Les appareils Echo, les achats Amazon, les contenus Prime, les caméras et les objets connectés forment déjà un environnement cohérent. L’assistant ne cherche plus seulement à comprendre l’utilisateur. Il s’insère dans son quotidien matériel.

La promesse d’un assistant personnalisé contient donc une équation implicite : plus il vous connaît, plus il peut vous aider, mais plus il devient coûteux de le remplacer. La personnalisation est un avantage d’usage et une barrière de sortie en même temps.

Cette logique ne concerne pas uniquement l’intelligence artificielle. Elle explique aussi la disparition de Skype. Le service pouvait être fiable, familier et parfaitement adapté à un cas précis, comme l’enregistrement d’un podcast avec une sauvegarde à distance. Pourtant, sa valeur d’usage n’a pas suffi à le protéger lorsque son propriétaire a décidé de privilégier Teams. Pour l’utilisateur, la fermeture n’est pas une simple mise à jour. C’est la découverte brutale que la continuité d’un outil dépend d’une stratégie industrielle sur laquelle il n’a aucun contrôle.

Le problème n’est pas qu’un service puisse mourir. Tout service doit pouvoir disparaître. Le problème est que l’utilisateur est rarement équipé pour partir. Ses contacts, ses habitudes, ses archives, ses réglages et parfois son identité sont enfermés dans l’écosystème.

Le petit mensonge qui détruit la grande confiance

Les entreprises technologiques parlent souvent de confiance comme d’une qualité émotionnelle, presque publicitaire. Elles promettent la confidentialité, la simplicité, la sécurité ou une expérience familiale. Mais la confiance numérique n’est pas une impression vague. Elle repose sur une série de propriétés observables : savoir ce qui est collecté, comprendre pourquoi, pouvoir vérifier les règles et disposer d’une solution de sortie.

La controverse autour des conditions d’utilisation de Firefox révèle cette mécanique. Modifier une formulation juridique peut sembler anodin. Pourtant, si une organisation avait auparavant affirmé qu’elle ne vendrait jamais les données personnelles, puis supprime cette promesse sans explication claire, le dommage ne vient pas seulement du texte. Il vient du changement unilatéral du contrat moral.

Même si la nouvelle formulation est légalement défendable, elle oblige l’utilisateur à reconsidérer tout ce qu’il croyait savoir. Une phrase ambiguë peut peser davantage que des années de discours sur la protection de la vie privée. La confiance accumulée est une sorte de capital invisible. Elle peut être dépensée très vite.

Le même phénomène apparaît avec les assistants qui produisent des résumés faux ou inversent le sens d’une actualité. Une erreur factuelle dans un moteur de recherche est regrettable. Une erreur énoncée par un assistant intégré à un appareil que l’on considère comme sûr est plus grave, parce qu’elle bénéficie de l’autorité de l’interface.

La fluidité conversationnelle amplifie ce risque. Un modèle qui répond avec plus d’empathie et de naturel paraît plus compétent, même lorsque ses connaissances n’ont pas progressé dans la même proportion. L’intelligence émotionnelle peut améliorer l’expérience, mais elle peut aussi rendre une erreur plus persuasive.

C’est le paradoxe de GPT 4.5 : une amélioration subtile de la chaleur, du ton et de la conversation peut compter davantage dans la vie quotidienne qu’un gain spectaculaire dans un benchmark. Mais plus une machine paraît humaine, plus nous devons résister à la tentation de lui attribuer une fiabilité humaine. Une réponse agréable n’est pas une preuve. Une formulation nuancée n’est pas une vérification.

L’expérience de Claude jouant à Pokémon fournit une métaphore utile. Le modèle dispose d’une vision, d’outils, d’un objectif et de capacités de planification. Il peut progresser, essayer une stratégie et prendre des initiatives. Pourtant, il reste bloqué parce que sa mémoire opérationnelle ne conserve pas correctement la carte déjà explorée.

Ce détail est essentiel. L’autonomie ne résulte pas seulement de la capacité à raisonner. Elle exige une mémoire stable, une représentation fiable du contexte, des mécanismes de récupération et la possibilité de corriger les erreurs. Un agent qui agit sans se souvenir devient dangereux non parce qu’il est malveillant, mais parce qu’il recommence, oublie et interprète chaque situation comme si elle était nouvelle.

Dans une maison connectée, cette faiblesse peut produire une recommandation absurde. Dans un environnement professionnel, elle peut créer une chaîne d’actions incohérentes. Dans un contexte politique, elle peut devenir une machine à attribuer des intentions, à signaler des comportements ou à fabriquer des catégories.

Le laboratoire russe de la dépendance numérique

La Russie montre ce qui se passe lorsque la concentration numérique n’est plus seulement commerciale, mais politique. L’obligation d’installer une messagerie nationale sur les téléphones, le blocage progressif des appels de services étrangers et la connexion de cette messagerie à un système de surveillance transforment une application en infrastructure de contrôle.

Le point le plus inquiétant n’est pas que l’application nationale soit moins performante. C’est qu’elle devienne incontournable. Lorsqu’une administration, une école ou un employeur exige son utilisation, l’absence de chiffrement de bout en bout cesse d’être une préférence technique. Elle devient une contrainte civique.

La même logique s’applique à l’application imposée aux migrants, qui demande une géolocalisation régulière sous peine d’être inscrit dans un fichier administratif. L’application peut mal fonctionner, mais la peur, elle, fonctionne très bien. Dans un tel système, l’échec technique ne réduit pas forcément le pouvoir. Il peut au contraire renforcer l’incertitude : l’utilisateur ne sait pas si son absence vient d’un oubli, d’une panne ou d’un signalement.

Ce cas politique permet de voir plus clairement une dynamique présente, sous une forme moins brutale, dans les plateformes commerciales. Une entreprise n’a pas besoin d’interdire explicitement une alternative pour la rendre impraticable. Il suffit parfois de rendre son propre service plus commode, de placer ses applications par défaut, de regrouper les données ou de faire évoluer les formats de manière incompatible.

La différence entre le marché et l’autoritarisme est fondamentale, mais un mécanisme les relie : la dépendance transforme une préférence en obligation. Au début, nous choisissons une application parce qu’elle est pratique. Ensuite, nos proches l’utilisent. Puis notre école, notre travail ou nos documents y sont associés. Enfin, la sortie devient si coûteuse que le choix initial ressemble rétrospectivement à une obligation.

Les opposants russes cherchent des messageries arméniennes ou d’autres solutions. Cette réaction rappelle une vérité souvent oubliée : la résistance numérique ne repose pas uniquement sur de grands principes. Elle dépend d’une écologie d’alternatives. Un logiciel libre, un fork, un protocole ouvert, une messagerie chiffrée ou un service interopérable peuvent sembler secondaires jusqu’au jour où ils deviennent la seule porte de sortie.

La pluralité n’est donc pas une préférence de spécialistes. C’est une assurance collective.

Une grille pour évaluer les technologies qui veulent nous aider

Pour juger un assistant ou une plateforme, la question « Est ce que cela fonctionne ? » est insuffisante. Il faut ajouter quatre critères qui mesurent notre autonomie.

1. La réversibilité

Peut-on exporter ses données dans un format lisible ? Peut-on récupérer son historique, ses contacts, ses préférences et ses contenus ? Une technologie réversible accepte notre départ. Une technologie irréversible transforme notre passé en rançon.

Avant d’adopter un service central pour les communications, il faut donc se demander : si le service ferme demain, que reste-t-il réellement entre mes mains ?

2. La contestabilité

Pouvons-nous comprendre pourquoi l’assistant a pris une décision ? Pouvons-nous corriger une information, annuler une action et obtenir une explication ? Une bonne interface ne doit pas seulement être rapide. Elle doit laisser une place à la contestation.

Pour une réservation, cela signifie voir le détail avant confirmation. Pour une caméra, savoir ce qui a été reconnu et conservé. Pour un résumé d’actualité, accéder à la source originale. Pour une recommandation sensible, connaître le degré d’incertitude.

3. La pluralité

Existe-t-il des alternatives compatibles ? Le service utilise-t-il des standards ouverts ? Les concurrents peuvent-ils accéder aux mêmes données et aux mêmes fonctions ? La concurrence ne se mesure pas seulement au nombre de logos dans une boutique. Elle se mesure au coût réel du changement.

Un marché où trois applications existent mais où une seule possède les contacts, les archives et les intégrations n’est pas véritablement pluraliste.

4. La proportionnalité

L’assistant demande-t-il plus d’accès qu’il n’en a besoin ? Une application de messagerie doit-elle connaître la géolocalisation permanente ? Un outil de résumé doit-il analyser toutes nos conversations ? Une enceinte qui règle une minuterie a-t-elle besoin de comprendre notre humeur et de voir le contenu du réfrigérateur ?

La question utile n’est pas seulement « Que peut faire ce service ? », mais « Que suis-je obligé de lui révéler pour obtenir cette fonction ? »

Key Takeaways

1. Préparez votre sortie avant d’entrer. Vérifiez l’exportation des données, la compatibilité avec d’autres services et la possibilité de récupérer vos archives.

2. Séparez l’agréable du fiable. Un assistant chaleureux, fluide ou empathique peut toujours se tromper. Pour les informations importantes, consultez la source originale.

3. Réduisez les permissions au minimum. Désactivez la géolocalisation permanente, l’accès inutile au microphone, aux contacts ou aux caméras. La fonction la plus pratique n’est pas toujours celle qui justifie la collecte.

4. Entretenez une solution de secours. Gardez plusieurs moyens de contacter vos proches, une copie locale de vos documents et, lorsque c’est possible, une alternative libre ou interopérable.

5. Jugez les entreprises sur leurs mécanismes, pas sur leurs slogans. Une promesse de confidentialité vaut moins qu’une politique claire, un code vérifiable, des contrôles accessibles et une véritable possibilité de départ.

La prochaine bataille technologique ne portera pas uniquement sur la puissance des modèles, la finesse des téléphones ou le nombre de tâches qu’un assistant peut accomplir. Elle portera sur la maîtrise des dépendances.

Nous avons longtemps évalué les outils selon leur capacité à nous faire gagner du temps. Il faut désormais les évaluer selon leur capacité à nous laisser rester libres. Un assistant vraiment intelligent ne devrait pas seulement comprendre ce que nous voulons. Il devrait aussi nous permettre de vérifier, de corriger, de refuser et de partir.

Car le danger ultime n’est pas une machine qui ne sait rien faire. C’est une machine qui sait faire presque tout, mais dont nous ne pouvons plus nous passer.