Meredith Whittaker : Pourquoi l'intelligence artificielle est d'abord un outil de surveillance

Une remise en question du récit technologique

La plupart des discours actuels présentent l'intelligence artificielle comme une force autonome, presque magique. Meredith Whittaker, présidente de la fondation Signal et ancienne cadre chez Google, propose une lecture radicalement différente. Elle ne voit pas l'IA comme une intelligence comparable à l'esprit humain, mais comme un produit dérivé de la surveillance de masse.

Pour comprendre sa vision, il faut observer ce qui compose réellement ces modèles informatiques. Un système d'IA nécessite deux ingrédients principaux : des quantités massives de données et une puissance de calcul phénoménale. Ces ressources ne se trouvent pas dans la nature, elles appartiennent presque exclusivement à une poignée de très grandes entreprises technologiques.

Cette dépendance structurelle crée un cercle fermé. Whittaker souligne que ce que nous appelons progrès est souvent une simple extension de la capacité des entreprises à collecter des informations sur nos vies privées. L'IA n'est pas une rupture avec le passé, elle est l'outil qui permet de rentabiliser les données accumulées depuis deux décennies.

Le mécanisme du contrôle centralisé

Le terme intelligence artificielle agit souvent comme un écran de fumée. Il détourne l'attention des infrastructures physiques et des propriétaires de ces serveurs. En réalité, le développement de ces technologies renforce les monopoles existants plutôt que de les bousculer.

• La concentration des ressources : Seul un petit groupe d'acteurs peut financer les processeurs nécessaires à l'entraînement des grands modèles.
• L'opacité des algorithmes : Les décisions prises par ces systèmes sont rarement explicables, ce qui protège les entreprises de toute responsabilité juridique.
• L'érosion de la vie privée : Plus un système est performant, plus il a besoin de scruter les comportements individuels pour s'affiner.

Whittaker insiste sur le fait que l'IA fonctionne comme un multiplicateur de force. Si elle est utilisée par une institution pour surveiller des employés ou par un État pour contrôler une population, elle ne fait qu'augmenter l'asymétrie de pouvoir entre ceux qui possèdent la technologie et ceux qui la subissent.

Le rôle crucial du chiffrement

Face à cette trajectoire, Signal se positionne comme un contre-modèle. En utilisant le chiffrement de bout en bout, l'application garantit que personne, pas même l'entreprise qui fournit le service, ne peut lire vos messages. C'est l'antithèse absolue du modèle de l'IA prédictive qui cherche à tout savoir pour tout anticiper.

Pour la présidente de Signal, protéger la vie privée n'est pas une question de secret individuel, mais une nécessité politique. Sans espaces de communication privés, la dissidence et l'innovation sociale deviennent impossibles. Le chiffrement devient alors un rempart technique contre la capture des données par les modèles d'IA.

Redéfinir le progrès technique

Il est fréquent d'entendre que la technologie est neutre et que tout dépend de son usage. Meredith Whittaker rejette cette idée. Selon elle, une technologie conçue pour traiter des milliards de données personnelles porte en elle une intention de surveillance dès sa conception. On ne peut pas séparer l'outil de son mode de fabrication.

La véritable innovation ne résiderait pas dans l'ajout de couches d'automatisation sur nos interactions, mais dans la création d'outils qui respectent l'autonomie des utilisateurs. Cela demande de sortir de la logique de croissance infinie des données pour revenir à des systèmes plus sobres et plus transparents.

Le défi pour les entrepreneurs et les développeurs d'aujourd'hui consiste à construire des services qui n'exigent pas de sacrifier l'intimité de leurs clients. Ce n'est pas seulement une question d'éthique, c'est une question de viabilité pour une société démocratique. Vous savez maintenant que l'IA n'est pas une entité abstraite, mais le reflet d'une infrastructure physique dont la propriété détermine notre liberté future.