Comment une entreprise – Palantir – est la cartographie des données de la nation

Lorsque le gouvernement américain signe des contrats avec des sociétés technologiques privées, les petits caractères atteignent rarement le public. Palantir Technologies, cependant, a attiré de plus en plus d’attention au cours de la dernière décennie en raison de la taille et de la portée de ses contrats avec le gouvernement.

Les deux plates-formes principales de Palantir sont la fonderie et Gotham. Chacun fait des choses différentes. La fonderie est utilisée par les sociétés du secteur privé pour aider les opérations mondiales. Gotham est commercialisé comme un «système d’exploitation pour la prise de décision mondiale» et est principalement utilisé par les gouvernements.

Je suis un chercheur qui étudie l’intersection de la gouvernance des données, des technologies numériques et du gouvernement fédéral américain. J’observe comment le gouvernement rassemble de plus en plus les données de diverses sources et les conséquences politiques et sociales de la combinaison de ces sources de données. Le travail de Palantir avec le gouvernement fédéral utilisant la plate-forme Gotham amplifie ce processus.

Gotham est une plate-forme d’investigation construite pour la police, les agences de sécurité nationale, les services de santé publique et d’autres clients de l’État. Son objectif est trompeusement simple: prenez déjà les données d’une agence, décomposez-la dans ses plus petits composants, puis connectez les points. Gotham n’est pas simplement une base de données. Il prend des données fragmentées, dispersées dans diverses agences et stockées dans différents formats, et la transforme en un Web unifié et consultable.

Les enjeux sont élevés avec la plate-forme Gotham de Palantir. Le logiciel permet aux analystes des forces de l’ordre et du gouvernement de connecter de vastes ensembles de données disparates, de construire des profils d’intelligence et de rechercher des individus en fonction de caractéristiques aussi granulaires qu’un tatouage ou un statut d’immigration. Il transforme les dossiers historiquement statiques – pensez aux fichiers du Département des véhicules à moteur, aux rapports de police et aux données des médias sociaux assimilées comme l’historique de localisation et les messages privés – en un réseau fluide d’intelligence et de surveillance.

Ces départements et agences utilisent la plate-forme de Palantir pour assembler des profils détaillés des individus, cartographier leurs réseaux sociaux, suivre leurs mouvements, identifier leurs caractéristiques physiques et revoir leurs antécédents criminels. Cela peut impliquer la cartographie du réseau d’un membre de gang présumé en utilisant les journaux d’arrestation et les données du lecteur de plaque d’immatriculation, ou signaler les individus dans une région spécifique avec un statut d’immigration particulier.

L’efficacité que la plate-forme permet est indéniable. Pour les enquêteurs, ce qui a nécessité une fois des semaines de systèmes cloisonnés de vérification croisée peut maintenant être fait en heures ou moins. Mais en augmentant la capacité d’investigation du gouvernement, Gotham modifie également la relation entre l’État et les personnes qu’elle régit.

Déplacer l’équilibre des pouvoirs

Les ramifications politiques de la montée de Palantir se concentrent lorsque vous considérez son influence et son parcours à travers le gouvernement. L’immigration et l’application des douanes américaines ont dépensé à elles seules plus de 200 millions de dollars pour les contrats de Palantir, en s’appuyant sur le logiciel pour exécuter son système de gestion des cas d’enquête et pour intégrer les antécédents de voyage, les enregistrements de visa, les données biométriques et les données sur les médias sociaux.

Le ministère de la Défense a attribué des contrats à Palantir d’un milliard de dollars pour soutenir Battlefield Intelligence et une analyse dirigée par l’IA. Même les agences domestiques comme les Centers for Disease Control and Prevention et l’Internal Revenue Service, et les services de police locaux comme le service de police de New York, ont contracté avec Palantir pour des projets d’intégration de données.

Ces intégrations signifient que Palantir n’est pas seulement un fournisseur de logiciels; Il devient un partenaire dans la façon dont le gouvernement fédéral organise et agit sur l’information. Cela crée une sorte de dépendance. La même entreprise privée aide à définir la façon dont les enquêtes sont menées, comment les cibles sont prioritaires, le fonctionnement des algorithmes et comment les décisions sont justifiées.

Parce que Gotham est propriétaire, le public et même les élus ne peuvent pas voir comment ses algorithmes pèsent certains points de données ou pourquoi ils mettent en évidence certaines connexions. Pourtant, les conclusions qu’il génère peut avoir des conséquences qui changent la vie: l’inclusion sur une liste d’expulsion ou une identification comme risque de sécurité. L’opacité rend la surveillance démocratique difficile, et la large portée et le large déploiement du système signifient que les erreurs ou les biais peuvent se développer rapidement pour affecter de nombreuses personnes.

Au-delà des forces de l’ordre

Les partisans du travail de Palantir soutiennent qu’elle modernise les systèmes informatiques du gouvernement obsolète, les rapprochant du type d’analyse intégrée qui sont routinières dans le secteur privé. Cependant, les enjeux politiques et sociaux sont différents dans la gouvernance publique. La recherche centralisée basée sur les attributs, que ce soit par emplacement, statut d’immigration, tatouages ​​ou affiliations, crée la capacité de profilage de masse.

Entre les mauvaises mains, ou même entre des mains bien intentionnées dans des conditions politiques changeantes, ce type de système pourrait normaliser la surveillance des communautés entières. Et les critères qui déclenchent un examen minutieux aujourd’hui pourraient être élargis demain.

L’histoire américaine fournit des exemples d’avertissement: la surveillance de masse des communautés musulmanes après le 11 septembre, le ciblage des militants des droits civiques dans les années 1960 et la surveillance des manifestants anti-guerre à l’époque du Vietnam ne sont que quelques-uns.

Les capacités de Gotham peuvent permettre aux agences gouvernementales d’effectuer des opérations similaires à une échelle beaucoup plus grande et à un rythme plus rapide. Et une fois qu’une forme d’infrastructure d’intégration des données existe, ses utilisations ont tendance à se développer, souvent dans des zones loin de son mandat d’origine.

Un changement plus large de gouvernance

L’histoire plus profonde ici n’est pas seulement que le gouvernement collecte plus de données. C’est que la structure de la gouvernance se transforme en un modèle où la prise de décision est de plus en plus influencée par ce que révèlent les plateformes de données intégrées. Dans une ère pré-Gotham, mettre une personne soupçonnée d’actes répréhensibles aurait nécessité des preuves spécifiques liées à un événement ou un compte de témoin. Dans un système compatible Gotham, les suspicions peuvent découler des modèles des données – modèles dont l’importance est définie par des algorithmes propriétaires.

Ce niveau d’intégration des données signifie que les représentants du gouvernement peuvent utiliser des risques futurs potentiels pour justifier l’action actuelle. Le virage prédictif de la gouvernance s’aligne sur un changement plus large vers ce que certains chercheurs appellent la «sécurité préemptive». C’est une logique qui peut éroder des garanties juridiques traditionnelles qui nécessitent une preuve avant la punition.

Les enjeux de la démocratie

Le partenariat entre Palantir et le gouvernement fédéral soulève des questions fondamentales sur la responsabilité dans un État axé sur les données. Qui décide comment ces outils sont utilisés? Qui peut contester une décision qui a été prise par les logiciels, surtout si ce logiciel est propriétaire?

Sans règles claires et surveillance indépendante, il existe un risque que la technologie de Palantir se normalise en tant que mode de gouvernance par défaut. Ils pourraient être utilisés non seulement pour suivre les criminels suspects ou les terroristes, mais aussi pour gérer les flux de migration, surveiller et supprimer les manifestations et appliquer des mesures de santé publique. La préoccupation n’est pas que ces capacités d’intégration des données existent, mais que les agences gouvernementales pourraient les utiliser d’une manière qui sape les libertés civiles sans consentement public.

Une fois utilisés, ces systèmes sont difficiles à démonter. Ils créent de nouvelles attentes pour la vitesse et l’efficacité des forces de l’ordre, ce qui rend politiquement coûteux de revenir en processus plus lents et plus manuels. Cette inertie peut verrouiller non seulement la technologie, mais aussi la portée élargie de la surveillance qu’elle permet.

Choisir l’avenir

Alors que Palantir approfondit ses partenariats gouvernementaux, les problèmes de sa technologie soulèvent au-delà des questions de coût ou d’efficacité. Il y a des implications sur les libertés civiles et le potentiel d’abus. Les solides garanties juridiques et la surveillance transparente limiteront-elles ces outils pour l’analyse intégrée des données? La réponse est susceptible de dépendre de la volonté politique autant que de conception technique.

En fin de compte, le Gotham de Palantir est plus que le logiciel. Il représente le fonctionnement de la gouvernance moderne: à travers les données, les connexions, la surveillance et le contrôle continus. Les décisions prises au sujet de son utilisation aujourd’hui sont susceptibles de façonner l’équilibre entre la sécurité et la liberté pour les décennies à venir.