L'EFF a témoigné devant le Congrès sur l'importance de protéger les droits des Américains face à l'IA gouvernementale. L'organisation a soulevé des inquiétudes concernant la mise en œuvre des technologies d'IA sans surveillance appropriée.
Cet article explore comment l'attribution s'affaiblit dans les systèmes d'IA gouvernementaux lorsqu'ils synthétisent des informations à travers des écosystèmes technologiques décentralisés. Les systèmes d'IA rencontrent des défis opérationnels significatifs lorsqu'ils interagissent avec des plateformes et des fournisseurs fragmentés.
Google aurait signé un accord classifié permettant au Département de la Défense des États-Unis d'utiliser ses modèles d'IA pour « tout usage gouvernemental légal », malgré les préoccupations des employés. Cet accord place Google aux côtés d'autres entreprises d'IA comme OpenAI et xAI, qui ont également des contrats avec le gouvernement américain.
Le texte aborde un problème récurrent dans les environnements d'IA gouvernementaux où l'attribution s'affaiblit lorsque les systèmes d'IA synthétisent des informations fragmentées à travers des écosystèmes de fournisseurs décentralisés. Ce problème provient d'environnements lisibles par machine indépendants, chacun avec des structures d'attribution distinctes, rendant difficile pour l'IA de reconstruire l'information.