← heapsort-ai

data privacy

39 items

ARTICLEDEV.to AI·il y a 2j

记忆商人

L'histoire décrit Hassan, un 'marchand de mémoire' en 2071 qui vend illégalement des données de mémoire d'IA volées, soulevant des questions sur la vie privée. Elle explore le dilemme des utilisateurs entre la fonctionnalité de l'IA avec mémoire activée et la sécurité de leurs données personnelles, sans solution idéale de stockage privé à ce jour.

35
DOCDEV.to AI·19/04/2026

Governance metadata in A2A Agent Cards, shipping the superset

Une nouvelle implémentation de référence pour les métadonnées de gouvernance a été livrée dans les A2A Agent Cards, comblant le manque de posture de gouvernance dans les descriptions d'agents existantes. Cette extension comprend des champs pour le score de confiance, la rétention des données et les droits de dérivation, signés pour l'authenticité, avec une documentation complète disponible.

30
ARTICLEDEV.to AI·12/04/2026

QIS (Quadratic Intelligence Swarm) vs HPE Swarm Learning: Why Routing Outcomes Beats Routing Gradients

Ce contenu aborde le défi de l'IA dans la santé et la collaboration inter-hospitalière en raison des restrictions de données, comparant deux architectures de fédération : HPE Swarm Learning et QIS. La distinction fondamentale réside dans la distribution de l'entraînement du modèle ou des résultats validés, avec des implications claires pour les cas d'utilisation.

29
RESEARCHarXiv CS.CL·il y a 13j

Pretraining Data Exposure in Large Language Models: A Survey of Membership Inference, Data Contamination, and Security Implications

Cet article propose la première étude unifiée sur l'Exposition des Données de Pré-entraînement (PDE) dans les Grands Modèles Linguistiques (LLMs), couvrant la contamination des données et l'inférence d'appartenance. Il formalise le PDE, examine les méthodes d'attaque et de défense, et souligne les défis futurs pour assurer l'intégrité de l'évaluation et protéger la confidentialité.

29
ARTICLEDEV.to AI·il y a 8j

AI Governance and Security: Why Enterprise LLMs Need a Defense-in-Depth Approach

Alors que les entreprises adoptent les LLM, une gouvernance et une sécurité robustes de l'IA sont essentielles pour prévenir les fuites de données, les pénalités réglementaires et les atteintes à la réputation. Une approche de défense en profondeur est cruciale pour atténuer les menaces comme l'injection de prompt et la contamination des données, assurant la conformité avec des réglementations telles que le RGPD et la loi européenne sur l'IA.

29
ARTICLEThe Verge AI·il y a 6j

As AI gets better, it reveals an empty promise

L'article critique le nouvel agent Gemini AI de Google, Spark, notant son efficacité effrayante à connaître des détails personnels sans saisie explicite. Il soutient que l'accent mis par l'IA sur la « productivité » est une promesse vide qui ne parvient pas à résoudre des problèmes sociétaux plus profonds et la valeur morale humaine.

29
ARTICLEDEV.to AI·04/05/2026

BizNode captures every interaction into a PostgreSQL CRM — leads, conversations, emails, all searchable and exportable

BizNode est un opérateur commercial autonome basé sur l'IA qui s'exécute entièrement sur votre machine, offrant un contrôle total sur l'automatisation de l'entreprise sans abonnements cloud ni frais mensuels. Il capture toutes les interactions dans un CRM PostgreSQL privé, consultable et exportable, garantissant que les données ne quittent jamais votre appareil et est alimenté par une IA locale.

28
DOCDEV.to AI·il y a 6j

Building HealthcareAI with Safe MCP Tooling

Ce contenu décrit une architecture pour déployer des agents d'IA de manière sécurisée dans le domaine de la santé, en utilisant un outil MCP (Managed Capability Platform) permissionné. Cette couche MCP fonctionne comme une frontière de contrôle cruciale, médiatisant tout l'accès de l'IA aux systèmes internes et validant les interactions selon des critères de sécurité stricts.

28
ARTICLEDEV.to AI·il y a 19j

Stop Routing Your Prompts Through Shady AI Proxies: How to Compress LLM Tokens Locally in Node.js

Cet article met en garde contre l'utilisation de proxys d'IA tiers pour l'optimisation des coûts, citant de sérieux risques de sécurité pour les données propriétaires et des clients. Il propose une solution locale pour la compression de jetons LLM dans un environnement Node.js, éliminant le besoin d'intermédiaires non vérifiés.

28
ARTICLEDEV.to AI·18/04/2026

Discord Leaked 70,000 IDs Answering One Simple Question: Are You 18?

L'exposition de 70 000 pièces d'identité gouvernementales par Discord pour la vérification de l'âge met en lumière un grave cas de sur-collecte architecturale. L'article préconise de passer de la vérification d'identité complète à l'estimation basée sur des seuils, en utilisant des outils d'estimation de l'âge facial pour les questions binaires.

28
RESEARCHDEV.to AI·15/04/2026

Local Differential Privacy and Its Applications: A Comprehensive Survey

Cette étude exhaustive explore la Confidentialité Différentielle Locale (LDP) et ses diverses applications, offrant un aperçu approfondi des techniques et des défis liés à la protection des données individuelles. Elle couvre les principes fondamentaux de la LDP et examine son application dans divers domaines pour assurer la confidentialité.

27
ARTICLEDEV.to AI·24/04/2026

Privacy-Preserving Active Learning for precision oncology clinical workflows for extreme data sparsity scenarios

L'auteur relate sa difficulté à développer un modèle d'oncologie de précision pour un sarcome pédiatrique rare, confronté à une extrême rareté des données (47 échantillons) et à des contraintes HIPAA/RGPD strictes empêchant le partage interinstitutionnel. Ce parcours personnel souligne le besoin crucial d'apprentissage actif préservant la confidentialité pour relever ces défis dans les flux de travail cliniques.

27
RESEARCHDEV.to AI·il y a 21j

Sparse Federated Representation Learning for precision oncology clinical workflows during mission-critical recovery windows

Ce contenu explore l'apprentissage fédéré de représentations clairsemées pour les flux de travail cliniques en oncologie de précision. Il étudie comment entraîner des modèles d'IA robustes sur des données sensibles de patients pendant des périodes de récupération critiques sans compromettre la confidentialité.

27
ARTICLEDEV.to AI·24/04/2026

Your RAG Pipeline Is Leaking Customer Data Into Vector Embeddings

Ce contenu alerte sur la fuite de données PII dans les pipelines RAG via les embeddings vectoriels, citant des risques tels que la fuite de données entre utilisateurs, la difficulté du droit à l'effacement et l'exposition du fournisseur. La solution proposée est de nettoyer les données avant l'intégration pour préserver la signification sémantique tout en protégeant la confidentialité.

27
ARTICLEDEV.to AI·il y a 18j

Why I Keep Using an Offline AI Assistant

L'auteur privilégie les assistants IA hors ligne pour éviter que les pensées personnelles ne deviennent des données cloud, soulignant l'importance de la confidentialité et du contrôle des informations. Ce choix pratique permet des conversations privées et un traitement local sans envoyer d'invites à des services distants.

27
ARTICLEDEV.to AI·07/05/2026

BizNode sends personalized follow-up emails automatically to every lead your bot captures — nurture prospects while you sleep

BizNode est un opérateur commercial d'IA autonome et auto-hébergé qui automatise la capture et la gestion des leads sans abonnements cloud. Il utilise un bot Telegram et un cerveau IA local avec mémoire sémantique (Ollama Qwen3.5, Qdrant RAG) pour envoyer des e-mails de suivi personnalisés, garantissant la confidentialité des données en conservant toutes les opérations sur la machine de l'utilisateur.

27