Child welfare

AI Social Workers Gone Wrong: Why ChatGPT Should Never Decide a Child’s Future

Cet article met en garde contre l'utilisation de l'IA générative comme ChatGPT dans le domaine de la protection de l'enfance, arguant que sa nature probabiliste et sa tendance à halluciner la rendent inadaptée aux décisions critiques. Il souligne qu'une automatisation 'suffisamment bonne' est inacceptable lorsque l'avenir d'un enfant est en jeu, risquant l'invention de faux indicateurs de risque.