AI Social Workers Gone Wrong: Why ChatGPT Should Never Decide a Child’s Future

Este artigo alerta contra o uso de IA generativa como o ChatGPT em assistência social infantil, argumentando que sua natureza probabilística e tendência a alucinar a tornam inadequada para decisões críticas. Ele enfatiza que a automação 'suficientemente boa' é inaceitável quando o futuro de uma criança está em jogo, arriscando a invenção de falsos indicadores de risco.