O Google atualizou o Gemini para direcionar melhor usuários em crise a recursos de saúde mental, após enfrentar um processo por morte indevida que alega que seu chatbot 'treinou' um homem para suicídio. A mudança visa agilizar o acesso a linhas de apoio durante momentos de crise.
O avanço de agentes de IA autônomos introduz novas capacidades, mas também complexos riscos e desafios de governança para sua implantação segura e ética. Esses sistemas, baseados em modelos de linguagem e aprendizado por reforço, expandem a superfície de ataque ao interagir com sistemas externos.
Grandes empresas de tecnologia estão intensificando seus investimentos e a integração da inteligência artificial. Paralelamente, reguladores e empresas concentram-se na segurança e na adoção responsável da IA.