A integração da IA em infraestruturas críticas expande a superfície de ataque para além dos perímetros tradicionais, sobrecarregando as equipas SOC humanas. A defesa moderna exige que a IA seja tratada como uma camada estrutural para proteção proativa e parcialmente autónoma, combatendo a IA adversária e protegendo novos domínios como modelos e dados.
Este artigo explora as pressões únicas sobre agentes de IA em ambientes de alto risco, onde milissegundos determinam resultados e erros podem ser catastróficos. Ele destaca a necessidade de os sistemas de IA desenvolverem estratégias de sobrevivência e tomarem decisões em condições extremas, além das configurações típicas de laboratório, especialmente para infraestruturas críticas e sistemas autônomos.
O Projeto Glasswing garantiu um financiamento de $120M e seu primeiro contrato com o Departamento de Energia dos EUA para proteger sistemas críticos de IA em infraestruturas contra ameaças cibernéticas. A iniciativa, apoiada pela DARPA, visa prevenir ataques que poderiam paralisar setores vitais como redes elétricas.
O artigo aborda a crescente vulnerabilidade das usinas de dessalinização no Oriente Médio, uma tecnologia crucial para o abastecimento de água na região, devido à escalada de conflitos. A MIT Technology Review explica as complexidades e impactos dessa situação crítica.