A Mozilla AI apresenta Otari, uma iniciativa que visa capacitar os utilizadores a controlar a sua própria infraestrutura de IA. O objetivo é promover a autonomia e a personalização, permitindo que as pessoas "possam a sua pilha de IA" em vez de dependerem de grandes fornecedores.
O artigo explora a problemática da perda de contexto em agentes de IA entre sessões, um desafio conhecido como problema de memória persistente. Ele também aborda questões de dependência de provedores de nuvem e a propriedade dos dados fornecidos às máquinas.
A indústria de IA está a assistir a uma divisão significativa na infraestrutura de agentes em relação às camadas de memória: serviços de embedding nativos da nuvem versus memória soberana local. Esta escolha é crucial, pois determina a propriedade dos dados e a inteligência de um agente, à medida que estes transitam de demonstrações para produção.
O artigo explora o conceito de "sonhos" de IA como um pipeline assíncrono de consolidação de memória que opera após as sessões. Ele destaca que o interesse arquitetônico reside na economia de inferência e nas questões de propriedade dos dados, e não apenas na memória em si.
O conteúdo explora por que aplicativos construídos com ferramentas de IA (builders) falham ao escalar para produção, destacando a falta de propriedade da infraestrutura e dos dados como problemas centrais. Essas ferramentas priorizam a velocidade de iteração para protótipos, mas causam desafios catastróficos para negócios, exigindo a reconstrução em infraestrutura real para lidar com tráfego e conformidade.