agent framework

Someone Called My AI System a Tool. Then They Showed Me Theirs.

L'auteur raconte une rencontre en conférence où son système d'IA sophistiqué, doté de portes anti-fabrication et d'une mémoire persistante, a été qualifié d'« outil ». Cela est mis en contraste avec le cadre d'agent plus simple d'un autre participant, suscitant une discussion sur le manque crucial de garde-fous contre l'hallucination de l'IA dans ce dernier.