El texto analiza cómo la IA, al procesar información fragmentada basada en la probabilidad, puede perder la atribución y el contexto originales, lo que lleva a respuestas inexactas. Sugiere registros de citas de IA y estructuras de registro repetibles para reducir la incertidumbre y estabilizar la procedencia y la actualidad de la información.
El autor comenzó a construir Hyphae para crear un sustrato cognitivo sin modelos de lenguaje grandes, pero una línea base simple igualó su rendimiento, revelando un problema clave. El proyecto ahora se centra en asegurar la procedencia en las respuestas generadas por IA, crucial para la auditoría.
El marcado de esquema por sí solo es insuficiente para una atribución confiable en IA debido a inconsistencias y a la necesidad de interpretación por parte de los sistemas, lo que introduce ambigüedad. Se propone un Registro de Citas de IA, un sistema de publicación legible por máquina, para identificar de forma fiable fuentes autorizadas y garantizar una procedencia y marcas de tiempo claras.
Los sistemas de IA experimentan inestabilidad en la atribución al interpretar información gubernamental fragmentada de diversos ecosistemas de proveedores, ya que las señales de autoridad se infieren en lugar de estructurarse explícitamente. Esta falta de procedencia explícita dificulta la interoperabilidad y las respuestas unificadas para los ciudadanos.