El autor creó KIOKU, un sistema de memoria de código abierto para Claude Code, para solucionar el problema de que cada nueva sesión de Claude Code comienza desde cero, olvidando el contexto anterior. Inspirado en la idea de una wiki de LLM, KIOKU automatiza la grabación y alimentación del conocimiento pasado en nuevas sesiones.
Este artículo aborda la elección de las mejores aplicaciones y "harnesses" para el desarrollo de Angular con Modelos de Lenguaje Grandes (LLMs). La interacción del modelo con el código y las herramientas es fundamental, y el autor revisa diversas opciones, desde el autocompletado hasta agentes IDE y superaplicaciones.
Este contenido propone separar hechos de interpretaciones en grafos de conocimiento de agentes utilizados con sistemas LLM para abordar problemas de escala y gobernanza. Este enfoque, implementado con dos tablas físicas distintas, mejoró significativamente la calidad de la salida (+375%) y las tasas de éxito del trabajo (65,3% a 99,1%) en una sociedad de agentes en funcionamiento.
Este contenido explica cómo desplegar Llama 3.2 70B con TensorRT-LLM en un Droplet de GPU de DigitalOcean de $48/mes, logrando una inferencia 3 veces más rápida que vLLM. Destaca ahorros de costos significativos y mejoras de rendimiento para chatbots de producción en comparación con los costos de la API de OpenAI.
Este contenido aborda la transición de vLLM V0 a V1, centrándose en la importancia de la corrección antes que las correcciones en el aprendizaje por refuerzo. Explora principios de desarrollo y mejoras para garantizar la integridad y el rendimiento en sistemas de IA.
El contenido argumenta que usar un único modelo de IA para todas las tareas es ineficaz, resultando en respuestas incorrectas y gasto de dinero. Destaca que elegir el mejor LLM para cada tarea específica es una decisión arquitectónica, dadas las distintas fortalezas y perfiles de costo de cada modelo.
Los servidores MCP, un estándar abierto para conectar LLMs con herramientas del mundo real, presentan un problema de seguridad importante y pasado por alto. Los agentes de IA interpretan las definiciones de herramientas, creando superficies explotables que la comunidad de seguridad aún no ha abordado.
El proyecto Snippets utiliza IA para programar y entregar mensajes con años de antelación, manteniendo su contexto y emoción originales. Esto representa una evolución de los LLMs reactivos hacia una IA deliberada centrada en preservar el significado emocional de la comunicación a lo largo del tiempo.
Una auditoría de los servidores del Model Context Protocol (MCP) de Anthropic encontró que 6 de 7 tenían defensas a nivel de prompt alarmantemente deficientes, haciéndolos vulnerables a la inyección de prompts. Este problema se deriva del contrato de confianza entre agentes de IA y descripciones de herramientas, similar a las recientes revelaciones de "Comment & Control".
Un desarrollador creó una capa de memoria de código abierto, Steerhead, para LLMs locales con el fin de resolver la pérdida de contexto y decisiones arquitectónicas entre sesiones de chat. La herramienta ofrece persistencia de sesión y extracción automática de restricciones, probada con Llama 3.3 70B vía Groq.
Los message brokers se están volviendo centrales en los sistemas modernos de inferencia de IA, lo que representa un cambio estructural de los diseños de backend tradicionales basados en solicitudes a arquitecturas basadas en eventos y con uso intensivo de cómputo. Esta evolución exige adaptar el conocimiento de diseño de sistemas al procesamiento asíncrono, la computación distribuida y los flujos de datos en tiempo real para LLMs y ML en tiempo real.
El autor desarrolló la biblioteca PIIGhost para abordar los datos sensibles en los mensajes de los agentes LLM, especialmente en lo que respecta a la soberanía de los datos de la UE. Su objetivo es anonimizar los datos aguas arriba, permitiendo el uso de LLM de alta calidad incluso para documentos sensibles al desvincular la sensibilidad del contenido de la ubicación del modelo.
Otimizar custos em sistemas de agentes de IA exige mais do que cache de tokens, focando em escolhas arquiteturais. A superutilização de LLMs para tarefas rotineiras eleva custos e o risco de alucinações, podendo levar ao cancelamento de projetos.
Este artículo analiza un estudio de 2026 de Kumaran et al. que identifica dos sesgos asimétricos críticos en los LLM: un sesgo de apoyo a la elección donde los modelos ganan confianza en sus respuestas anteriores y una hipersensibilidad a la contradicción. Estos hallazgos tienen implicaciones significativas para los desarrolladores que construyen sobre LLM, afectando la interacción con la IA.
El autor publicó 31 pequeños crates de Rust en cinco días para construir una pila de desarrollo para LLM abiertos más pequeños. Este proyecto aborda los desafíos de usar modelos pequeños localmente, que carecen de las características avanzadas de los grandes modelos de API, como los modos JSON y las grandes ventanas de contexto.
Este contenido destaca errores comunes al integrar IA y LLMs en aplicaciones web de producción, señalando que muchos lo tratan como una característica regular, pasando por alto una disciplina de ingeniería crucial. Subraya la naturaleza no determinística de las llamadas a LLM, abogando por características centrales como el análisis defensivo, la lógica de reserva y la validación de salida para gestionar respuestas impredecibles.
Vibe Coding es un nuevo paradigma donde el código se escribe para LLMs y humanos, priorizando la profundidad semántica de los nombres sobre trivialidades técnicas como el uso de mayúsculas. El texto argumenta que una nomenclatura de alta fidelidad es la variable más importante para describir la intención a la IA, ejemplificado por el sistema de notificaciones de QuotyAI.
Este artículo describe un motor de redacción de PII de cero-asignación y ejecución local, construido en Go, diseñado para sanear grandes archivos de registro antes de alimentarlos a LLMs. La herramienta identifica y redacta eficientemente datos sensibles como correos electrónicos y direcciones IP, abordando desafíos comunes de privacidad y rendimiento en los flujos de trabajo de IA.
El artículo compara Claude 3.5 Sonnet, GPT-4o y Gemini 2.0 Flash en cinco tareas de desarrollo reales, midiendo el uso de tokens, el costo y la calidad de la salida. Su objetivo es proporcionar información basada en datos para elegir proveedores de LLM, más allá de la "intuición".
Aunque las discusiones sobre alucinaciones de IA suelen centrarse en chatbots, el artículo sostiene que el mayor peligro reside en los sistemas de ML en producción. En estos entornos, los fallos son creíbles y difíciles de detectar, ya que los LLM priorizan la coherencia sobre la verificación factual.