LLM Fine-tuning

4 items

RESEARCHarXiv CS.LG·4/9/2026

FLeX: Fourier-based Low-rank EXpansion for multilingual transfer

Este artigo investiga a geração de código cross-lingual, focando em métodos de fine-tuning paramétrico-eficiente (PEFT) e otimizadores para LLMs. Os autores demonstram que o fine-tuning LoRA no Code Llama 7B, com um dataset pequeno de alta qualidade, pode superar o desempenho de modelos mais amplamente fine-tuned, e que otimizadores como Sophia oferecem convergência mais rápida com resultados finais comparáveis.

Cross-lingual code generation PEFT LoRA LLM Fine-tuning

ARTICLEDEV.to AI·4/27/2026

LLM Fine-Tuning for Developers: When RAG Is Not Enough

Ein Entwickler hatte Schwierigkeiten, ein LLM-basiertes Code-Review-Tool mithilfe von Prompt Engineering und RAG an einen spezifischen Codebasis-Stil anzupassen. Letztendlich war ein Fine-Tuning eines kleineren Open-Weights-Modells mit Tausenden von benutzerdefinierten Beispielen erforderlich, um den gewünschten Stil zu verinnerlichen.

prompt-engineering RAG code review developer tools

DOCAWS Machine Learning Blog·vor 27T

Fine-tune LLM with Databricks Unity Catalog and Amazon SageMaker AI

Dieser Beitrag zeigt, wie ein sicherer und vollständiger LLM-Feinabstimmungs-Workflow erstellt wird, der Databricks Unity Catalog mit Amazon SageMaker AI und Amazon EMR Serverless integriert. Die Lösung ermöglicht sicheren Zugriff auf verwaltete Daten, Nachverfolgung der Herkunft und Registrierung trainierter Artefakte unter Wahrung der Governance und Compliance.

learning security Amazon SageMaker LLM Fine-tuning

DOCAWS Machine Learning Blog·vor 28T

Navigating EU AI Act requirements for LLM fine-tuning on Amazon SageMaker AI

Dieser Beitrag zeigt, wie man FLOPs-Tracking beim Fine-Tuning von LLMs auf Amazon SageMaker AI mithilfe eines Open-Source-Toolkits einrichtet. Er erklärt auch, wie man die Einhaltung der EU-KI-Verordnung feststellt und auditfähige Dokumentation erstellt.

EU AI Act FLOPs tracking Amazon SageMaker AI compliance