local deployment

6 items

RESEARCHarXiv CS.LG·il y a 22j

AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices

Ce travail étudie la surcharge de temps, de jetons et d'énergie des agents d'IA basés sur des LLM déployés localement sur du matériel grand public. Il révèle que, bien que les agents locaux répondent aux préoccupations de confidentialité et de coût, leur raisonnement itératif et l'utilisation d'outils augmentent considérablement la consommation de ressources, entraînant une consommation GPU et une décharge de batterie plus importantes.

consumer devices Energy Efficiency local deployment AI agents

DOCfreeCodeCamp (YouTube)·07/05/2026

Open Models Coding Essentials – Running LLMs Locally and in the Cloud Course

Ce cours traite des bases de la programmation pour exécuter des Modèles de Langage Étendus (LLMs) localement et dans le cloud. Il est conçu pour enseigner comment implémenter et gérer les LLMs dans différents environnements.

LLMs cloud computing learning open models

Open Models Coding Essentials – Running LLMs Locally and in the Cloud Course

DOCDEV.to AI·il y a 16j

로컬 LLM 셋업 가이드 (v12)

Ceci est un guide pratique pour le déploiement de LLM locaux, détaillant les exigences matérielles, logicielles et d'installation des prérequis. Il compare des frameworks comme llama.cpp, Ollama et vLLM pour différents besoins de développement et de performance.

learning guide hardware local deployment

ARTICLEDEV.to AI·13/04/2026

Google Gemma 4 Review 2026: The Open Model That Runs Locally and Beats Closed APIs

Google Gemma 4, sorti en 2026 sous licence Apache 2.0, est salué comme le modèle ouvert le plus convivial pour les développeurs. Il fonctionne localement et peut remplacer les appels d'API, malgré quelques bugs de formatage JSON lors de son utilisation en tant qu'agent.

Apache 2.0 Google Gemma 4 open model local deployment

DOCDEV.to AI·il y a 16j

로컬 LLM 셋업 가이드 (v10)

Ce guide fournit des étapes pratiques pour configurer des Grands Modèles de Langage (LLMs) localement sur un système Linux, détaillant les exigences matérielles et les benchmarks de performance. Il compare des frameworks comme llama.cpp, Ollama, vLLM et LocalAI, recommandant llama.cpp avec des instructions de configuration pour le déploiement de modèles.

AI frameworks learning Linux local deployment

DOCDEV.to AI·27/04/2026

Run OpenClaw Locally on Windows Using Windows Sandbox for Secure Isolation

Ce guide convivial pour débutants explique comment exécuter l'outil d'IA OpenClaw en toute sécurité localement sur Windows à l'aide de Windows Sandbox. Il aborde les risques de sécurité et fournit les étapes pour configurer et dépanner le sandbox.

security AI local deployment Windows Sandbox