Algorithms

36 items

RESEARCHarXiv CS.AI·il y a 1j

A Study of Parallel Continuous Local Search

Cette étude examine la Recherche Locale Continue Parallèle (CLS) comme solution aux problèmes de satisfiabilité booléenne avec des contraintes pseudo-booléennes symétriques. Elle révèle empiriquement que les contraintes redondantes peuvent entraver la convergence, que la CLS est prometteuse dans des configurations hybrides, et que la recherche locale converge rapidement vers une distribution stable de qualité de solution.

Optimization Boolean Satisfiability Local Search Parallel Computing

ARTICLE↑ trendingReddit r/MachineLearning·11/04/2026

FlashAttention (FA1–FA4) in PyTorch - educational implementations focused on algorithmic differences [P]

Un dépôt PyTorch mis à jour présente des implémentations éducatives des versions FA1 à FA4 de FlashAttention. L'objectif est de démontrer les différences et l'évolution algorithmique de la méthode, facilitant ainsi la compréhension de ses idées de conception sans aborder les détails matériels.

FlashAttention deep learning Attention Mechanism Algorithms

ARTICLEDEV.to AI·22/04/2026

No Free Lunch Theorem — Deep Dive + Problem: Reverse Bits

Le Théorème No Free Lunch est un concept fondamental en Machine Learning qui souligne les limites de tout algorithme d'apprentissage. Il stipule qu'aucun algorithme ne peut surpasser tous les autres sur tous les problèmes possibles, soulignant l'importance de la sélection d'algorithmes spécifique au problème.

machine learning Algorithms

DOC↑ trendingReddit r/MachineLearning·06/05/2026

Exploring Black‑Box Optimization [R]

Ce projet personnel en phase initiale explore les algorithmes d'optimisation en boîte noire, invitant la communauté à partager ses commentaires et suggestions. Les personnes intéressées peuvent consulter l'aperçu complet et explorer le dépôt pour plus de détails sur le projet.

Optimization machine learning Algorithms

DOCDEV.to AI·il y a 3j

Decision Trees — A Beginner Technical Guide

Les arbres de décision sont des modèles d'apprentissage automatique intuitifs qui imitent les processus de décision humaine en posant une séquence de questions oui/non. Ils sont fondamentaux non seulement en tant que modèles autonomes, mais aussi comme base pour des algorithmes plus puissants en apprentissage automatique moderne.

decision trees learning machine learning data science

ARTICLEDEV.to AI·il y a 16j

Stop Engineering Prompts: How an Eval-First Harness Let Us Ship 25 Algorithm Versions Autonomously

Cet article décrit la création d'un système d'évaluation IA "eval-first" qui a permis de livrer de manière autonome 25 versions d'algorithmes en 13 jours. La méthodologie met l'accent sur des ensembles de tests immuables et des revues indépendantes pour garantir que les changements ne provoquent pas de régressions. L'auteur souligne que le système, plutôt que la simple ingénierie de prompts ou l'automatisation complète, a été la clé du rythme et de la sécurité du développement.

evaluation Algorithms Software engineering automation

ARTICLEDEV.to AI·il y a 26j

How Optimization Search Works — From Hill Climbing to Genetic Algorithms

L'optimisation est le processus de recherche d'une meilleure solution que celle actuellement disponible, en évaluant des candidats dans un espace de recherche. Cela implique une fonction objectif pour définir ce qui est "meilleur" et une stratégie de mise à jour pour guider le mouvement. Le défi est de distinguer une bonne solution locale de la meilleure solution globale, en utilisant des méthodes comme l'exploration de voisins.

hill climbing Optimization machine learning search

RESEARCHDEV.to AI·22/04/2026

Convergence Analysis for Rectangular Matrix Completion Using Burer-MonteiroFactorization and Gradient Descent

Cet article de recherche se concentre sur l'analyse théorique de la convergence des algorithmes pour la complétion de matrices rectangulaires. Il étudie spécifiquement la combinaison de la factorisation de Burer-Monteiro et des méthodes de descente de gradient.

Gradient Descent Optimization Matrix Completion machine learning

RESEARCHDEV.to AI·22/04/2026

Algorithms, Initializations, and Convergence for the Nonnegative MatrixFactorization

Ce contenu explore la Factorisation de Matrices Non Négatives (NMF), en examinant les algorithmes, les stratégies d'initialisation et leur convergence. Il fournit une analyse détaillée de l'influence de ces facteurs sur la performance et la stabilité des solutions NMF.

machine learning data science Algorithms

RESEARCHarXiv CS.AI·il y a 29j

Fast and Effective Redistricting Optimization via Composite-Move Tabu Search

Cette recherche introduit un algorithme de recherche Tabu à mouvement composite (CM-Tabu) conçu pour une optimisation rapide et efficace de la redistribution spatiale. Il aborde la contrainte de contiguïté en élargissant l'espace de voisinage réalisable pour inclure des mouvements composites, assurant une meilleure exploration et empêchant la recherche de se bloquer dans de mauvais optima locaux.

Optimization Redistricting Tabu Search combinatorial optimization

RESEARCHarXiv CS.AI·il y a 6j

Don't Gamble, GAMBLe: An Analytical Framework for AI-Driven Research Systems

Cet article présente GAMBLe, un cadre analytique pour les systèmes de recherche pilotés par l'IA (ADRS). Il décompose le comportement des ADRS en quatre paramètres et un paysage efficace, montrant comment différentes paires générateur-évaluateur induisent des paysages d'optimisation structurellement différents.

LLMs research frameworks AI

RESEARCHarXiv CS.LG·il y a 21j

SignMuon: Communication-Efficient Distributed Muon Optimization

Sign-Muon est un nouvel optimiseur matriciel à 1 bit proposé pour l'entraînement distribué économe en communication de grands réseaux neuronaux. Il combine l'agrégation de signes avec un cadre de pas polaire, atteignant un taux non convexe de O(1/√T) et réduisant le terme stochastique par 1/√M pour M travailleurs.

neural networks distributed training Optimization machine learning

DOCDEV.to AI·il y a 29j

AI Tutor for Informatics Olympiad — IOI INOI ZCO Preparation

Un tuteur IA est présenté pour aider les étudiants à se préparer aux Olympiades d'Informatique (IOI, INOI, ZCO) en développant leur intuition algorithmique. Il explique des algorithmes avancés tels que la décomposition centroïde, la programmation dynamique et les structures de données, couvrant l'intégralité du programme requis.

education learning competitive programming Algorithms

RESEARCHDEV.to AI·24/04/2026

Shorter Tours by Nicer Ears: 7/5-approximation for graphic TSP, 3/2 for the pathversion, and 4/3 for two-edge-connected subgraph

Ce contenu présente de nouveaux algorithmes d'approximation pour des problèmes graphiques fondamentaux, obtenant des performances améliorées. Il propose une approximation de 7/5 pour le TSP graphique, 3/2 pour la version chemin, et 4/3 pour le problème du sous-graphe 2-arêtes-connexe.

theoretical computer science Optimization graph theory Algorithms

RESEARCHarXiv CS.LG·05/05/2026

Polynomial-Time Optimal Group Selection via the Double-Commutator Eigenvalue Problem

Cet article propose un algorithme en temps polynomial pour la sélection optimale de groupes dans le cadre de la diversité algébrique, réduisant le problème combinatoire à un problème de valeurs propres généralisé. La méthode permet la construction directe du générateur de groupe optimal à partir du vecteur propre minimum de la matrice à double commutateur.

Optimization eigenvalue problem mathematics Algorithms

RESEARCHarXiv CS.LG·il y a 21j

Mirror Descent-Type Algorithms for the Variational Inequality Problem with Functional Constraints

Cet article se concentre sur les problèmes d'inégalité variationnelle contraints avec des contraintes fonctionnelles, proposant des algorithmes de type descente miroir. Ces algorithmes sont analysés pour leur taux de convergence optimal pour des problèmes avec des opérateurs bornés et monotones et des contraintes fonctionnelles convexes de Lipschitz.

Optimization machine learning variational inequalities mathematics

RESEARCHarXiv CS.LG·il y a 28j

Distributional Reinforcement Learning via the Cram\'er Distance

Cet article présente l'algorithme C-DSAC, qui applique Soft Actor-Critic dans un cadre d'apprentissage par renforcement distributionnel en minimisant la distance de Cramér. Les résultats empiriques montrent que C-DSAC surpasse les méthodes existantes, en particulier dans les environnements de haute complexité, grâce à des mises à jour des valeurs Q basées sur la confiance.

deep learning reinforcement learning learning Algorithms

DOCDEV.to AI·24/04/2026

Gradient Descent: How AI Learns

Le contenu explique la Descente de Gradient, un algorithme d'apprentissage fondamental de l'IA, en utilisant l'analogie d'une personne aux yeux bandés cherchant le point le plus bas dans un paysage vallonné. Il décrit comment les modèles d'IA ajustent leurs poids itérativement en fonction d'une fonction de perte pour minimiser les erreurs de prédiction, comme descendre la pente du paysage de perte.

ai-fundamentals machine learning Algorithms

ARTICLEDEV.to AI·05/05/2026

Will I Make It To The Restaurant Before The Soup Dumplings Get Cold? (And Other Problems In Machine Learning)

L'article utilise une anecdote personnelle sur les retards chroniques pour expliquer le problème de la prédiction non déterministe dans les algorithmes d'apprentissage automatique. Il souligne comment la variabilité du monde réel et les facteurs imprévus rendent les prévisions précises un défi majeur.

nondeterministic predictability machine learning real-world challenges

ARTICLEDEV.to AI·il y a 28j

赛仑

Cet article utilise la métaphore des "Sirènes" pour analyser comment les algorithmes modernes et l'économie de l'attention exploitent les biais cognitifs, créant des "trous noirs d'attention". Il propose des stratégies pour que les individus résistent à ces pièges numériques, telles que la décentralisation cognitive et le minimalisme informationnel.

digital well-being cognitive bias attention economy filter bubbles