Un scientifique ayant une double affiliation industrie et académie partage ses réflexions sur le développement d'une théorie scientifique fondamentale de l'apprentissage automatique, basée sur environ sept ans de travail. L'article présente des idées sur la manière d'atteindre une véritable science du deep learning.
Cet article développe une approche unifiée de la Logique Floue Médiatrice, allant de ses fondements de type 1 à ses extensions de type 2, type 3 et quantiques. Il caractérise l'opérateur médiateur, modélise les valeurs de vérité et introduit un système propositionnel, établissant sa complétude et sa paraconsistance.
Cet article examine la complexité de taille et la décidabilité de la progression du premier ordre, une méthode de mise à jour des bases de connaissances en IA. Il démontre que, pour des classes d'actions spécifiques au sein du cadre du Calcul des Situations, la progression du premier ordre croît polynomialement et maintient la décidabilité lors de l'utilisation de certains fragments de base de connaissances.
Ce contenu présente une carte conceptuelle très abstraite ou un cadre théorique, potentiellement pour un système d'IA, détaillant des concepts tels que le temps symbolique et physique, et une triade énergétique. Il décrit une topologie réversible pour une 'Plateforme Résonante Terminale Resserée de la Physicalité', avec une mention explicite de Perplexity.ai.
Cet article présente un cadre fini basé sur la théorie des faisceaux pour détecter le changement de théorie scientifique chez les agents d'IA. Il se concentre sur l'identification du moment où un cadre représentationnel existant nécessite une extension en raison d'une obstruction locale-globale, plutôt qu'une simple déformation.
Ce travail introduit une classification des dynamiques d'apprentissage (scalaires-réductibles vs. scalaires-irréductibles) et démontre que les dynamiques scalaires irréductibles permettent un changement de régime endogène, essentiel pour l'intelligence autonome. Il propose un nouveau paradigme dynamique pour l'exploration de régimes sans planification externe.
Ce travail utilise les probabilités conditionnelles des LLM pour les situer dans la théorie mathématique des processus stochastiques. Il propose une mesure d'attribution probabiliste de jetons, agnostique au modèle, qui utilise la règle de Bayes pour capturer la représentation interne de la distribution des séquences de jetons.
Ce contenu introduit le temps continu dans l'Inférence Active, soulignant que la croyance postérieure d'un agent sur l'état du monde évolue avec sa dynamique. Il relie l'Inférence Active à la théorie du contrôle et décrit le codage prédictif comme une descente de gradient littérale en coordonnées généralisées, incluant la position et la vitesse.
Ce contenu explore le concept des artefacts en tant que forme de mémoire au-delà des limites d'un agent. Il aborde comment les objets externes peuvent aider à la cognition et au stockage d'informations.
Cet article explore probablement le concept de maintien de la continuité fonctionnelle dans les systèmes, potentiellement l'IA, sans dépendre explicitement des structures de mémoire. Il pourrait discuter des implications philosophiques ou des conceptions architecturales y parvenant.