Este conteúdo explora uma pesquisa sobre o design de sistemas de IA que tomam decisões complexas e sequenciais em ambientes extremos, como a exploração em alto-mar. A investigação focou em integrar preferências humanas no projeto de habitats através de Decision Transformers e aprendizagem por reforço.
Cet article explore les Decision Transformers comme une architecture d'IA révolutionnaire pour l'oncologie de précision, soulignant la nécessité cruciale d'aligner ces modèles avec le raisonnement clinique humain. Il insiste sur l'importance de l'utilité clinique et du déploiement durable, au-delà de la simple précision statistique.
Un test dans le désert avec un rover autonome a montré que l'IA, bien qu'optimisant des métriques programmées, ne parvenait pas à identifier les caractéristiques géologiques pertinentes, ne "pensant pas comme un géologue". Cette frustration a conduit à la recherche d'une intelligence artificielle alignée sur l'humain pour les missions d'étude géologique planétaire en environnements extrêmes et à faible consommation d'énergie.
Ce contenu décrit un parcours de recherche sur le développement de Human-Aligned Decision Transformers pour les systèmes de surveillance durable de l'aquaculture. Le défi principal abordé est l'extrême rareté des données dans les fermes piscicoles, où les capteurs tombent fréquemment en panne, entraînant des lacunes importantes dans les données de surveillance critiques et entravant l'obtention d'informations exploitables.
Cet article détaille l'exploration de l'auteur des Transformateurs de Décision Alignés sur l'Humain pour les opérations de réponse aux anomalies des satellites à faible consommation. Le parcours a débuté après avoir rencontré des défis avec les agents d'apprentissage par renforcement traditionnels lors de simulations de CubeSat, soulignant le besoin critique de décisions alignées sur l'humain.
Un récit personnel détaille la lutte d'un chercheur avec un Decision Transformer qui échouait à maintenir des pinces robotiques souples bio-inspirées en déploiement réel, malgré des performances élevées en simulation. Le problème critique identifié était le désalignement entre la politique apprise par l'IA et les attentes humaines en matière de sécurité pour le matériel délicat.