L'IA personnelle n'a pas besoin de diriger votre vie pour la changer; elle doit simplement vous renvoyer votre comportement de manière claire. En considérant l'IA comme des boucles de rétroaction plutôt que de simples majordomes, la conversation sur les 'agents' est redéfinie.
Cet article introduit l'algométrie, un cadre pour les séries temporelles dont l'évolution dépend des algorithmes prédictifs qui les prévoient. Il distingue le risque historique du risque de déploiement, prouvant que le risque de déploiement n'est pas identifiable uniquement à partir de données historiques passives et que les classements de modèles historiques peuvent s'inverser en cas de surcharge.
La Loi de la Double Boucle décrit comment les systèmes d'auto-réparation peuvent, paradoxalement, nuire à la stabilité du système. Cela se produit en raison de boucles de rétroaction qui intensifient les problèmes au lieu de les résoudre.