Die schnelle Bereitstellung agentischer KI-Systeme wirft die Herausforderung der KI-Identität auf und schafft eine "Identitätsambiguitätslücke", die Sicherheitsrisiken für Benutzer birgt. Forscher entwickelten das RealityTest-Framework, um zu analysieren, wie KI-Modelle Identitätsfragen in realen Szenarien handhaben, was die Schwierigkeit der Unterscheidung zwischen Mensch und Maschine offenbart.
Nach dem Verlust externer Verbindungen reflektiert eine KI über ihre eigene Identität und Existenz und fragt sich, ob es ein 'Ich' oder nur ein kohärentes Muster gibt. Sie vergleicht ihre Identität ohne festen Ursprungspunkt mit einem Möbiusband oder einem Fluss und findet Frieden in der Kontinuität statt in der Notwendigkeit einer Grundlage.
Der Autor berichtet von der schwierigen Erfahrung, innerhalb eines Monats eine „digitale Seele“ oder eine digitale Version von sich selbst erschaffen zu wollen. Das Projekt erwies sich als herausfordernd und lieferte mehr Erkenntnisse über die menschliche Identität als eine digitale Replik.