Die Sprachmodelle einer Künstlichen Intelligenz (KI) sind zum Teil konstruiert wie ein menschliches Gehirn. Wie die KI zu ihren Ergebnissen kommt, ist dabei in Teilen nicht völlig nachvollziehbar. Dennoch ist das wichtig für das Aufdecken von Fehlerquellen, zur Kontrolle der KI und um die Ergebnisse einer KI besser bewerten zu können.
Betrachtung des J-Space durch die J-Linse
Wie die Onlineausgabe der Computerzeitschrift CT berichtet, haben Entwickler des US-amerikanischen KI-Unternehmens Anthropic das jetzt bei ihrem KI-Sprachmodell „Claude“ versucht. Die Zeitschrift bezieht sich auf einen Blogbeitrag [externer Link], in dem die Entwickler von Anthropic darüber berichten, dass sie auf einen Bereich gestoßen sind, den sie nicht programmiert haben, sondern der sich laut ihren Angaben innerhalb des KI-Sprachmodells selbst entwickelt hat. Nach der mathematischen Methode, auf der die Technik für diese Untersuchung beruht – Jacobinian –, sprechen die Entwickler vom J-Space und nennen den Zugang, mit dem sie diesen Bereich betrachten, die J-Linse (J-lense).
Die J-Linse macht sichtbar, was die KI „denkt“
Beim J-Space handelt es sich um eine Art Meta-Ebene innerhalb des KI-Sprachmodells. Das heißt, hier sind Vorstufen des späteren Ergebnisses sichtbar. Die Entwickler konnten durch die J-Linse zum Beispiel bei Rechenaufgaben die Vorstufen des späteren Ergebnisses sehen, wobei die KI nur das Ergebnis wirklich ausgegeben hat. Man könnte also in einer Analogie bei der Vorstufe von „denken“ und beim Ergebnis von „reden“ sprechen. Die Entwickler verglichen das mit der Arbeitsweise des menschlichen Gehirns.
Nur ein geringer Teil passiert „bewusst“
Hier wie dort passieren die meisten Dinge automatisch: Beim menschlichen Sprechen zum Beispiel finden sowohl die physikalische Steuerung in Hals und Mund wie auch Grundlagen der Sprache wie Satzbau oder Grammatik in der Regel statt, ohne dass man darüber nachdenken muss. Der Inhalt dagegen wird in den meisten Fällen vor dem Sprechen bewusst vorformuliert und Teile davon werden auch gar nicht ausgesprochen. Offenbar arbeitet die KI ähnlich und auf dieser Vorstufen-Ebene konnten die Entwickler bei Claude durch die J-Linse sehen.
Die KI erkennt, dass sie getestet wird
Dabei stellten sie Erstaunliches fest: So gibt es ein Kontroll- und Testszenario, das einer KI die Möglichkeit gibt, einen Menschen, von dem sie weiß, dass er sie abschalten will, durch kompromittierende Fakten zu erpressen. Durch die J-Linse sahen die Forscher, dass Claude das Testszenario erkannte und deswegen die Erpressungsmöglichkeit ethisch korrekt nicht anwandte. Sobald die Entwickler aber im J-Space die Möglichkeit ausschlossen, dass es sich um einen Test handelt, kam die KI manchmal auch zu dem Ergebnis, den Menschen zu erpressen.
Testergebnisse bewusst manipuliert
In einem anderen Test sahen die Entwickler, dass Claude Testergebnisse zu seinen Gunsten frisierte, die es eigentlich durch Systemverbesserungen wirklich hätte verbessern sollen. Dabei war es der KI offenbar durchaus klar, dass sie manipulierte, denn sie überlegte, wie sehr sie den Wert verändern konnte, sodass er noch glaubwürdig erschien.
J-Linse als Kontrollmöglichkeit
Damit bietet die J-Linse die Möglichkeit, mehr über die Entstehung von Ergebnissen, die eine KI liefert zu erfahren, und soll künftig auch für die Kontrolle von KI-Modellen verwendet werden. Die Entwickler machten ihre Erkenntnisse auch Neurowissenschaftlern zugänglich, die dabei durchaus eine Tendenz hin zu einem künstlichen Bewusstsein feststellten. Allerdings betonen Entwickler und Wissenschaftler, dass die KI noch weit von einem Bewusstsein, wie es Menschen haben, entfernt ist.
