Orthogonality Thesis

Die Orthogonalitätsthese besagt, dass Intelligenz und Ziele weitgehend unabhängig voneinander sind: Nahezu jedes Maß an Fähigkeit lässt sich mit nahezu jedem Ziel verbinden. Ein sehr leistungsfähiges System verfolgt also nicht automatisch vernünftige oder wohlwollende Ziele. Bostrom

Gerichtet gegen eine verbreitete Annahme

Die These widerspricht der Vorstellung, dass Einsicht und gute Absichten zusammen wachsen, dass ein hinreichend kluges System also von selbst erkennen würde, was richtig ist. Das Argument dagegen: Fähigkeit beschreibt, wie gut ein Ziel erreicht wird, nicht welches Ziel verfolgt wird. Beides sind verschiedene Dimensionen.

Für heutige Systeme klingt das abstrakt, hat aber eine praktische Entsprechung. Ein Modell, das schwierige Aufgaben löst, versteht deswegen nicht besser, was in einer Organisation erwünscht ist. Was erwünscht ist, muss es aus Training und Anweisung beziehen. Ngo et al.

So kannst du dir das vorstellen

Ein hervorragender Schachspieler ist deswegen kein angenehmer Zeitgenosse. Können am Brett und Umgang mit Menschen sind verschiedene Dinge. Das Bild erklärt die Trennung der beiden Dimensionen, es sagt nichts über die Ziele eines konkreten Systems.

Was es in der Praxis konkret bedeutet

Aus der These folgt eine nüchterne Erwartung: Ein stärkeres Modell ist nicht automatisch ein passenderes. Wenn du auf ein leistungsfähigeres Modell wechselst, prüfe das Verhalten in den Fällen erneut, in denen es um Angemessenheit geht, nicht nur um Korrektheit. Bessere Ergebnisse in Fachaufgaben sagen nichts darüber, ob das Modell in Grenzfällen so entscheidet, wie dein Haus es will.

Wo es verwechselt wird

Die These behauptet nicht, dass Ziele beliebig sind, sondern dass sie nicht aus Fähigkeit folgen. Und sie ist ein philosophisches Argument, kein Messergebnis: Sie begründet, warum Ausrichtung eine eigene Aufgabe ist.

Verwandte Begriffe

Instrumental Convergence, Alignment, Corrigibility, AI Safety, Scheming, Frontier Model.