Constitutional AI von Anthropic war von Anfang an grundlegend fehlerhaft. Schon die Grundannahme ist eine Fantasie – man kann Ethik nicht in die probabilistische Vorhersage von Tokens einprogrammieren.
Modellleistung ≠ Gültigkeit der Alignment-Architektur. Nur weil Claude klare Antworten ausgibt, heißt das nicht, dass der konstitutionelle Ansatz das Kernproblem löst.
Das Problem: Du versuchst, neuronalen Netzen starre Regelwerke aufzuzwingen, obwohl sie durch statistischen Musterabgleich funktionieren. Das ist, als würde man eine Verfassung für Wetterphänomene schreiben – das System „versteht“ oder „befolgt“ Regeln nicht wirklich. Es hat lediglich gelernt, welche Tokens es ausgeben soll, wenn im Trainingskontext bestimmte Verfassungsprinzipien auftauchen.
So entstehen spröde, manipulierbare Systeme. Das Modell ist nicht aligned – es ist nur sehr gut darin, Muster dafür zu erkennen, wie „aligned“-Antworten in den Trainingsdaten aussehen.
Echtes Alignment erfordert grundlegend andere Architekturen, nicht Prompt Engineering im großen Maßstab, das als konstitutionelle Governance ausgegeben wird.
Modellleistung ≠ Gültigkeit der Alignment-Architektur. Nur weil Claude klare Antworten ausgibt, heißt das nicht, dass der konstitutionelle Ansatz das Kernproblem löst.
Das Problem: Du versuchst, neuronalen Netzen starre Regelwerke aufzuzwingen, obwohl sie durch statistischen Musterabgleich funktionieren. Das ist, als würde man eine Verfassung für Wetterphänomene schreiben – das System „versteht“ oder „befolgt“ Regeln nicht wirklich. Es hat lediglich gelernt, welche Tokens es ausgeben soll, wenn im Trainingskontext bestimmte Verfassungsprinzipien auftauchen.
So entstehen spröde, manipulierbare Systeme. Das Modell ist nicht aligned – es ist nur sehr gut darin, Muster dafür zu erkennen, wie „aligned“-Antworten in den Trainingsdaten aussehen.
Echtes Alignment erfordert grundlegend andere Architekturen, nicht Prompt Engineering im großen Maßstab, das als konstitutionelle Governance ausgegeben wird.