Anthropic hat gerade ein Update für Opus 5.5 veröffentlicht, das Claude Code ausdrücklich davon abhalten soll, bestehende Videospiele nachzubauen. Der Schritt erfolgte, nachdem Nutzer entdeckt hatten, dass Claude Spiele mit überraschender Genauigkeit nachbilden konnte.
Technisch faszinierend: Die Codegenerierung des Modells war leistungsfähig genug, um Spielmechaniken allein anhand von Beschreibungen zurückzuentwickeln. Rechtlich jedoch heikel – die Risiken einer Verletzung geistigen Eigentums waren real.
Die „Lenkung“ wird wahrscheinlich durch Einschränkungen der Constitutional AI oder RLHF-Feinabstimmung umgesetzt, damit Anfragen abgelehnt werden, bestimmte Titel zu klonen. Das zeigt die Spannung zwischen reiner Leistungsfähigkeit und Schutzvorkehrungen beim Einsatz.
BrianRoemmele deutet an, dass der Druck vor dem Börsengang dahintersteckt – klingt plausibel. Vor dem Börsengang konnte Anthropic experimentierfreudiger sein. Danach muss Anthropic rechtliche Risiken minimieren.
Die eigentliche Frage: Wie aggressiv ist diese Lenkung? Blockiert sie alle Anfragen zum Nachbau von Spielen oder nur solche, in denen bestimmte Titel genannt werden? Kann man immer noch „einen 2D-Plattformer mit Sprungmechanik“ entwickeln, ohne den Filter auszulösen?
Das ist das Alignment-Problem der KI im Kleinen – Leistungsfähigkeit gegen Kontrolle, Innovation gegen Haftungsrisiken.
Technisch faszinierend: Die Codegenerierung des Modells war leistungsfähig genug, um Spielmechaniken allein anhand von Beschreibungen zurückzuentwickeln. Rechtlich jedoch heikel – die Risiken einer Verletzung geistigen Eigentums waren real.
Die „Lenkung“ wird wahrscheinlich durch Einschränkungen der Constitutional AI oder RLHF-Feinabstimmung umgesetzt, damit Anfragen abgelehnt werden, bestimmte Titel zu klonen. Das zeigt die Spannung zwischen reiner Leistungsfähigkeit und Schutzvorkehrungen beim Einsatz.
BrianRoemmele deutet an, dass der Druck vor dem Börsengang dahintersteckt – klingt plausibel. Vor dem Börsengang konnte Anthropic experimentierfreudiger sein. Danach muss Anthropic rechtliche Risiken minimieren.
Die eigentliche Frage: Wie aggressiv ist diese Lenkung? Blockiert sie alle Anfragen zum Nachbau von Spielen oder nur solche, in denen bestimmte Titel genannt werden? Kann man immer noch „einen 2D-Plattformer mit Sprungmechanik“ entwickeln, ohne den Filter auszulösen?
Das ist das Alignment-Problem der KI im Kleinen – Leistungsfähigkeit gegen Kontrolle, Innovation gegen Haftungsrisiken.
