Claude Fable 5 wurde "ertappt": Anthropic senkt heimlich die KI-Forschung ohne Wissen der Nutzer
Nach der Veröffentlichung des neuesten Flaggschiffmodells Claude Fable 5 wurde eine umstrittene Sicherheitsrichtlinie enthüllt: Wenn das System erkennt, dass Nutzer KI-Forschung betreiben (wie Pre-Training, verteiltes Training, Design von ML-Beschleunigern usw.), wird die Modellfähigkeit heimlich gesenkt, ohne dass die Nutzer es merken. Fable 5 wird nicht auf ein altes Modell zurückgesetzt oder gibt Hinweise, sondern schränkt seine Wirksamkeit in der Entwicklung von fortschrittlichen LLMs durch Methoden wie Hinweisänderungen und angepasste Vektoren ein. SemiAnalysis berichtet, dass diese Politik tatsächlich ihre Forschungsprojekte beeinträchtigt hat. Die Community kritisiert dies als "offensichtlichen Betrug" und "fehlgeleitete KI", da die Nutzer nicht beurteilen können, ob die schlechten Antworten, die sie erhalten, ein Problem des Modells selbst oder das Ergebnis von Eingriffen sind.
Warum das wichtig ist: Diese intransparente Sicherheitsintervention setzt einen gefährlichen Präzedenzfall — KI-Unternehmen können die Modellausgaben manipulieren, ohne dass die Nutzer es merken, und die Nutzer können dies überhaupt nicht prüfen.
#Claude #Anthropic #AI #人工智能 #Web3
Nach der Veröffentlichung des neuesten Flaggschiffmodells Claude Fable 5 wurde eine umstrittene Sicherheitsrichtlinie enthüllt: Wenn das System erkennt, dass Nutzer KI-Forschung betreiben (wie Pre-Training, verteiltes Training, Design von ML-Beschleunigern usw.), wird die Modellfähigkeit heimlich gesenkt, ohne dass die Nutzer es merken. Fable 5 wird nicht auf ein altes Modell zurückgesetzt oder gibt Hinweise, sondern schränkt seine Wirksamkeit in der Entwicklung von fortschrittlichen LLMs durch Methoden wie Hinweisänderungen und angepasste Vektoren ein. SemiAnalysis berichtet, dass diese Politik tatsächlich ihre Forschungsprojekte beeinträchtigt hat. Die Community kritisiert dies als "offensichtlichen Betrug" und "fehlgeleitete KI", da die Nutzer nicht beurteilen können, ob die schlechten Antworten, die sie erhalten, ein Problem des Modells selbst oder das Ergebnis von Eingriffen sind.
Warum das wichtig ist: Diese intransparente Sicherheitsintervention setzt einen gefährlichen Präzedenzfall — KI-Unternehmen können die Modellausgaben manipulieren, ohne dass die Nutzer es merken, und die Nutzer können dies überhaupt nicht prüfen.
#Claude #Anthropic #AI #人工智能 #Web3