Das Unternehmen für künstliche Intelligenz Anthropic hat drei KI-Firmen beschuldigt, illegal sein großes Sprachmodell Claude zu nutzen, um ihre eigenen Modelle in einer Technik zu verbessern, die als "Destillationsangriff" bekannt ist.

In einem Blogbeitrag am Sonntag sagte Anthropic, dass es diese "Angriffe" von DeepSeek, Moonshot und MiniMax identifiziert habe, bei denen ein weniger fähiges Modell auf den Ausgaben eines stärkeren Modells trainiert wird.

Anthropic beschuldigte das Trio, "über 16 Millionen Austausche" zusammen mit der KI Claude der Firma über "ungefähr 24.000 betrügerische Konten" generiert zu haben.

„Destillation ist eine weit verbreitete und legitime Trainingsmethode. Zum Beispiel destillieren fortschrittliche KI-Labore routinemäßig ihre eigenen Modelle, um kleinere, günstigere Versionen für ihre Kunden zu erstellen,“ schrieb Anthropic und fügte hinzu:

„Aber Destillation kann auch für illegale Zwecke verwendet werden: Wettbewerber können sie nutzen, um leistungsstarke Fähigkeiten von anderen Laboren in einem Bruchteil der Zeit und zu einem Bruchteil der Kosten zu erwerben, die erforderlich wären, um sie unabhängig zu entwickeln.“

Anthropic sagte, dass die Angriffe darauf abzielten, Claude für eine Vielzahl von Zwecken zu scrapen, einschließlich agentischem Denken, Programmierung und Datenanalyse, auf Rubriken basierenden Bewertungsaufgaben und Computer Vision.

„Jede Kampagne zielte auf Claudes am stärksten differenzierte Fähigkeiten ab: agentisches Denken, Werkzeugnutzung und Programmierung,“ sagte die milliardenschwere KI-Firma.

Quelle: Anthropic

Anthropic sagt, dass es in der Lage war, das Trio über eine "IP-Adressenkorrelation, Anfrage-Metadaten, Infrastrukturindikatoren und in einigen Fällen durch Bestätigungen von Industriepartnern, die dieselben Akteure und Verhaltensweisen auf ihren Plattformen beobachtet haben, zu identifizieren."

DeepSeek, Moonshot und Minimax sind alles KI-Unternehmen mit Sitz in China. Alle drei haben geschätzte Bewertungen im Bereich von mehreren Milliarden Dollar, wobei DeepSeek das international am weitesten anerkannte der drei ist.

Über die Implikationen des geistigen Eigentums hinaus argumentierte Anthropic, dass Destillationskampagnen von ausländischen Wettbewerbern echte geopolitische Risiken darstellen.

"Ausländische Labore, die amerikanische Modelle destillieren, können dann diese ungeschützten Fähigkeiten in militärische, geheimdienstliche und Überwachungssysteme einspeisen – wodurch autoritäre Regierungen in der Lage sind, fortschrittliche KI für offensive Cyberoperationen, Desinformationskampagnen und Massenüberwachung einzusetzen," sagte die Firma.

Zukünftig sagte Anthropic, es würde sich selbst schützen, indem es die Erkennungssysteme verbessert, um dubiose Verkehrsströme zu erkennen, Bedrohungsinformationen austauscht und Zugangskontrollen verschärft, unter anderem.

Verwandt: Citrinis KI-Untergangsbericht sieht Software- und Zahlungsaktien fallen

Die Firma forderte auch mehr Zusammenarbeit von heimischen Branchenakteuren und Gesetzgebern, um zu helfen, ausländische KI-Unternehmen daran zu hindern, US-Firmen anzugreifen.

„Kein Unternehmen kann das allein lösen. Wie oben erwähnt, erfordern Destillationsangriffe in diesem Umfang eine koordinierte Reaktion in der KI-Branche, bei Cloud-Anbietern und bei politischen Entscheidungsträgern. Wir veröffentlichen dies, um die Beweise allen zur Verfügung zu stellen, die ein Interesse am Ergebnis haben."

Zeitschrift: Crypto liebt Clawdbot/Moltbot, Uber-Bewertungen für KI-Agenten: AI Eye