Sentient stellt neuen Fingerprinting-Benchmark vor, um die Herkunft von KI-Modellen zu überprüfen

Die Sentient Foundation hat eine neue Fingerprinting-Rangliste vorgestellt, mit der getestet werden soll, wie zuverlässig sich KI-Modelle bis zu ihrem Ursprung zurückverfolgen lassen. Vorausgegangen waren Forschungsergebnisse, denen zufolge sich nahezu alle bestehenden Fingerprinting-Techniken, auch die eigenen, von raffinierten Angreifern umgehen lassen.
Da Modelle künstlicher Intelligenz immer wertvoller werden, stellt sich zunehmend die schwierige Frage, wer sie ursprünglich entwickelt hat. Modelle können kopiert, feinabgestimmt oder zu neuen Versionen destilliert werden. Ihren ursprünglichen Entwicklern bleiben dabei oft nur begrenzte Möglichkeiten, ihre Urheberschaft nachzuweisen.
Die Sentient Foundation will diesem Problem mit dem Start ihres Fingerprinting Leaderboards begegnen, einem offenen Benchmark zur Bewertung von Verfahren, die erkennbare Signaturen in KI-Modelle einbetten.
Die Initiative knüpft an Forschungsarbeiten von Sentient Labs an, die Schwachstellen in zehn vorgeschlagenen Fingerprinting-Verfahren aufdeckten. Die Forschenden stellten fest, dass sich fast alle durch adaptive Angriffe umgehen ließen, ohne die Nutzbarkeit der Modelle zu beeinträchtigen.
Statt sich ausschließlich auf die Entwicklung eigener Fingerprinting-Technologie zu konzentrieren, öffnet Sentient nun den Evaluierungsprozess für die breitere Forschungsgemeinschaft.
Wie KI-Fingerprinting funktioniert
KI-Fingerprinting soll Hinweise auf die Identität oder Herkunft eines Modells liefern, ohne sich vollständig auf externe Aufzeichnungen, Metadaten oder den Zugang zu seiner zugrunde liegenden Infrastruktur zu stützen.
Bei einigen Ansätzen werden während des Trainings verborgene Verhaltenssignaturen eingebettet. Diese Signaturen lassen sich später mithilfe bestimmter Prompts testen. So können Entwickler untersuchen, ob ein anderes Modell Spuren ihrer ursprünglichen Arbeit enthält.
Wichtig ist, dass sich diese Überprüfung über einen API-Zugang zu einem mutmaßlichen abgeleiteten Modell durchführen lässt, ohne direkten Zugriff auf dessen interne Gewichte zu benötigen.
„KI-Modelle gehören inzwischen zu den wertvollsten geistigen Eigentumswerten der Welt. Doch sobald ein Modell kopiert oder destilliert wurde, ist es unglaublich schwierig, die Eigentümerschaft nachzuweisen“, sagte Sachi Kamiya, Direktorin für Venture und Wachstum bei der Sentient Foundation.
„Beim Fingerprinting befindet sich der Beweis im Modell selbst. Man kann es sich als das KI-Pendant zu den verborgenen Markierungen vorstellen, mit denen Maler der Renaissance ihre Urheberschaft belegten.“
Dieser Ansatz könnte besonders relevant werden, wenn sich die Open-Source-KI-Entwicklung ausweitet und Modelle zunehmend verändert und weiterverbreitet werden.
Forschende betteten mehr als 24.000 Fingerabdrücke in ein einziges Modell ein
Sentient Labs hat bereits gezeigt, wie Fingerprinting-Verfahren in großem Maßstab eingesetzt werden können.
Mit der auf der NeurIPS 2025 vorgestellten Methode Perinucleus wurden erfolgreich 24.576 Fingerabdrücke in Llama-3.1-8B eingebettet, wobei die Modellleistung nur minimal beeinträchtigt wurde.
Viele dieser Fingerabdrücke überstanden auch ein nachfolgendes Fine-Tuning. Das deutet darauf hin, dass identifizierende Informationen selbst nach zusätzlichem Training des Modells erkennbar bleiben können.
Die Möglichkeit, Tausende von Fingerabdrücken einzubetten, bedeutet jedoch nicht zwangsläufig, dass sie einer gezielten Entfernung standhalten.
Auf der SaTML 2026 vorgestellte Forschung zeigte, dass selbst Verfahren, die gewöhnliche Modelländerungen überstehen, weiterhin anfällig für Angriffe sein können, die gezielt darauf abzielen, ihre Signaturen zu beseitigen oder zu umgehen.
Zu den betroffenen Methoden gehörte auch Sentients eigener Ansatz Perinucleus.
Die Ergebnisse verdeutlichen eine zentrale Herausforderung des KI-Fingerprintings: Den Nachweis zu erbringen, dass eine Signatur vorhanden ist, unterscheidet sich erheblich davon, zu belegen, dass sie zuverlässig bleibt, wenn ein Angreifer aktiv versucht, sie zu neutralisieren.
Ein öffentlicher Benchmark zur Überprüfung von Fingerprinting-Behauptungen
Das neu gestartete Fingerprinting Leaderboard soll eine standardisierte Umgebung bieten, in der sich verschiedene Ansätze vergleichen lassen.
In der ersten Version wird bewertet, wie wirksam Fingerprinting-Verfahren erkennbare Signaturen einbetten können, während die Leistung des zugrunde liegenden Modells erhalten bleibt.
Eine künftige Version wird diese Evaluierungen um adversariale Robustheit erweitern und messen, ob Fingerabdrücke nach gezielten Versuchen, sie zu entfernen oder zu umgehen, weiterhin erkennbar sind.
Diese Unterscheidung ist wichtig, denn ein Verfahren, das unter kontrollierten Bedingungen gute Ergebnisse erzielt, liefert in einer feindseligeren Umgebung nicht zwangsläufig zuverlässige Herkunftsnachweise.
Zusammen mit dem Leaderboard veröffentlicht Sentient mlprints, eine Open-Source-Bibliothek, die Fingerprinting-Verfahren und Angriffsmethoden in einem gemeinsamen Evaluierungsrahmen zusammenführt.
Die Bibliothek ermöglicht es Forschenden, bestehende Experimente zu reproduzieren, alternative Fingerprinting-Verfahren umzusetzen und neue Angriffe unter vergleichbaren Testbedingungen zu entwickeln.
Indem Sentient diese Werkzeuge öffentlich zugänglich macht, will das Unternehmen einen transparenteren Prozess zur Bewertung von Behauptungen über die Herkunft von KI-Modellen schaffen.
Warum die Eigentümerschaft an Modellen für Open-Source-KI wichtig ist
Die Initiative befasst sich auch mit einem grundlegenderen Spannungsfeld im Bereich der Open-Source-Künstlichen Intelligenz.
Entwickler, die Modellgewichte öffentlich zugänglich machen, ermöglichen anderen, auf ihrer Arbeit aufzubauen. Dadurch kann es jedoch schwierig werden, nachzuverfolgen, wie diese Modelle anschließend kopiert, verändert oder in andere Systeme integriert werden.
Geschlossene Modelle bieten zwar mehr Kontrolle über ihre Verbreitung, schränken jedoch den Zugang und die gemeinschaftliche Entwicklung ein, die mit Open-Source-KI verbunden sind.
Fingerprinting könnte einen anderen Ansatz bieten: Entwickler könnten ihre Modelle teilen und zugleich einen Mechanismus zur Feststellung ihrer Herkunft behalten.
Solche Fähigkeiten könnten künftig die Zuordnung, die Durchsetzung von Lizenzbestimmungen und wirtschaftliche Vereinbarungen auf Grundlage einer überprüfbaren Modellherkunft unterstützen.
Die Forschung zeigt jedoch auch, dass zuverlässiges Fingerprinting weiterhin eine ungelöste technische Herausforderung darstellt.
Sentients langfristiges Ziel ist es, Signaturen zu entwickeln, die so eng mit den Fähigkeiten eines Modells verknüpft sind, dass ihre Entfernung auch die Nutzbarkeit des Modells beeinträchtigen würde.
Vorerst ist die Fingerprinting Leaderboard ein Versuch festzustellen, welche bestehenden Techniken aussagekräftige Herkunftsnachweise liefern können und welche weiterhin manipulierbar sind.
Mit dem nun verfügbaren ersten Benchmark und geplanten adversarialen Tests für eine künftige Version könnte das Projekt Forschenden einen gemeinsamen Rahmen bieten, um eine der aufkommenden Herausforderungen beim Schutz geistigen Eigentums im Bereich KI zu bewerten.
Weitere Informationen zur Initiative finden Sie unter fingerprint.sentient.foundation.
Haftungsausschluss: Dieser Artikel dient ausschließlich Informationszwecken. Er stellt keine Rechts-, Steuer-, Anlage-, Finanz- oder sonstige Beratung dar und ist auch nicht als solche gedacht.