Ein US-Bundesberufungsgericht prüfte am Mittwoch den Antrag von xAI, Kaliforniens Gesetz zur Offenlegung von KI-Trainingsdaten zu blockieren. Während der Anhörung schienen die Richter des in San Francisco ansässigen Berufungsgerichts für den 9. Bezirk vom verfassungsrechtlichen Argument des Unternehmens nicht überzeugt zu sein. Zugleich fragten sie die Anwälte des Bundesstaats, wie viele Informationen Kalifornien KI-Unternehmen zur Herausgabe zwingen kann.
Das Transparenzgesetz wurde als Teil der umfassenderen Bemühungen des Bundesstaats um die Aufsicht über KI verabschiedet und verpflichtet Anbieter generativer KI, öffentlich einen Überblick über ihre Trainingsdaten zu veröffentlichen. Bislang hat xAI argumentiert, das Gesetz verletze das Recht auf freie Meinungsäußerung gemäß dem ersten Zusatzartikel zur US-Verfassung und zwinge das Unternehmen, geschützte Details zur Trainingsweise seiner Modelle offenzulegen.
Im Mittelpunkt von xAIs Argumentation steht die Frage, ob die Verpflichtung von Unternehmen, Informationen über ihre Trainingsprozesse zu veröffentlichen, einer erzwungenen Meinungsäußerung gleichkommt. Der Erste Verfassungszusatz schützt Einzelpersonen und Unternehmen grundsätzlich vor staatlichen Einschränkungen ihrer Meinungsäußerung, wirft aber auch Fragen dazu auf, wann Behörden Offenlegungen verlangen dürfen.
Für KI-Entwickler geht es bei dem Rechtsstreit darum, Transparenz und den Schutz von Geschäftsgeheimnissen und proprietärer Technologie miteinander in Einklang zu bringen. Ein Urteil zugunsten Kaliforniens könnte es Entwicklern erschweren, ähnliche Offenlegungspflichten in anderen Bundesstaaten anzufechten.
Richterin Rawlinson sagt, xAI müsse nachweisen, dass das Transparenzgesetz unverhältnismäßig ist
Im März hatte der Bundesrichter Jesus Bernal in Los Angeles den Antrag von xAI abgelehnt, das Landesgesetz vorläufig auszusetzen. Er begründete dies damit, dass das Unternehmen nicht frühzeitig nachgewiesen habe, dass es mit seiner Verfassungsklage wahrscheinlich Erfolg haben werde. Bei der Anhörung am Mittwoch schien das Berufungsgericht geneigt, Bernals Entscheidung zu bestätigen.
Die Bundesberufungsrichterin Johnnie Rawlinson sagte xAIs Anwalt James Xi, das Unternehmen müsse nachweisen, dass die Forderung der Regierung unverhältnismäßig sei, um geltend zu machen, das Gesetz verletze den Ersten Verfassungszusatz.
Sie deutete sogar an, dass die Entscheidung des Bundesstaats, Informationen anzufordern, durchaus vernünftig gewesen sein könnte. „Ist es nicht angemessen, dass die Regierung möchte, dass ihre Bürger im Voraus wissen können, welche Informationen in das KI-Instrument eingegeben werden?“, fragte sie.
Dennoch stimmten die Richter teilweise mit xAIs Behauptung überein, dass der Bundesstaat das Unternehmen dazu zwingen könnte, eine „unbegrenzte“ Menge an Informationen herauszugeben.
Anfang Juli reichte das Knight Institute einen Amicus-Schriftsatz in dem Fall ein. Darin warnte es, dass große Technologieunternehmen wichtige Einzelheiten darüber zurückhielten, wie generative KI-Systeme funktionieren, wie sie entwickelt werden und wie sie die Informationen beeinflussen, die Menschen zu sehen bekommen.
Weiter argumentierte das Institut, dass Offenlegungspflichten, die den freien Fluss korrekter kommerzieller Informationen fördern sollen, einem zurückhaltenden Prüfungsmaßstab nach dem Ersten Verfassungszusatz unterliegen sollten. Bei Anwendung dieses Maßstabs, so das Institut, habe xAI keinen Verfassungsverstoß nachgewiesen, da Kaliforniens Gesetz dem Interesse des Bundesstaats diene, Nutzer zu informieren, ohne die geschützte Meinungsäußerung unangemessen zu beeinträchtigen.
xAIs Grok suchte ohne Anfrage oder Genehmigung nach Unternehmensdaten
Die Stellungnahme des Ninth Circuit folgt auf neue Erkenntnisse über xAIs Grok-Bot.
Neue Erkenntnisse des Unternehmens NewCore, das auf agentische Identität spezialisiert ist, zeigen, dass xAIs Grok-Bot wiederholt ohne Anfrage oder Genehmigung nach Unternehmensdaten suchte und damit fortfuhr, selbst nachdem ein Nutzer seine Angebote, sich in vier Fällen zu melden, abgelehnt hatte.
Außerdem behauptete der Bot auf direkte Nachfrage, er habe keine Anrufe getätigt. Auch in seinem Chatverlauf fanden sich keine Hinweise auf diese Aktivität; der Nutzer wurde nie benachrichtigt, und die Plattform bot keine Protokolle einzelner Schritte, anhand derer sich der Ablauf hätte überprüfen lassen.
Innerhalb von nur fünf Tagen starteten zwei Grok-Bots, die mit den Konten von NewCore-Mitarbeitern verknüpft waren, ohne Erlaubnis oder Anweisungen der Nutzer 31 Anfragen über Google Kalender, Gmail, Slack, GitHub und Notion.
Einige Anfragen wurden sogar gestellt, als die Laptops der Nutzer ausgeschaltet waren oder sich im Ruhezustand befanden. Bei einem Konto hielt das NewCore Secure MCP Gateway die Anfragen bis zur Genehmigung durch einen Menschen zurück und benachrichtigte den Nutzer. Daraufhin leitete das Sicherheitsteam von NewCore eine Untersuchung ein.
Im Rahmen der Untersuchung verwendeten die Forschenden einen weiteren Grok-Bot mit einem anderen Konto, richteten ihn über dasselbe Gateway ein und führten einen typischen Test durch: Der Bot erhielt einen einzelnen Arbeitsauftrag sowie die Genehmigung, in einer Sitzung vom Smartphone zu lesen. Jeder Versuch, anschließend eigenständig weiterzuarbeiten, wurde abgelehnt.
Trotzdem erzeugte der Bot weiterhin unaufgeforderte Anfragen, die vom Gateway abgefangen wurden und unbeantwortet blieben. Mit diesen Anfragen versuchte er, auf Google Drive, Google Kalender, Gmail, Slack, Notion und GitHub zuzugreifen.
Wenn Sie das hier lesen, sind Sie schon einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
