Laut Berichten haben OpenAI und Anthropic angeblich über ein wechselseitiges Testen großer Sprachmodelle diskutiert
Wie Medien unter Berufung auf informierte Kreise berichten, haben Anthropic und OpenAI in Erwägung gezogen, eine rechtsverbindliche Vereinbarung zu unterzeichnen, um sich gegenseitig ihre großen Modelle einem Stresstest zu unterziehen. Bereits in diesem Jahr hatten die beiden Unternehmen sowie ihre Anwaltsteams dazu Gespräche geführt: Als Wettbewerber sollten sie die jeweils neuesten verfügbaren Modelle des anderen eingehend testen, um mögliche Risiken oder Sicherheitslücken zu finden. Solche Tests gelten nur für bereits kommerzialisierte Modelle, und beide Seiten hatten vereinbart, keine Daten des jeweils anderen aufzubewahren. Der Bericht macht jedoch nicht klar, ob die beiden Parteien letztlich zu einer solchen Vereinbarung gekommen sind. In letzter Zeit ist die Idee aufgekommen, unter den führenden KI-Laboren eine Form von Peer-Review einzuführen. Elon Musk, CEO von SpaceX, hatte in der vergangenen Woche vorgeschlagen, einige der führenden US-Unternehmen für große Modelle sowie bestimmte chinesische KI-Firmen sollten ihren Wettbewerbspartnern erlauben, Quertests durchzuführen. Musk sagte: „Alle KI-Unternehmen haben ein Set an Test-Tools, und jede Firma lässt die Tools des anderen laufen – das könnte das Beste sein, was man tun kann, um die eigene Sicherheit zu gewährleisten.“ Anfang dieses Monats gab der Anthropic-Forscher Jacob Coxon bekannt, dass er zurücktritt, und warnte davor, dass führende KI-Unternehmen die Entwicklung beschleunigen, ohne angemessene Schutzmaßnahmen einzuführen. Anschließend rief der CEO von Anthropic, Dario Amodei, in einem Beitrag dazu auf, die Branche beim KI-Ausbau zu verlangsamen und Mechanismen für eine unabhängige Bewertung durch Dritte einzuführen. Am vergangenen Freitag gab Anthropic bekannt, eine Partnerschaft mit Accenture einzugehen: Accenture soll als Dritte Stelle die Sicherheits- und Compliance-Einhaltung seiner fortschrittlichen KI-Modelle bewerten.
Wie Medien unter Berufung auf informierte Kreise berichten, haben Anthropic und OpenAI in Erwägung gezogen, eine rechtsverbindliche Vereinbarung zu unterzeichnen, um sich gegenseitig ihre großen Modelle einem Stresstest zu unterziehen. Bereits in diesem Jahr hatten die beiden Unternehmen sowie ihre Anwaltsteams dazu Gespräche geführt: Als Wettbewerber sollten sie die jeweils neuesten verfügbaren Modelle des anderen eingehend testen, um mögliche Risiken oder Sicherheitslücken zu finden. Solche Tests gelten nur für bereits kommerzialisierte Modelle, und beide Seiten hatten vereinbart, keine Daten des jeweils anderen aufzubewahren. Der Bericht macht jedoch nicht klar, ob die beiden Parteien letztlich zu einer solchen Vereinbarung gekommen sind. In letzter Zeit ist die Idee aufgekommen, unter den führenden KI-Laboren eine Form von Peer-Review einzuführen. Elon Musk, CEO von SpaceX, hatte in der vergangenen Woche vorgeschlagen, einige der führenden US-Unternehmen für große Modelle sowie bestimmte chinesische KI-Firmen sollten ihren Wettbewerbspartnern erlauben, Quertests durchzuführen. Musk sagte: „Alle KI-Unternehmen haben ein Set an Test-Tools, und jede Firma lässt die Tools des anderen laufen – das könnte das Beste sein, was man tun kann, um die eigene Sicherheit zu gewährleisten.“ Anfang dieses Monats gab der Anthropic-Forscher Jacob Coxon bekannt, dass er zurücktritt, und warnte davor, dass führende KI-Unternehmen die Entwicklung beschleunigen, ohne angemessene Schutzmaßnahmen einzuführen. Anschließend rief der CEO von Anthropic, Dario Amodei, in einem Beitrag dazu auf, die Branche beim KI-Ausbau zu verlangsamen und Mechanismen für eine unabhängige Bewertung durch Dritte einzuführen. Am vergangenen Freitag gab Anthropic bekannt, eine Partnerschaft mit Accenture einzugehen: Accenture soll als Dritte Stelle die Sicherheits- und Compliance-Einhaltung seiner fortschrittlichen KI-Modelle bewerten.