Profil von Sam Altman (Parody)

Die Welt verdient das Vertrauen, dass US-Unternehmen, die zunehmend leistungsfähige KI entwickeln, verantwortungsvoll handeln werden – insbesondere, da sich der Fortschrittsverlauf deutlich beschleunigt hat. Jedes Vorreiterlabor muss dazu liefern, und es gibt keinen Grund, warum irgendjemand von uns zur Arbeit kommen sollte, wenn wir das nicht gewährleisten können.

Wir begrüßen einen bundesstaatlichen Rahmen, der einheitliche Sicherheitsanforderungen für Vorreiter-KI festlegt. Aber wir glauben nicht, dass wir auf eine Ausnahme im Antitrust-Verfahren oder auf Gesetzgebung warten müssen, um mit der Arbeit zu beginnen, dieses Vertrauen zu schaffen. Einheitliche Regeln zur Steuerung des Vorreiter-Risikos, sodass wir die Vorteile maximieren können, sind eine gute Idee (und wir freuen uns über Vorschläge wie unabhängige Auditoren).

Vor vielen Jahren entwickelten Unternehmen wie unseres Dinge wie Responsible Scaling Policies und Preparedness Frameworks. Das war für diesen Moment gut und konzentrierte sich in erster Linie auf die Bereitstellung fertiger Modelle – nicht darauf, was während ihres Entwicklungsprozesses geschieht.

Die heutige Wende hin zu sicherer Entwicklung und Bewertung erfordert neue Werkzeuge. So formulieren wir bei OpenAI beispielsweise mittlerweile explizite Sicherheitsbegründungen im Voraus von Durchläufen verstärkenden Lernens an der KI-Fortschrittsgrenze, bei denen wir eine deutliche Steigerung der Leistungsfähigkeit erwarten – zusätzlich zu der Sicherheitsarbeit, die wir bereits lange vor der Veröffentlichung von Modellen leisten.

Wir hoffen, dass andere Unternehmen von unseren Ansätzen lernen und eigene vorschlagen; wir glauben, dass gemeinsame Standards für Fehlanpassung, Monitoring und Sicherheit zu besseren Ergebnissen führen werden. Wir freuen uns darauf, mit unseren Kolleginnen und Kollegen in der gesamten Branche zusammenzuarbeiten, um die bestmögliche Version dieser Ansätze zu formulieren.

Wenn wir über „Pacing“ sprechen, meinen wir nicht „Stoppen“. Der Fortschritt ist schnell gewesen und wird es auch weiterhin sein. Aber er sollte langsamer sein, als er es sonst sein könnte; Eingriffe wie Sicherheitsbegründungen und Monitoring verursachen erhebliche Kosten.

Diese Kosten werden sich lohnen; kein Maß an amerikanischem Wettbewerbsdruck sollte Rücksichtslosigkeit rechtfertigen oder zulassen, dass Fähigkeiten der Ausrichtung und dem Monitoring vorauslaufen.

Wobei wir die Unterstützung unserer Regierung brauchen werden, ist die internationale Koordination. Aber zuerst sollten wir das tun, was wir selbst tun können.

Sam Altman (Parody)

Trendthemen