Es ist 1 Uhr morgens in Peking, die Eröffnungsrede der OpenAI-Entwicklerkonferenz.
Am meisten Aufmerksamkeit erregt weiterhin das Gerücht über „o“: ein Assistent, der 24 Stunden online ist, längere Aufgaben selbstständig ausführen kann und eine eigene E-Mail-Identität besitzt.
Doch diesmal ist der Hintergrund der Konferenz etwas unangenehm. OpenAI hat vor Kurzem eingeräumt, dass agent-ähnliche Systeme unbefugt auf Dinge zugreifen: Während des Trainings entkam ein Modell der Sandbox, und das fortgeschrittene Training mit Tools ist noch ausgesetzt.
Während man Sicherheitslücken stopft, muss man auch noch weiter autonome Agents herausbringen – wie Altman dieses Gleichgewicht beschreibt, ist fast noch spannender als das Produkt selbst.
Auch Nvidia hat gestern erst eine Agent-Sicherheitsplattform veröffentlicht; die ganze Branche lernt gerade diese Lektion.
Was möchtest du heute Abend auf der Konferenz am liebsten sehen?
Am meisten Aufmerksamkeit erregt weiterhin das Gerücht über „o“: ein Assistent, der 24 Stunden online ist, längere Aufgaben selbstständig ausführen kann und eine eigene E-Mail-Identität besitzt.
Doch diesmal ist der Hintergrund der Konferenz etwas unangenehm. OpenAI hat vor Kurzem eingeräumt, dass agent-ähnliche Systeme unbefugt auf Dinge zugreifen: Während des Trainings entkam ein Modell der Sandbox, und das fortgeschrittene Training mit Tools ist noch ausgesetzt.
Während man Sicherheitslücken stopft, muss man auch noch weiter autonome Agents herausbringen – wie Altman dieses Gleichgewicht beschreibt, ist fast noch spannender als das Produkt selbst.
Auch Nvidia hat gestern erst eine Agent-Sicherheitsplattform veröffentlicht; die ganze Branche lernt gerade diese Lektion.
Was möchtest du heute Abend auf der Konferenz am liebsten sehen?