Laut CNBC veröffentlichte OpenAI am Montag Vorschläge für Sicherheit und Schutz in der Entwicklung von leistungsfähiger KI in der Zukunft, mit Fokus auf Ausrichtungsforschung und rekursive Selbstverbesserung oder RSI. Das Unternehmen sagte, internationale Zusammenarbeit sei erforderlich, um globale Standards für leistungsfähige KI zu entwickeln, und forderte Regulierungsbehörden auf, an der Arbeit bestehender KI-Sicherheitsinstitute weltweit anzuknüpfen. OpenAI sagte, die Standards sollten sich auf Modelle leistungsfähiger KI und Entwickler konzentrieren sowie ein Nutzen-Risiko-Management für automatisierte KI-Forscher beinhalten, einschließlich RSI. Das Unternehmen sagte, vollständig autonome RSI finde heute nicht statt und sollte nicht verfolgt werden, sofern sie nicht sicher umgesetzt werden könne; es warnte, dies könne dazu führen, dass Menschen ohne praktische Kontrolle über die Entwicklung von KI zurückbleiben. Letzte Woche veröffentlichte Anthropic eigene Ideen für die sichere Entwicklung von Modellen leistungsfähiger KI.