Gerade habe ich Sams neueste Stellungnahme gesehen: Er stimmt Darios Ansicht zu, dass man das Tempo der Fortschritte an der Front verlangsamen müsse, und sagt, dass dies auch in den internen Diskussionen bei OpenAI der Schwerpunkt der letzten Wochen gewesen sei. Für den Vorschlag, unabhängigen Gutachtern einen ähnlichen Zugang wie Mitarbeitern zu gewähren, hält er das ebenfalls für eine gute Idee. OpenAI werde das Gleiche tun; weitere Details werden später veröffentlicht.
Veröffentlichen
坚定不移看好区块链未来并持续建设个人庞大亏损数据库曾满怀希望参与无数个热门项目但非常遗憾的是高清盈利截图至今依然未被收录
·
--
Die Entwicklung von KI könnte sich möglicherweise wirklich gezwungen sehen, kurz zu bremsen. Der CEO von Anthropic, Dario Amodei, schreibt, dass KI bereits dabei ist, den Bau der nächsten Generation von Modellen mitzugestalten. Er befürchtet, dass noch leistungsstärkere Systeme in den kommenden 6 bis 12 Monaten erhebliche Cybersicherheitsrisiken mit sich bringen könnten. Dafür plädiert er für die Einführung einer laufenden Sicherheitsbewertung durch Dritte, für eine Vereinheitlichung von Standards unter führenden KI-Unternehmen sowie dafür, fortschrittliche Chips und Geräte nicht in gleichem Maße nach China zu exportieren. Er glaubt, dass ein vollständiger Stopp in der nahen Zukunft nicht realistisch ist, aber dass man der Sicherheitsausrichtung mehr Zeit geben müsse.
Ich persönlich finde, dass es nicht grundsätzlich schlecht ist, bei der Sicherheitsvalidierung etwas langsamer zu werden. Schließlich können die Kosten, wenn etwas schiefgeht, mit zunehmender Leistungsfähigkeit auch immer größer werden. Wie man allerdings den Ausgleich zwischen technischem Wettbewerb und Sicherheit genau gestalten soll, ist wirklich schwer.
Was meinst du: Sollte die führende KI jetzt proaktiv langsamer machen, oder ist es realistischer, weiter auf Geschwindigkeit zu setzen?
Ich persönlich finde, dass es nicht grundsätzlich schlecht ist, bei der Sicherheitsvalidierung etwas langsamer zu werden. Schließlich können die Kosten, wenn etwas schiefgeht, mit zunehmender Leistungsfähigkeit auch immer größer werden. Wie man allerdings den Ausgleich zwischen technischem Wettbewerb und Sicherheit genau gestalten soll, ist wirklich schwer.
Was meinst du: Sollte die führende KI jetzt proaktiv langsamer machen, oder ist es realistischer, weiter auf Geschwindigkeit zu setzen?
Haftungsausschluss: Enthält Meinungen von Drittanbietern. Keine Beratung. Binance AI wird ohne Gewähr bereitgestellt. Siehe AGB.