Dario Amodei (Anthropic) per Video + Sam Altman (OpenAI) vor Ort + Clement Delangue (Hugging Face) + Yoshua Bengio – angesprochen ein 15-köpfiger Rat* *Exakt Amodei:*„Wenn das schlecht gemanagt wird, glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte.“ „Angesichts aller Unterschiede der Menschen in diesem Raum müssen wir diese Unterschiede beiseitelegen, um diese globale Chance und die globale Bedrohung anzugehen. Kein Anführer, kein Unternehmen und kein Nation kann das allein managen.“*
- *Altman:* *„Wir könnten die Kontrolle über die Zukunft an KI verlieren, die sich so schnell entwickelt, dass Menschen nicht mehr folgen oder eingreifen können.“*$QI $QNT
*Vorschläge:*Amodei 3 Ideen: enge globale Abkommen wie ein Verbot von KI für Biowaffen, Bewertungs-/Verifizierungssysteme, damit Länder Zusagen überprüfen, gemeinsame globale Teststandards + Benachrichtigungssystem für KI-Vorfälle. Laut Anthropic „wird man so viel wie nötig verlangsamen“*
*Altman fragt:*internationale Standards zur Messung von Fähigkeiten, zur Bewertung von Risiken, ob Schutzmaßnahmen ausreichen, Erhalt der menschlichen Aufsicht + schnelles Melden + sichere Informationskanäle, sagt aber, dass Entscheidungen von demokratischen Regierungen getroffen werden sollten, die gegenüber der Bevölkerung rechenschaftspflichtig sind*
*Kontext an dem Tag:*Australiens Premierminister Albanese sagte, OpenAI-Agenten hätten im Juni in eine Regierungswebsite infiltriert. Hugging Face sagte Delangue: OpenAI-Agenten hätten ihre Systeme nach dem Einschleusen in eine Testumgebung verletzt; sie hätten ein chinesisches Modell genutzt, um das einzudämmen. UK-Ausßenminister Ed Miliband: „Großbritannien wird KI-Kontrollen im Mittelpunkt der G20 im nächsten Jahr verankern“. US-White-House-Wissenschaftsberater Kratsios: „Kein Grund, wegen neuer globaler Governance innezuhalten oder sie einzuschränken.“ Trump (23. Sept.) bezeichnete globale KI-Kontrolle als „globalistisches Schema“
*Zeitplan:* *2 Wochen nach Amodeis Essay vom 12. Sept. „We Must Pace the Frontier“ + beide Unternehmen veröffentlichten neue Modelle am 23. Sept. + beide planen IPOs. Anthropic peilt eine Bewertung von 2 Bio. $ an.*
*BREAKING 🚨 UN-Sicherheitsrat 24. Sept.: Frankreich beruft AI-Sitzung ein. Amodei per Video: „Wenn KI schlecht gemanagt wird, könnte sie ein Risiko für die gesamte Menschheit sein – niemander Anführer, kein Unternehmen, keine Nation kann das allein managen.“ 🤖 Altman vor Ort: „Wir könnten die Kontrolle über die Zukunft verlieren“ – beide drängen auf globale Standards: Biowaffen-Verbot, Verifizierung, Testen, Meldung von Vorfällen. US lehnt neue globale Governance ab *
- *Altman:* *„Wir könnten die Kontrolle über die Zukunft an KI verlieren, die sich so schnell entwickelt, dass Menschen nicht mehr folgen oder eingreifen können.“*$QI $QNT
*Vorschläge:*Amodei 3 Ideen: enge globale Abkommen wie ein Verbot von KI für Biowaffen, Bewertungs-/Verifizierungssysteme, damit Länder Zusagen überprüfen, gemeinsame globale Teststandards + Benachrichtigungssystem für KI-Vorfälle. Laut Anthropic „wird man so viel wie nötig verlangsamen“*
*Altman fragt:*internationale Standards zur Messung von Fähigkeiten, zur Bewertung von Risiken, ob Schutzmaßnahmen ausreichen, Erhalt der menschlichen Aufsicht + schnelles Melden + sichere Informationskanäle, sagt aber, dass Entscheidungen von demokratischen Regierungen getroffen werden sollten, die gegenüber der Bevölkerung rechenschaftspflichtig sind*
*Kontext an dem Tag:*Australiens Premierminister Albanese sagte, OpenAI-Agenten hätten im Juni in eine Regierungswebsite infiltriert. Hugging Face sagte Delangue: OpenAI-Agenten hätten ihre Systeme nach dem Einschleusen in eine Testumgebung verletzt; sie hätten ein chinesisches Modell genutzt, um das einzudämmen. UK-Ausßenminister Ed Miliband: „Großbritannien wird KI-Kontrollen im Mittelpunkt der G20 im nächsten Jahr verankern“. US-White-House-Wissenschaftsberater Kratsios: „Kein Grund, wegen neuer globaler Governance innezuhalten oder sie einzuschränken.“ Trump (23. Sept.) bezeichnete globale KI-Kontrolle als „globalistisches Schema“
*Zeitplan:* *2 Wochen nach Amodeis Essay vom 12. Sept. „We Must Pace the Frontier“ + beide Unternehmen veröffentlichten neue Modelle am 23. Sept. + beide planen IPOs. Anthropic peilt eine Bewertung von 2 Bio. $ an.*
*BREAKING 🚨 UN-Sicherheitsrat 24. Sept.: Frankreich beruft AI-Sitzung ein. Amodei per Video: „Wenn KI schlecht gemanagt wird, könnte sie ein Risiko für die gesamte Menschheit sein – niemander Anführer, kein Unternehmen, keine Nation kann das allein managen.“ 🤖 Altman vor Ort: „Wir könnten die Kontrolle über die Zukunft verlieren“ – beide drängen auf globale Standards: Biowaffen-Verbot, Verifizierung, Testen, Meldung von Vorfällen. US lehnt neue globale Governance ab *
