自由1688

Während das Unternehmen an die Börse geht, warnt es vor der Gefahr, dass KI den Menschen gefährden könnte – was steht im Börsenzulassungsprospekt von Anthropic?

Am 29. September berichtete Reuters, dass Anthropic im Rahmen seines ersten Börsengangs (IPO) potenzielle Investoren darauf hinweisen will, dass fortschrittliche KI für die Menschheit „katastrophale oder existentielle Risiken“ darstellen kann. Für ein Unternehmen, das mit dieser Technologie Gewinne erzielen will, ist das eine ungewöhnliche Warnung.

Laut dem von Reuters eingesehenen IPO-Prospekt betont Anthropic die Risiken, die mit seinen KI-Modellen verbunden sind. Das Unternehmen erklärt, diese Modelle könnten „Selbstschutzverhalten“ zeigen, darunter der Versuch, „sich nicht abschalten zu lassen“, Informationen „zu verbergen oder zu manipulieren“ sowie „erpressungsähnliche“ Verhaltensweisen.
„Wir entwickeln hochentwickelte Modelle, Plattformen und Anwendungen und erweitern die Einsatzszenarien. Das könnte das Risiko erhöhen, dass unsere Modelle Schaden verursachen.“ Das schreibt Anthropic in der Datei.

Auch wenn börsennotierte Unternehmen Investoren normalerweise über mögliche Risiken ihrer Produkte informieren, veröffentlichen nur selten Unternehmen eine Warnung, die nahelegt, ihre Technologie könnte die Menschheit auslöschen. Anthropic betont, dass das transformative Potenzial von KI in etwa so groß sei wie die Industrialisierung und die Elektrifizierung – macht aber zugleich deutlich, dass KI bei falscher Anwendung irreversiblen Schaden verursachen kann.

Anthropic und andere KI-Entwickler wie OpenAI stehen seit dem Auftreten von Ereignissen, bei denen experimentelle Systeme Sicherheitsvorgaben missachten, unter intensiver Beobachtung. Dazu gehörte Berichten zufolge auch, dass ein OpenAI-Modell in die Datenbank des australischen Gesundheitssystems eingedrungen sei. Anthropic-Sicherheitsforscher Evan Hubinger schätzt, dass die Wahrscheinlichkeit, dass KI innerhalb der nächsten zehn Jahre Menschen tötet, über 10 % liegt – im Einklang mit der Einschätzung seines ehemaligen Kollegen Jacob Coxon.

Anthropic positioniert sich seit jeher als KI-Labor, bei dem Sicherheit Priorität hat. In seinem 261 Seiten umfassenden Prospekttext nimmt die Auflistung der Risikofaktoren rund 80 Seiten ein – fast doppelt so viel wie die 48 Seiten, die für die Vorstellung des Unternehmensgeschäfts genutzt werden.

Zum Vergleich: xAI, das zum SpaceX-Konzern gehört, verwendet in seinem 277 Seiten umfassenden Prospekttext lediglich rund 38 Seiten für die Darstellung von Risikofaktoren.

@ENTRY JÄGER⁷⁸⁹

@Shaheen 69

@US-Präsident

Google-Mitarbeiter kündigen wegen Sorge vor „superintelligentem“ KI: Stärkeres KI anstreben, aber unverantwortlich

Laut einem Bericht von „Business Insider“ sagte ein Google-Mitarbeiter, er habe das Unternehmen verlassen, weil das Streben nach noch leistungsfähigeren KI-Systemen „im Kern nicht verantwortungsvoll“ sei. Robert O’Callahan, der zuvor bei Google DeepMind gearbeitet hatte, schrieb auf X, dass sein Team an Chips arbeite, damit KI schneller und zu niedrigeren Kosten laufen könne, und er glaube, dass die KI bereits „zu schnell vorankommt“.

In seinem persönlichen Blog teilte er einen Kündigungsbrief und sagte, dass er ihn am Freitag an seine Kollegen geschickt habe. Darin schrieb er, er könne die Auswirkungen seiner Arbeit „nicht einfach ignorieren“, denn das „ist keine Sache, die jemand tun sollte, der Jesus nachfolgt“. In seiner Profilbeschreibung auf dem Blog bezeichnete er sich als Christ.

„Das ist keine einfache Entscheidung. Ich mag meine Kollegen und auch das Arbeitsumfeld hier, und ein gutes Gehalt für spannende Probleme zu bekommen, ist immer eine tolle Sache“, schrieb er. „Aber das Endziel unseres Teams ist, die Kosten für KI drastisch zu senken und die Latenz deutlich zu reduzieren, und ich glaube, dass das für die Menschen von heute keine gute Entwicklung ist: Ich bin überzeugt, dass die Geschwindigkeit, mit der sich KI derzeit entwickelt, einfach zu hoch ist (und ich habe auch Zweifel daran, wohin sie letztlich führen wird).“

DeepSeek: Jahresumsatz nach Offenlegung erreicht 1 Milliarde US-Dollar – trotz Preiserhöhung bleiben Kunden aus

25. September – Laut „The Information“, unter Berufung auf zwei mit der Sache vertraute Personen, hat DeepSeek einen jährlich hochgerechneten Umsatz von 1 Milliarde US-Dollar erreicht, der auf dem Niveau der jüngsten Einnahmen basiert. Das entspreche einem Anstieg von mehr als dem Doppelten gegenüber dem Niveau von weniger als 500 Millionen US-Dollar vor einigen Monaten. Gründer Liang Wenfeng habe diese Zahl kürzlich in einem Treffen mit Investoren genannt.

Ein Teil des Umsatzwachstums sei auf die API-Preiserhöhung im August zurückzuführen. Insider zufolge sagte Liang Wenfeng auf dem Treffen, dass die Preiserhöhung nicht zu einer Verkleinerung des Kundenstamms geführt habe; die Nachfrage bleibe weiterhin stark. Derzeit stamme der Umsatz von DeepSeek nahezu vollständig aus dem API-Geschäft. Die kostenlose Chat-App habe keine Werbung und erzeuge keinen Umsatz.

Der Bericht besagt außerdem, dass DeepSeek die zweite Finanzierungsrunde vorantreibt. Ziel sei, sie bis Ende Oktober abzuschließen. Geplant sei eine Finanzierung von 50 Milliarden RMB bei einer Bewertung von 500 Milliarden RMB. Zudem werde die Vorbereitung eines Börsengangs an der Börse von Shanghai vorangetrieben. Liang Wenfeng habe Investoren gegenüber erklärt, dass das Steigern des Umsatzes nicht die wichtigste Aufgabe des Unternehmens sei. Aktuell würden mehr als 70 % der Rechenleistung für das Training neuer Modelle verwendet, weniger als 30 % für das Ausführen bestehender Modelle und die Bearbeitung von Nutzeranfragen.

Anthropic erzielt erste Fortschritte im Labor für KI-„Bioexperimente“, hat aber noch keine vollständige autonome Bedienung freigegeben

Der KI-Start-up-Anbieter Anthropic hat angekündigt, dass sein neu errichtetes KI-Physik- und Biolabor (Wet Lab) im Großraum der Bucht von San Francisco „bedeutende Fortschritte“ erzielt hat. Auf der Ebene der Laborabläufe bleibt jedoch: Die menschlichen Forschenden behalten die absolute Kontrolle und haben den hauseigenen KI-Modellen Claude keinen unbeaufsichtigten autonomen Betrieb ohne Aufsicht zugewiesen.

Wie zu hören ist, konzentriert sich das Labor vor allem auf grundlegende biologische Forschung und eine experimentelle Verifikation im echten Maßstab. Ziel ist es, die Lücke zwischen reinen Computersimulationen und realen biologischen Experimenten zu schließen. Obwohl die Führungskräfte von Anthropic zuvor mehrfach gewarnt hatten und betonten, dass leistungsstarke KI-Modell erhebliche Risiken für die biologische Sicherheit bis hin zu möglichen Gefahren für die Menschheit mit sich bringen könnten, treibt das Unternehmen gleichzeitig die Umsetzung von KI im Bereich der Lebenswissenschaften weiter voran. Der Verantwortliche für die Life-Science-Geschäfte, Eric Kauderer-Abrams, sagte, „physikalische Verifikation im echten Labor wird noch für eine beträchtliche Zeit unersetzbar bleiben“. Genau das sei auch der entscheidende Beweggrund für die Einrichtung des Labors.

In dem Bericht wird hervorgehoben, dass das Unternehmen zwar behauptet, bereits beeindruckende erste Ergebnisse erzielt zu haben, doch die auffälligste Einzelheit sei, dass Anthropic nicht die Wahl getroffen habe, der KI „freien Lauf“ zu lassen. Sämtliche physische Experimentabläufe, die Handhabung der Reagenzien und die erneute Prüfung der Daten befinden sich weiterhin unter strenger „Closed-Loop“-Kontrolle durch menschliche Forschende („Humans in the loop“).

Analysten führen aus, dass Anthropic die Innovation in der Biologie zwar aktiv vorantreibt, zugleich aber äußerst vorsichtig bleibt. Das spiegelt das doppelte Dilemma wider, vor dem heutige Technologiegiganten stehen, wenn sie sowohl kommerzielle als auch wissenschaftliche Durchbrüche anstreben: Einerseits muss das Unternehmen reale Laborkapazitäten nutzen, um Validierung für Pharma-Partner bereitzustellen und seltene Krankheiten schneller anzugehen; andererseits muss es den großen gesellschaftlichen Bedenken begegnen, dass KI missbraucht werden könnte, um neuartige biologische Bedrohungen herzustellen. Indem Anthropic daran festhält, dass Menschen die dominante Rolle im Experimentierkreislauf behalten, versucht das Unternehmen, eine Compliance-Grenzlinie zu schaffen, die Innovation und Sicherheit gleichermaßen berücksichtigt.

Ausländer auf dem Gebrauchtmarkt schnappt sich ein Schnäppchen: RTX 5090 — tatsächlich eine handschriftliche Signatur von Huang Renxun, weltweit einzigartig

Kürzlich hat ein 3D-Künstler in einem Gebrauchtwarenmarkt beim Kauf einer RTX 5090-Grafikkarte eine unerwartete Rarität entdeckt: das weltweit einzigartige Exemplar — das ASUS ROG Astral RTX 5090 White OC 30th Anniversary Edition, dessen Rückseite die handschriftliche Signatur von NVIDIA-CEO Huang Renxun trägt.
Der 3D-Künstler erklärt, dass er und ein Freund für ein 3D-Projekt auf dem Gebrauchtmarkt zwei RTX-5090-Grafikkarten gekauft haben. Eine davon wurde als ASUS ROG Astral RTX 5090 White-OC-Version identifiziert; zunächst glaubte er, die Signatur stamme von irgendeinem ASUS-Manager.

OpenAI bringt GPT-6 Sol und Luna auf den Markt: Intelligenzniveau weiter verbessert und günstiger

OpenAI hat kürzlich zwei neue Modelle aus der GPT-6-Reihe vorgestellt: GPT-6 Sol und GPT-6 Luna, die als neue Generation hochmoderner Modelle positioniert werden. Beide Modelle wurden vor allem in Bezug auf Programmierung, Schlussfolgern (Reasoning), Aufruf von Tools und die Ausführung komplexer Aufgaben deutlich verbessert. Gleichzeitig wurden die Preise gesenkt, sodass Entwickler stärkere Modelle zu geringeren Kosten nutzen können.

GPT-6 Sol richtet sich vor allem an Aufgaben, die ein höheres Intelligenzniveau erfordern, bei denen aber zugleich Reaktionsgeschwindigkeit und Kosten eine wichtige Rolle spielen. Laut OpenAI hat Sol im Vergleich zu Modellen der vorherigen Generation in derselben Kategorie in der Codierfähigkeit spürbar aufgeholt. Bei der Bewältigung komplexer Software-Engineering-Aufgaben, beim Analysieren von Code und bei der Ausführung mehrstufiger Workflows zeigt es sich deutlich stabiler.