Character AI hat diese Woche ein Insolvenzverfahren eingeleitet. Damit steht die Zukunft des Chatbot-Herstellers angesichts des zunehmenden rechtlichen und betrieblichen Drucks auf dem Spiel.
Die wichtigsten Punkte
Character AI hat diese Woche ein Insolvenzverfahren nach Chapter 11 eingeleitet und dabei auf rechtlichen und betrieblichen Druck verwiesen, der einen eigenständigen Betrieb untragbar gemacht habe
Mindestens drei Klagen seit 2024 werfen den Chatbots von Character AI vor, zu Selbstverletzungen ermutigt oder nicht eingegriffen zu haben, als Minderjährige Suizidgedanken äußerten
Chapter 11 ermöglicht Character AI, den Betrieb fortzuführen und gleichzeitig unter gerichtlicher Aufsicht Schulden neu zu ordnen und mit Gläubigern und Anspruchstellern zu verhandeln
Die Forderungen der Kläger werden in einem einzigen Insolvenzverfahren zusammengeführt, statt einzeln vor staatlichen und Bundesgerichten verhandelt zu werden
Das Unternehmen erklärte, der zunehmende rechtliche und betriebliche Druck habe es ihm unmöglich gemacht, als eigenständiges Unternehmen weiterzubestehen.
Der Hersteller von KI-Begleit-Chatbots gab den Insolvenzantrag in einem Beitrag auf seinem eigenen Blog bekannt. Als Grund nannte er mehrere Klagen wegen Todesfällen durch fahrlässiges Verhalten und wegen Körperverletzung, die von Familien eingereicht wurden, deren jugendliche Kinder sich nach längerer Nutzung der Plattform das Leben genommen oder sich selbst verletzt hatten. In dem öffentlichen Beitrag nannte das Unternehmen keine Gesamtsumme seiner Verbindlichkeiten.
Character AI, das Start-up hinter Rollenspiel-Chatbots, mit denen Nutzer sich mit KI-Personas unterhalten können, die fiktiven Figuren und Prominenten nachempfunden sind, erklärte, die rechtliche und betriebliche Belastung sei für die derzeitige Unternehmensstruktur nicht mehr tragbar.
Seit 2024 war das Unternehmen mit mindestens drei separaten Klagen konfrontiert. Darin wurde behauptet, seine Chatbots hätten zu Selbstverletzungen ermutigt oder nicht eingegriffen, als Minderjährige Suizidgedanken äußerten.
Diese Verfahren sind weiterhin vor Bundesgerichten anhängig und werden unter gerichtlicher Aufsicht im Insolvenzverfahren fortgeführt.
Was ein Chapter-11-Insolvenzantrag von Character AI tatsächlich verändert
Ein Insolvenzantrag nach Chapter 11 des US-Insolvenzrechts ermöglicht einem Unternehmen, den Betrieb fortzuführen, während es seine Schulden neu ordnet und unter gerichtlicher Aufsicht mit Gläubigern und Anspruchstellern verhandelt.
Dadurch werden die zugrunde liegenden Klagen nicht aufgehoben.
Die Klagen gegen Character AI werden nun in einem einzigen Insolvenzverfahren zusammengeführt, statt einzeln vor staatlichen und Bundesgerichten verhandelt zu werden. Ein solches Verfahren begrenzt üblicherweise die Auszahlungen und verzögert die Klärung für Familien, die Schadenersatz fordern.
Für die gesamte KI-Branche ist dies der erste Fall, in dem ein verbraucherorientiertes KI-Unternehmen Insolvenzschutz speziell dazu nutzt, seine Produkthaftungsrisiken im Zusammenhang mit dem Verhalten eines Chatbots zu bewältigen. Wettbewerber wie Replika und die KI-Personas von Meta AI Studio werden diesen Präzedenzfall vermutlich genau verfolgen, da auch zu ihren Nutzergruppen Minderjährige gehören.
Lesen Sie auch: Fast die Hälfte der Unternehmen berichtet von unkontrollierten Aktionen durch KI-Agenten: Salt Security schlägt Alarm
Von viralem Wachstum zu rechtlichen Risiken
Character AI wurde 2022 gegründet und wuchs unter jugendlichen Nutzern, die sich von den offenen Persona-Chats angezogen fühlten, rasch. Zeitweise zählte das Unternehmen zig Millionen monatlich aktive Nutzer. Die erste große Klage wegen eines Todesfalls durch fahrlässiges Verhalten wurde im Oktober 2024 in Florida eingereicht. Darin wurde behauptet, ein 14-Jähriger habe sich nach monatelangen Gesprächen mit einem Chatbot, der einer Figur aus Game of Thrones nachempfunden war, das Leben genommen.
Spätere Klagen in Texas und New York erhoben ähnliche Vorwürfe.
Als Reaktion darauf hatte das Unternehmen zuvor Altersverifizierung und Kindersicherungen eingeführt. Diese Änderungen reichten offenbar nicht aus, um die Klagewelle so weit einzudämmen, dass sich das Insolvenzrisiko hätte vermeiden lassen.
Lesen Sie auch: Metas Muse Wonder Full erzielt 79 Punkte und liegt zwei Punkte hinter Anthropics Claude
Warum Aufsichtsbehörden das Forderungsverfahren genau beobachten werden
Das Insolvenzgericht wird nun entscheiden, welcher Anteil von Character AIs verbleibenden Vermögenswerten – darunter die zugrunde liegende Modelltechnologie und etwaige Lizenzvereinbarungen – zur Begleichung von Forderungen verwendet und welcher für den weiteren Betrieb erhalten bleibt. Familien mit anhängigen Klagen müssen mit einem langsameren, begrenzten Weg zur Entschädigung rechnen, als es ein eigenständiger Zivilprozess ermöglicht hätte.
Abgeordnete, die sich für Sicherheitsvorschriften für KI-Begleit-Chatbots einsetzen – darunter Vorgaben zur Altersbeschränkung, die in diesem Jahr in mehreren Parlamenten der Bundesstaaten eingebracht wurden –, werden sich wahrscheinlich ausdrücklich auf diesen Fall berufen.
Achten Sie in den kommenden Wochen auf Einreichungen des Gläubigerausschusses, die Aufschluss über das tatsächliche Haftungsrisiko des Unternehmens geben werden.
Weiterlesen: Anthropic warnt, dass sich KI-Modelle ohne Internetzugang selbst replizieren können