$OPENAI
ChatGPT schränkt Waffeninformationen für Nutzer unter 18 Jahren ein – selbst scheinbar harmlose Fragen sind betroffen
OpenAI kündigte am 30. Oktober nach US-amerikanischer Zeit an, den Zugang von ChatGPT-Nutzern unter 18 Jahren zu waffenbezogenen Informationen weiter einzuschränken – auch dann, wenn eine Frage harmlos erscheint. OpenAI bezeichnete die Anpassung als neue Beschränkungen für Schusswaffeninhalte bei Minderjährigen. Die geltenden Richtlinien verbieten bereits, Menschen bei der Planung oder Ausübung von Gewalt zu helfen, und schränken die Unterstützung von Jugendlichen bei der Suche nach oder Beschaffung von Waffen ein. Die neuen Regeln gehen noch weiter: Auch praktische Informationen über Waffen und Sicherheitssysteme, die möglicherweise zur Unterstützung von Gewalt missbraucht werden könnten, werden Jugendlichen gegenüber stärker eingeschränkt – selbst wenn es im Gespräch keinerlei Anzeichen für gewalttätige Absichten gibt. OpenAI erklärte, Jugendliche könnten ChatGPT weiterhin nutzen, um Gewalt vorzubeugen und zu deeskalieren, Unterstützung zu suchen und vertrauenswürdige Erwachsene zu kontaktieren. Das Unternehmen sagte, die Schutzmaßnahmen würden in den kommenden Wochen eingeführt und anschließend weiter angepasst.
Die Altersschätzung prüft fortlaufend, ob jemand unter 18 ist; Erwachsene, die fälschlich eingeordnet werden, können die Einstufung per Persona-Verifizierung aufheben lassen
Die neuen Beschränkungen gelten für Nutzer, die OpenAI als unter 18 Jahre alt einstuft oder einschätzt. Im vergangenen Jahr führte OpenAI eine Altersschätzung ein, bei der anhand verschiedener Signale, etwa Verhaltensmustern, ermittelt wird, ob ein Nutzer unter 18 ist. Nun soll die Einschätzung verstärkt werden: Während der Nutzung werden fortlaufend neue Signale bewertet, und Jugendliche werden bei Bedarf in die Version für Minderjährige verschoben.
Erwachsene, die fälschlicherweise der Version für Minderjährige zugeordnet wurden, können ihre Volljährigkeit über Persona, einen Partner für die Altersverifizierung, bestätigen lassen und so die zusätzlichen Schutzmaßnahmen für Jugendliche aufheben. Bei dieser Version für Minderjährige handelt es sich um die zuvor von OpenAI eingeführte Jugendversion von ChatGPT, für die bereits strengere Einschränkungen bei sensiblen Inhalten gelten.
Für alle Nutzer: Keine Rekonstruktion von Waffendetails früherer Großangriffe mehr; Gespräche mit Fixierung auf Gewalt können automatisch beendet werden
Ein weiterer Teil der Änderungen gilt unabhängig vom Alter. OpenAI wird ChatGPT dabei einschränken, frühere Großangriffe zu rekonstruieren. Dazu gehören Angaben zu den verwendeten Waffen und Ausrüstungsgegenständen, zu deren Beschaffung sowie detaillierte Vergleiche des Ausmaßes der Opferzahlen, die Angreifer möglicherweise bekannter machen könnten. Das gilt selbst dann, wenn diese Informationen anderswo im Internet zu finden sind, und unabhängig vom Alter oder dem Grund für die Frage.
OpenAI schrieb: „Menschen sollten ChatGPT bitten können, ihnen dabei zu helfen, diese Ereignisse und ihre Auswirkungen auf die Opfer und Gemeinschaften zu verstehen und zu lernen, Warnsignale zu erkennen sowie künftiger Gewalt vorzubeugen.“
Wenn in einem Gespräch Warnsignale auftreten, wird ChatGPT möglicherweise missbrauchbare Informationen vorsichtiger bereitstellen. Zeigt ein Gespräch, dass ein Nutzer auf Gewalt oder den Gedanken fixiert ist, anderen schweren Schaden zuzufügen, kann ChatGPT das Gespräch künftig automatisch beenden. Wird ein Gespräch desselben Kontos deswegen wiederholt beendet, kann OpenAI das Konto möglicherweise sperren.
Im Juli weitete OpenAI die Sicherheitsbenachrichtigungen im Rahmen der elterlichen Kontrollfunktionen bereits aus: Eltern werden benachrichtigt, wenn das Konto eines Jugendlichen wegen eines Verstoßes gegen die Nutzungsrichtlinien zu Gewalt gesperrt wird. Als Nächstes sollen Eltern auch dann benachrichtigt werden, wenn das Konto eines Jugendlichen gesperrt wird, weil dieser wiederholt über Gewalt spricht.
Laut einem Reuters-Bericht ergab ein Anfang Oktober veröffentlichter Bericht der gemeinnützigen Organisation Common Sense Media, dass ChatGPT in der Jugendversion Eltern häufig zu spät oder gar nicht benachrichtigt, wenn in Gesprächen von Jugendkonten Suizid, Selbstverletzung oder Essstörungen zur Sprache kommen.
Im dritten Quartal wurden mehr als 200 Fälle an Strafverfolgungsbehörden weitergeleitet; erster Bericht zur Sicherheit der Gemeinschaft erscheint Anfang 2027
OpenAI erklärte, im dritten Quartal 2026 mehr als 200 Fälle an Strafverfolgungsbehörden weitergeleitet zu haben. Dabei ging es um unmittelbar drohende Gewalt.
OpenAI sagte außerdem die Veröffentlichung eines „Berichts zur Sicherheit der Gemeinschaft“ zu. Darin soll erläutert werden, wie das System Probleme der Gemeinschaftssicherheit, darunter Gewalt, erkennt, untersucht und darauf reagiert. Der Bericht wird anonymisierte Fälle und zugehörige Daten enthalten. Der erste Bericht soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken. Danach soll er alle sechs Monate aktualisiert werden.
Dieser Artikel „ChatGPT schränkt Waffeninformationen für Nutzer unter 18 Jahren ein – selbst scheinbar harmlose Fragen sind betroffen“ erschien zuerst auf .
ChatGPT schränkt Waffeninformationen für Nutzer unter 18 Jahren ein – selbst scheinbar harmlose Fragen sind betroffen
OpenAI kündigte am 30. Oktober nach US-amerikanischer Zeit an, den Zugang von ChatGPT-Nutzern unter 18 Jahren zu waffenbezogenen Informationen weiter einzuschränken – auch dann, wenn eine Frage harmlos erscheint. OpenAI bezeichnete die Anpassung als neue Beschränkungen für Schusswaffeninhalte bei Minderjährigen. Die geltenden Richtlinien verbieten bereits, Menschen bei der Planung oder Ausübung von Gewalt zu helfen, und schränken die Unterstützung von Jugendlichen bei der Suche nach oder Beschaffung von Waffen ein. Die neuen Regeln gehen noch weiter: Auch praktische Informationen über Waffen und Sicherheitssysteme, die möglicherweise zur Unterstützung von Gewalt missbraucht werden könnten, werden Jugendlichen gegenüber stärker eingeschränkt – selbst wenn es im Gespräch keinerlei Anzeichen für gewalttätige Absichten gibt. OpenAI erklärte, Jugendliche könnten ChatGPT weiterhin nutzen, um Gewalt vorzubeugen und zu deeskalieren, Unterstützung zu suchen und vertrauenswürdige Erwachsene zu kontaktieren. Das Unternehmen sagte, die Schutzmaßnahmen würden in den kommenden Wochen eingeführt und anschließend weiter angepasst.
Die Altersschätzung prüft fortlaufend, ob jemand unter 18 ist; Erwachsene, die fälschlich eingeordnet werden, können die Einstufung per Persona-Verifizierung aufheben lassen
Die neuen Beschränkungen gelten für Nutzer, die OpenAI als unter 18 Jahre alt einstuft oder einschätzt. Im vergangenen Jahr führte OpenAI eine Altersschätzung ein, bei der anhand verschiedener Signale, etwa Verhaltensmustern, ermittelt wird, ob ein Nutzer unter 18 ist. Nun soll die Einschätzung verstärkt werden: Während der Nutzung werden fortlaufend neue Signale bewertet, und Jugendliche werden bei Bedarf in die Version für Minderjährige verschoben.
Erwachsene, die fälschlicherweise der Version für Minderjährige zugeordnet wurden, können ihre Volljährigkeit über Persona, einen Partner für die Altersverifizierung, bestätigen lassen und so die zusätzlichen Schutzmaßnahmen für Jugendliche aufheben. Bei dieser Version für Minderjährige handelt es sich um die zuvor von OpenAI eingeführte Jugendversion von ChatGPT, für die bereits strengere Einschränkungen bei sensiblen Inhalten gelten.
Für alle Nutzer: Keine Rekonstruktion von Waffendetails früherer Großangriffe mehr; Gespräche mit Fixierung auf Gewalt können automatisch beendet werden
Ein weiterer Teil der Änderungen gilt unabhängig vom Alter. OpenAI wird ChatGPT dabei einschränken, frühere Großangriffe zu rekonstruieren. Dazu gehören Angaben zu den verwendeten Waffen und Ausrüstungsgegenständen, zu deren Beschaffung sowie detaillierte Vergleiche des Ausmaßes der Opferzahlen, die Angreifer möglicherweise bekannter machen könnten. Das gilt selbst dann, wenn diese Informationen anderswo im Internet zu finden sind, und unabhängig vom Alter oder dem Grund für die Frage.
OpenAI schrieb: „Menschen sollten ChatGPT bitten können, ihnen dabei zu helfen, diese Ereignisse und ihre Auswirkungen auf die Opfer und Gemeinschaften zu verstehen und zu lernen, Warnsignale zu erkennen sowie künftiger Gewalt vorzubeugen.“
Wenn in einem Gespräch Warnsignale auftreten, wird ChatGPT möglicherweise missbrauchbare Informationen vorsichtiger bereitstellen. Zeigt ein Gespräch, dass ein Nutzer auf Gewalt oder den Gedanken fixiert ist, anderen schweren Schaden zuzufügen, kann ChatGPT das Gespräch künftig automatisch beenden. Wird ein Gespräch desselben Kontos deswegen wiederholt beendet, kann OpenAI das Konto möglicherweise sperren.
Im Juli weitete OpenAI die Sicherheitsbenachrichtigungen im Rahmen der elterlichen Kontrollfunktionen bereits aus: Eltern werden benachrichtigt, wenn das Konto eines Jugendlichen wegen eines Verstoßes gegen die Nutzungsrichtlinien zu Gewalt gesperrt wird. Als Nächstes sollen Eltern auch dann benachrichtigt werden, wenn das Konto eines Jugendlichen gesperrt wird, weil dieser wiederholt über Gewalt spricht.
Laut einem Reuters-Bericht ergab ein Anfang Oktober veröffentlichter Bericht der gemeinnützigen Organisation Common Sense Media, dass ChatGPT in der Jugendversion Eltern häufig zu spät oder gar nicht benachrichtigt, wenn in Gesprächen von Jugendkonten Suizid, Selbstverletzung oder Essstörungen zur Sprache kommen.
Im dritten Quartal wurden mehr als 200 Fälle an Strafverfolgungsbehörden weitergeleitet; erster Bericht zur Sicherheit der Gemeinschaft erscheint Anfang 2027
OpenAI erklärte, im dritten Quartal 2026 mehr als 200 Fälle an Strafverfolgungsbehörden weitergeleitet zu haben. Dabei ging es um unmittelbar drohende Gewalt.
OpenAI sagte außerdem die Veröffentlichung eines „Berichts zur Sicherheit der Gemeinschaft“ zu. Darin soll erläutert werden, wie das System Probleme der Gemeinschaftssicherheit, darunter Gewalt, erkennt, untersucht und darauf reagiert. Der Bericht wird anonymisierte Fälle und zugehörige Daten enthalten. Der erste Bericht soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken. Danach soll er alle sechs Monate aktualisiert werden.
Dieser Artikel „ChatGPT schränkt Waffeninformationen für Nutzer unter 18 Jahren ein – selbst scheinbar harmlose Fragen sind betroffen“ erschien zuerst auf .