Bin auf eine offizielle Mitteilung von OpenAI gestoßen: Das Unternehmen hat sich zu einem Community-Sicherheitsbericht verpflichtet und verschärft die Regeln für waffenbezogene Inhalte für Jugendliche.
Die wichtigsten Punkte: Im dritten Quartal 2026 gab es über 200 Weiterleitungen an Strafverfolgungsbehörden. In den kommenden Wochen werden die Regeln verschärft: Minderjährige erhalten unabhängig von einer Gewaltabsicht keine praktischen Details zu Waffen oder Sicherheitssystemen; auch für Erwachsene werden Details zu Waffen und deren Beschaffung im Zusammenhang mit Großangriffen eingeschränkt. Wenn in kürzlich geführten Chats Warnsignale für Gewalt auftauchen, wird das Modell vorsichtiger reagieren. Wer wiederholt wegen gewaltbezogener Inhalte aus Gesprächen ausgeschlossen wird, kann vorübergehend gesperrt werden; außerdem ist geplant, hinterlegte Eltern zu benachrichtigen. Der erste Community-Sicherheitsbericht soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken; danach wird er halbjährlich aktualisiert. Die Altersschätzung wird fortlaufend angepasst. Wer fälschlich als minderjährig eingestuft wird, kann über die Persona-Verifizierung wieder zum Erlebnis für Erwachsene wechseln.
Große Sprachmodelle werden immer mehr zu einer öffentlichen Infrastruktur, und die Sicherheitsvorkehrungen verschieben sich zunehmend in Richtung „Missbrauch vorbeugen“.
#OpenAI #ChatGPT #AI安全
Die wichtigsten Punkte: Im dritten Quartal 2026 gab es über 200 Weiterleitungen an Strafverfolgungsbehörden. In den kommenden Wochen werden die Regeln verschärft: Minderjährige erhalten unabhängig von einer Gewaltabsicht keine praktischen Details zu Waffen oder Sicherheitssystemen; auch für Erwachsene werden Details zu Waffen und deren Beschaffung im Zusammenhang mit Großangriffen eingeschränkt. Wenn in kürzlich geführten Chats Warnsignale für Gewalt auftauchen, wird das Modell vorsichtiger reagieren. Wer wiederholt wegen gewaltbezogener Inhalte aus Gesprächen ausgeschlossen wird, kann vorübergehend gesperrt werden; außerdem ist geplant, hinterlegte Eltern zu benachrichtigen. Der erste Community-Sicherheitsbericht soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken; danach wird er halbjährlich aktualisiert. Die Altersschätzung wird fortlaufend angepasst. Wer fälschlich als minderjährig eingestuft wird, kann über die Persona-Verifizierung wieder zum Erlebnis für Erwachsene wechseln.
Große Sprachmodelle werden immer mehr zu einer öffentlichen Infrastruktur, und die Sicherheitsvorkehrungen verschieben sich zunehmend in Richtung „Missbrauch vorbeugen“.
#OpenAI #ChatGPT #AI安全
