Nachdem ich @OpenGradient und den Datenverarbeitungsweg von OpenGradient Chat aufgeschlüsselt habe, ist eine Frage, die mir schon länger in meinen Notizen geblieben ist, immer wieder in den Vordergrund gerückt: Wenn KI immer besser darin wird, menschlichen Ausdruck zu verstehen, wie viel Information über „diese Person“ muss sie wirklich wissen?
Wenn ich KI täglich nutze, um Arbeitsrahmen zu organisieren und verstreute Gedanken festzuhalten, bemerke ich manchmal eine subtile Gewohnheit: Bei bestimmten unreifen Urteilen passe ich instinktiv ein paar Wörter an oder lasse sie vorerst unausgeschrieben. Diese Zurückhaltung liegt nicht an fehlender KI-Leistungsfähigkeit, sondern vielmehr daran, dass die Daten-Grenze zwischen Nutzer und KI noch nicht neu definiert wurde.
Während ich weiter das Design von OpenGradient auseinandernehme, liegt mein Fokus stärker darauf, was passiert, bevor die Daten überhaupt in das Modell gelangen. Benutzereingaben werden zunächst verschlüsselt und auf lokalen Geräten verarbeitet, und in diesem Schritt werden identitätsbezogene Informationen entfernt. Das große Modell erhält dann semantischen Inhalt, der verstanden und durchdacht werden muss, statt eines Identitätslabels, das zu einem bestimmten Nutzer gehört.
Das hat mich dazu gebracht, die Richtung des KI-Privatsphärenschutzes neu zu bewerten. Viele der bisherigen Diskussionen drehten sich darum, wie Daten gespeichert und verwaltet werden, während dieses Design versucht, das Thema noch weiter zurückzuschieben, bevor die Daten überhaupt in das Modell eingegeben werden. Dadurch wird die Abhängigkeit des Modells von Informationen zur Nutzeridentität beim Verstehen des Inhalts verringert.
Ob dieser Ansatz zu einer wichtigen Richtung für zukünftige KI-Systeme wird, kann ich noch nicht mit Sicherheit sagen. Aber zumindest während meiner Recherche zu $OPG und #OPG habe ich mich zunehmend über eine Frage Gedanken gemacht: Vielleicht werden zukünftige herausragende KI-Systeme nicht nur besser verstehen, wer wir sind, sondern auch wissen, welche Dinge sie nicht wissen müssen.
#opg $OPG
Wenn ich KI täglich nutze, um Arbeitsrahmen zu organisieren und verstreute Gedanken festzuhalten, bemerke ich manchmal eine subtile Gewohnheit: Bei bestimmten unreifen Urteilen passe ich instinktiv ein paar Wörter an oder lasse sie vorerst unausgeschrieben. Diese Zurückhaltung liegt nicht an fehlender KI-Leistungsfähigkeit, sondern vielmehr daran, dass die Daten-Grenze zwischen Nutzer und KI noch nicht neu definiert wurde.
Während ich weiter das Design von OpenGradient auseinandernehme, liegt mein Fokus stärker darauf, was passiert, bevor die Daten überhaupt in das Modell gelangen. Benutzereingaben werden zunächst verschlüsselt und auf lokalen Geräten verarbeitet, und in diesem Schritt werden identitätsbezogene Informationen entfernt. Das große Modell erhält dann semantischen Inhalt, der verstanden und durchdacht werden muss, statt eines Identitätslabels, das zu einem bestimmten Nutzer gehört.
Das hat mich dazu gebracht, die Richtung des KI-Privatsphärenschutzes neu zu bewerten. Viele der bisherigen Diskussionen drehten sich darum, wie Daten gespeichert und verwaltet werden, während dieses Design versucht, das Thema noch weiter zurückzuschieben, bevor die Daten überhaupt in das Modell eingegeben werden. Dadurch wird die Abhängigkeit des Modells von Informationen zur Nutzeridentität beim Verstehen des Inhalts verringert.
Ob dieser Ansatz zu einer wichtigen Richtung für zukünftige KI-Systeme wird, kann ich noch nicht mit Sicherheit sagen. Aber zumindest während meiner Recherche zu $OPG und #OPG habe ich mich zunehmend über eine Frage Gedanken gemacht: Vielleicht werden zukünftige herausragende KI-Systeme nicht nur besser verstehen, wer wir sind, sondern auch wissen, welche Dinge sie nicht wissen müssen.
#opg $OPG