#opg $OPG Je stärker KI eingeschränkt wird, desto wichtiger wird die Überprüfung
Ich habe etwas über die Regeln gelesen, die es für die Nutzung einiger fortschrittlicher KI-Modelle gibt, und dabei ist mir etwas eingefallen, über das man kaum spricht.
Die meisten Menschen denken darüber nach, wem das KI-Modell gehört.
Ich denke immer wieder darüber nach, wer eigentlich überprüft, was dieses Modell wirklich macht.
Die KI-Branche wird mittlerweile von großen Unternehmen kontrolliert. Sie sind für die Modelle, die Systeme, die Updates und oft auch für die Regeln zuständig, wer sie nutzen darf. Wenn neue Regeln auftauchen – sei es aus Gründen der Sicherheit, der Richtlinien oder der Gesetze – müssen Nutzer sie in der Regel akzeptieren.
Da ist mir OpenGradient aufgefallen.
Das Besondere an OpenGradient ist nicht, dass sie KI versprechen. Das tun viele Projekte. Das Interessante ist, dass sie ein System schaffen wollen, in dem wir überprüfen können, was die KI tut, statt ihr einfach zu vertrauen. Das System ist so ausgelegt, dass wir sehen können, was die KI macht: Dafür gibt es Computer, die das unterstützen, und es verwendet geheime Codes zur Verifizierung von Dingen, statt sich darauf zu verlassen, dass eine einzelne Person alles in der Hand hat.
Es gibt immer noch ein paar Fragen.
Das zu überprüfen, was die KI macht, klingt nach einer guten Idee – aber wie viele Nutzer würden das wirklich tun? Werden Entwickler damit einverstanden sein, dass es komplizierter wird, wenn es dafür leichter ist, die großen Unternehmen zu nutzen? Kann ein System, das nicht von einem einzigen Unternehmen kontrolliert wird, mit den KI-Unternehmen konkurrieren, die sehr viel Geld in ihre Systeme stecken?
Ich habe viele Projekte gesehen, die mit Codes behaupten, sie seien fair – aber sie lösen einfach nur dieselben Probleme wieder aus, die sie eigentlich beheben sollten.
OpenGradients setzen darauf, dass die Nutzer die Kontrolle über ihre Informationen haben, dass sie überprüfen können, was die KI macht, und dass sie ihre KI-Informationen weitergeben bzw. verschieben können. Das fühlt sich wie ein echter Versuch an, Dinge anders anzugehen.
Der eigentliche Test ist, ob Menschen irgendwann entscheiden, dass Vertrauen allein nicht reicht.
Wenn KI für Dinge wie Geld, Gesundheitswesen, wer wir sind und öffentliche Systeme eingesetzt wird: Sollten wir dann nicht auch überprüfen können, was sie tut?
Bewegen wir uns auf eine Zukunft zu, in der es genauso wichtig ist, die KI überprüfen zu können, wie die KI selbst? @OpenGradient
Ich habe etwas über die Regeln gelesen, die es für die Nutzung einiger fortschrittlicher KI-Modelle gibt, und dabei ist mir etwas eingefallen, über das man kaum spricht.
Die meisten Menschen denken darüber nach, wem das KI-Modell gehört.
Ich denke immer wieder darüber nach, wer eigentlich überprüft, was dieses Modell wirklich macht.
Die KI-Branche wird mittlerweile von großen Unternehmen kontrolliert. Sie sind für die Modelle, die Systeme, die Updates und oft auch für die Regeln zuständig, wer sie nutzen darf. Wenn neue Regeln auftauchen – sei es aus Gründen der Sicherheit, der Richtlinien oder der Gesetze – müssen Nutzer sie in der Regel akzeptieren.
Da ist mir OpenGradient aufgefallen.
Das Besondere an OpenGradient ist nicht, dass sie KI versprechen. Das tun viele Projekte. Das Interessante ist, dass sie ein System schaffen wollen, in dem wir überprüfen können, was die KI tut, statt ihr einfach zu vertrauen. Das System ist so ausgelegt, dass wir sehen können, was die KI macht: Dafür gibt es Computer, die das unterstützen, und es verwendet geheime Codes zur Verifizierung von Dingen, statt sich darauf zu verlassen, dass eine einzelne Person alles in der Hand hat.
Es gibt immer noch ein paar Fragen.
Das zu überprüfen, was die KI macht, klingt nach einer guten Idee – aber wie viele Nutzer würden das wirklich tun? Werden Entwickler damit einverstanden sein, dass es komplizierter wird, wenn es dafür leichter ist, die großen Unternehmen zu nutzen? Kann ein System, das nicht von einem einzigen Unternehmen kontrolliert wird, mit den KI-Unternehmen konkurrieren, die sehr viel Geld in ihre Systeme stecken?
Ich habe viele Projekte gesehen, die mit Codes behaupten, sie seien fair – aber sie lösen einfach nur dieselben Probleme wieder aus, die sie eigentlich beheben sollten.
OpenGradients setzen darauf, dass die Nutzer die Kontrolle über ihre Informationen haben, dass sie überprüfen können, was die KI macht, und dass sie ihre KI-Informationen weitergeben bzw. verschieben können. Das fühlt sich wie ein echter Versuch an, Dinge anders anzugehen.
Der eigentliche Test ist, ob Menschen irgendwann entscheiden, dass Vertrauen allein nicht reicht.
Wenn KI für Dinge wie Geld, Gesundheitswesen, wer wir sind und öffentliche Systeme eingesetzt wird: Sollten wir dann nicht auch überprüfen können, was sie tut?
Bewegen wir uns auf eine Zukunft zu, in der es genauso wichtig ist, die KI überprüfen zu können, wie die KI selbst? @OpenGradient