Der zukünftige Kunde von KI könnte kein Mensch sein.
Vor ein paar Jahren hätte ich diese Idee wahrscheinlich abgetan. Wir denken immer noch, dass KI ein Werkzeug ist, das für Menschen gebaut wurde. Wir stellen Fragen, sie gibt Antworten, und die Menschen treffen die endgültige Entscheidung.
Aber ich bin mir nicht sicher, ob das immer so bleiben wird.
Während KI-Systeme zunehmend leistungsfähiger werden, werden sie immer mehr mit anderen KI-Systemen interagieren. Ein Modell könnte Informationen generieren, ein anderes könnte sie analysieren, und ein weiteres könnte Maßnahmen ergreifen. Vieles davon könnte geschehen, ohne dass jemand jeden Schritt überprüft.
Was ich interessant finde, ist, dass die meisten Gespräche über KI immer noch um größere Modelle, bessere Benchmarks und niedrigere Kosten kreisen. Diese Dinge sind offensichtlich wichtig.
Aber ich komme immer wieder zu einer anderen Frage zurück.
Was passiert, wenn Intelligenz zur Norm wird?
Heute bewerten wir KI nach den Ergebnissen, weil Menschen immer noch beteiligt sind. Wir können pausieren, Dinge hinterfragen und um eine zweite Meinung bitten.
Maschinen machen das nicht wirklich.
Und wenn KI-Systeme zunehmend auf die Ausgaben anderer KI-Systeme angewiesen sind, könnte es nicht ausreichen, einfach zu vertrauen, dass alles wie erwartet funktioniert hat.
Das ist teilweise der Grund, warum @OpenGradient OpenGradient meine Aufmerksamkeit erregt hat.
Vielleicht besteht die nächste Herausforderung in der KI nicht darin, intelligentere Modelle zu bauen.
Vielleicht besteht sie darin, Systeme zu entwickeln, bei denen die Intelligenz verifiziert werden kann, anstatt einfach angenommen zu werden.
Der Fokus von OpenGradient auf transparente und überprüfbare KI-Ausführung wird zunehmend relevant, da KI-Systeme autonomer werden.
Je mehr ich darüber nachdenke, desto mehr habe ich das Gefühl, dass die Generierung von Intelligenz nicht das schwierigste Problem vor uns ist.
Zu verstehen, ob diese Intelligenz sich so verhält, wie wir es erwartet haben, könnte sich als ebenso wichtig herausstellen.
Und wenn das passiert, könnte die Infrastruktur hinter der KI genauso wichtig werden wie die Modelle selbst.
#opg @OpenGradient $OPG
Wenn KI zunehmend autonom wird, was wird dann wichtiger?
Vor ein paar Jahren hätte ich diese Idee wahrscheinlich abgetan. Wir denken immer noch, dass KI ein Werkzeug ist, das für Menschen gebaut wurde. Wir stellen Fragen, sie gibt Antworten, und die Menschen treffen die endgültige Entscheidung.
Aber ich bin mir nicht sicher, ob das immer so bleiben wird.
Während KI-Systeme zunehmend leistungsfähiger werden, werden sie immer mehr mit anderen KI-Systemen interagieren. Ein Modell könnte Informationen generieren, ein anderes könnte sie analysieren, und ein weiteres könnte Maßnahmen ergreifen. Vieles davon könnte geschehen, ohne dass jemand jeden Schritt überprüft.
Was ich interessant finde, ist, dass die meisten Gespräche über KI immer noch um größere Modelle, bessere Benchmarks und niedrigere Kosten kreisen. Diese Dinge sind offensichtlich wichtig.
Aber ich komme immer wieder zu einer anderen Frage zurück.
Was passiert, wenn Intelligenz zur Norm wird?
Heute bewerten wir KI nach den Ergebnissen, weil Menschen immer noch beteiligt sind. Wir können pausieren, Dinge hinterfragen und um eine zweite Meinung bitten.
Maschinen machen das nicht wirklich.
Und wenn KI-Systeme zunehmend auf die Ausgaben anderer KI-Systeme angewiesen sind, könnte es nicht ausreichen, einfach zu vertrauen, dass alles wie erwartet funktioniert hat.
Das ist teilweise der Grund, warum @OpenGradient OpenGradient meine Aufmerksamkeit erregt hat.
Vielleicht besteht die nächste Herausforderung in der KI nicht darin, intelligentere Modelle zu bauen.
Vielleicht besteht sie darin, Systeme zu entwickeln, bei denen die Intelligenz verifiziert werden kann, anstatt einfach angenommen zu werden.
Der Fokus von OpenGradient auf transparente und überprüfbare KI-Ausführung wird zunehmend relevant, da KI-Systeme autonomer werden.
Je mehr ich darüber nachdenke, desto mehr habe ich das Gefühl, dass die Generierung von Intelligenz nicht das schwierigste Problem vor uns ist.
Zu verstehen, ob diese Intelligenz sich so verhält, wie wir es erwartet haben, könnte sich als ebenso wichtig herausstellen.
Und wenn das passiert, könnte die Infrastruktur hinter der KI genauso wichtig werden wie die Modelle selbst.
#opg @OpenGradient $OPG
Wenn KI zunehmend autonom wird, was wird dann wichtiger?
Smarter intelligence
🧠
68%
Verifiable intelligence✅️
32%
22 Stimmen • Abstimmung beendet