Neulich habe ich einen frischen KI-Chat geöffnet und hatte so einen dieser kleinen Momente, die einen länger begleiten, als sie es wahrscheinlich sollten.
Dieses Ding konnte einen komplizierten Begriff in Sekunden erklären, anständigen Code schreiben, Fragen schneller beantworten als die meisten Menschen es je könnten… und doch hatte es keine Ahnung, wer ich bin. Keine Erinnerung an frühere Gespräche. Kein Kontext. Nichts.
Ich merke diesen Abstand immer stärker. Wir reden ständig über smartere Modelle, größere Modelle, schnellere Modelle, aber ein Teil dessen, was darunter liegt, fühlt sich seltsam unausgereift an. Intelligenz wird in Szene gesetzt. Die Mechanik, die das Ganze vertrauenswürdig macht, bekommt nicht annähernd die gleiche Aufmerksamkeit.
Und ehrlich gesagt: Nicht mal das Vergessen hat mich wirklich gestört. Menschen vergessen Dinge ständig. Das ist normal.
Seltsam war eher die Erkenntnis, wie wenig Einblick es gibt, in das, was passiert ist, bevor eine Antwort auf meinem Bildschirm erscheint. Welches System hat die Anfrage bearbeitet? Welches Modell hat die Antwort tatsächlich erzeugt? Hat irgendetwas sie unterwegs verändert? Wurde irgendein Kontext behalten, oder wurde alles in dem Moment verworfen, in dem das Gespräch endete?
Vielleicht liegt es daran, dass wir auf die Art kein Vertrauen aufbauen, wie wir es im echten Leben tun.
Wenn dir jemand eine gute Antwort gibt, ist das schön. Du vertraust ihm nicht plötzlich. Vertrauen entsteht dadurch, dass derselbe Mensch im Laufe der Zeit beständig auftaucht. Du erinnerst dich an frühere Interaktionen. Du kannst vergleichen, was sie dir gestern gesagt haben, mit dem, was sie dir heute sagen. Es gibt eine Form von Verantwortlichkeit – auch wenn sie informell ist.
In letzter Zeit frage ich mich, ob KI-Adoption weniger ein Modellproblem ist, als viele denken. Alle scheinen darauf fokussiert zu sein, die Intelligenz selbst noch besser zu machen, was offensichtlich wichtig ist, aber sobald diese Systeme mit Identitäten, Geld, Berechtigungen, Langzeit-Erinnerung oder Entscheidungen zu tun haben, die tatsächlich Konsequenzen haben, verschiebt sich das Gespräch etwas.
Ab dann ist die Frage nicht nur: „Ist das Modell intelligent?“
Sie lautet eher: Kann ich verifizieren, was passiert ist? Kann ich das später prüfen? Kann ich dem Prozess vertrauen, statt blind der Ausgabe?
@OpenGradient #OPG
#opg $OPG
$SYN
$HEI
Dieses Ding konnte einen komplizierten Begriff in Sekunden erklären, anständigen Code schreiben, Fragen schneller beantworten als die meisten Menschen es je könnten… und doch hatte es keine Ahnung, wer ich bin. Keine Erinnerung an frühere Gespräche. Kein Kontext. Nichts.
Ich merke diesen Abstand immer stärker. Wir reden ständig über smartere Modelle, größere Modelle, schnellere Modelle, aber ein Teil dessen, was darunter liegt, fühlt sich seltsam unausgereift an. Intelligenz wird in Szene gesetzt. Die Mechanik, die das Ganze vertrauenswürdig macht, bekommt nicht annähernd die gleiche Aufmerksamkeit.
Und ehrlich gesagt: Nicht mal das Vergessen hat mich wirklich gestört. Menschen vergessen Dinge ständig. Das ist normal.
Seltsam war eher die Erkenntnis, wie wenig Einblick es gibt, in das, was passiert ist, bevor eine Antwort auf meinem Bildschirm erscheint. Welches System hat die Anfrage bearbeitet? Welches Modell hat die Antwort tatsächlich erzeugt? Hat irgendetwas sie unterwegs verändert? Wurde irgendein Kontext behalten, oder wurde alles in dem Moment verworfen, in dem das Gespräch endete?
Vielleicht liegt es daran, dass wir auf die Art kein Vertrauen aufbauen, wie wir es im echten Leben tun.
Wenn dir jemand eine gute Antwort gibt, ist das schön. Du vertraust ihm nicht plötzlich. Vertrauen entsteht dadurch, dass derselbe Mensch im Laufe der Zeit beständig auftaucht. Du erinnerst dich an frühere Interaktionen. Du kannst vergleichen, was sie dir gestern gesagt haben, mit dem, was sie dir heute sagen. Es gibt eine Form von Verantwortlichkeit – auch wenn sie informell ist.
In letzter Zeit frage ich mich, ob KI-Adoption weniger ein Modellproblem ist, als viele denken. Alle scheinen darauf fokussiert zu sein, die Intelligenz selbst noch besser zu machen, was offensichtlich wichtig ist, aber sobald diese Systeme mit Identitäten, Geld, Berechtigungen, Langzeit-Erinnerung oder Entscheidungen zu tun haben, die tatsächlich Konsequenzen haben, verschiebt sich das Gespräch etwas.
Ab dann ist die Frage nicht nur: „Ist das Modell intelligent?“
Sie lautet eher: Kann ich verifizieren, was passiert ist? Kann ich das später prüfen? Kann ich dem Prozess vertrauen, statt blind der Ausgabe?
@OpenGradient #OPG
#opg $OPG
$SYN
$HEI
Bullish 🟢
50%
Bearish 🔴
50%
2 Stimmen • Abstimmung beendet