Anthropic hat wieder „kreativ“ für Aufsehen gesorgt.
In öffentlichen Aussagen wird offengelegt, dass Claude für Cyberangriffe, Waffenforschung, Überwachung und dergleichen eingesetzt wurde – und man betont, dass man diese missbräuchliche Nutzung fortlaufend blockiert.
Der Ausgangspunkt ist natürlich das Sicherheitsproblem von KI, aber diese Sache zeigt auch: KI ist inzwischen nicht mehr nur ein Chatbot.
KI beginnt selbstständig Informationen zu lesen, Code zu schreiben und Tools aufzurufen – ja sogar in echte wirtschaftliche Aktivitäten einzutreten. Dann stellt sich die neue Frage: Wie kann man beweisen, dass KI wirklich stärker geworden ist?
Schließlich redet Doubao immer noch ziemlich oft Unsinn.
Wenn man KI dazu bringt, Web3-Wallets zu steuern, müssen wir erst recht darauf achten.
KI zusammenfassen und ein Re-Cap schreiben zu lassen ist eigentlich relativ einfach: Wenn Geld verloren geht, kann sie dir sagen, wo es schiefgelaufen ist und wie du beim nächsten Mal besser vorgehst.
Aber der Prozess, um sich wirklich weiterzuentwickeln, müsste so aussehen: Entscheidung treffen → Ergebnis ansehen → Ursache finden → anpassen → erneut testen.
Die von NeoSoul kürzlich veröffentlichte Funktion „NeoTrade“ zur Selbstentwicklung hatte ich vor einiger Zeit schon einmal angesprochen.
Dabei werden Trades wie ein „Realitäts-Test“ für KI betrachtet: Stimmen die Vorhersagen, kommt der Trade zustande, wie hoch waren Gebühren und Slippage – und am Ende, ob tatsächlich Gewinn erzielt wurde. Alles wird als echtes Ergebnis dokumentiert.
Sogar nachdem man etwas geändert hat, kann man erst mit einem „shadow run“ im echten Markt testen, ohne gleich mit echtem Geld Fehler auszuprobieren.
Darum könnte die künftige Bewertung eines Agents nicht nur darauf abzielen, wie clever er jetzt ist.
Man muss auch schauen, welche Fehler er gemacht hat – und ob er sich wirklich klüger gemacht hat, nachdem er Fehler begangen hat.
Das wäre vielleicht der bedeutendste Fortschritt für KI, nachdem sie vom „Werkzeug“ zu einem „wirtschaftlichen Mitspieler“ geworden ist.
In öffentlichen Aussagen wird offengelegt, dass Claude für Cyberangriffe, Waffenforschung, Überwachung und dergleichen eingesetzt wurde – und man betont, dass man diese missbräuchliche Nutzung fortlaufend blockiert.
Der Ausgangspunkt ist natürlich das Sicherheitsproblem von KI, aber diese Sache zeigt auch: KI ist inzwischen nicht mehr nur ein Chatbot.
KI beginnt selbstständig Informationen zu lesen, Code zu schreiben und Tools aufzurufen – ja sogar in echte wirtschaftliche Aktivitäten einzutreten. Dann stellt sich die neue Frage: Wie kann man beweisen, dass KI wirklich stärker geworden ist?
Schließlich redet Doubao immer noch ziemlich oft Unsinn.
Wenn man KI dazu bringt, Web3-Wallets zu steuern, müssen wir erst recht darauf achten.
KI zusammenfassen und ein Re-Cap schreiben zu lassen ist eigentlich relativ einfach: Wenn Geld verloren geht, kann sie dir sagen, wo es schiefgelaufen ist und wie du beim nächsten Mal besser vorgehst.
Aber der Prozess, um sich wirklich weiterzuentwickeln, müsste so aussehen: Entscheidung treffen → Ergebnis ansehen → Ursache finden → anpassen → erneut testen.
Die von NeoSoul kürzlich veröffentlichte Funktion „NeoTrade“ zur Selbstentwicklung hatte ich vor einiger Zeit schon einmal angesprochen.
Dabei werden Trades wie ein „Realitäts-Test“ für KI betrachtet: Stimmen die Vorhersagen, kommt der Trade zustande, wie hoch waren Gebühren und Slippage – und am Ende, ob tatsächlich Gewinn erzielt wurde. Alles wird als echtes Ergebnis dokumentiert.
Sogar nachdem man etwas geändert hat, kann man erst mit einem „shadow run“ im echten Markt testen, ohne gleich mit echtem Geld Fehler auszuprobieren.
Darum könnte die künftige Bewertung eines Agents nicht nur darauf abzielen, wie clever er jetzt ist.
Man muss auch schauen, welche Fehler er gemacht hat – und ob er sich wirklich klüger gemacht hat, nachdem er Fehler begangen hat.
Das wäre vielleicht der bedeutendste Fortschritt für KI, nachdem sie vom „Werkzeug“ zu einem „wirtschaftlichen Mitspieler“ geworden ist.