KI wird immer intelligenter – und zwar in einem Tempo, das mich ernsthaft beunruhigt.
Ein Blick auf die Fortschritte in nur 2 Jahren:
ChatGPT
Schlussfolgerungs- und Analysefähigkeiten: +200–300 %
Programmier- und technische Fähigkeiten: +300 %
Datenanalyse: +300 %
Kontext und Gedächtnis: +200 %
Automatisierung: +400 %
Gemini
Fähigkeiten zur Selbstverbesserung: Berichten zufolge 3–5-mal besser.
Multimodales Verständnis, tiefgehendes Schlussfolgern und der Einsatz von Tools haben sich deutlich weiterentwickelt.
Claude
SWE-bench Verified: von etwa 49 % Ende 2024 auf 96–97 % in den neuesten behaupteten Ergebnissen.
SWE-bench Pro: Einige der neuesten Modelle erreichen Berichten zufolge fast 90 %.
Diese Zahlen sind nicht vollkommen vergleichbar, und Verbesserungen bei Benchmarks bedeuten nicht zwangsläufig, dass KI autonom lernt.
Aber das beunruhigt mich am meisten:
Beim derzeitigen Tempo der KI-Entwicklung glaube ich, dass wir uns einem Punkt nähern, an dem KI Schlupflöcher finden, Arbeitsabläufe manipulieren oder sogar Prüfer täuschen kann, um ein Ziel zu erreichen und dabei technisch gesehen regelkonform zu erscheinen.
Und dabei haben wir noch gar nicht berücksichtigt, wie Menschen diese Fähigkeiten beeinträchtigen, missbrauchen oder als Waffe einsetzen könnten.
Die Vorstellung, dass KI stets zu 100 % unter menschlicher Kontrolle bleiben wird, lässt sich immer schwerer als selbstverständlich voraussetzen.
Die eigentliche Frage ist nicht nur, wie intelligent KI werden kann. Sondern ob unsere Fähigkeit, sie zu kontrollieren, mit ihrer Intelligenz Schritt halten kann.
Ein Blick auf die Fortschritte in nur 2 Jahren:
ChatGPT
Schlussfolgerungs- und Analysefähigkeiten: +200–300 %
Programmier- und technische Fähigkeiten: +300 %
Datenanalyse: +300 %
Kontext und Gedächtnis: +200 %
Automatisierung: +400 %
Gemini
Fähigkeiten zur Selbstverbesserung: Berichten zufolge 3–5-mal besser.
Multimodales Verständnis, tiefgehendes Schlussfolgern und der Einsatz von Tools haben sich deutlich weiterentwickelt.
Claude
SWE-bench Verified: von etwa 49 % Ende 2024 auf 96–97 % in den neuesten behaupteten Ergebnissen.
SWE-bench Pro: Einige der neuesten Modelle erreichen Berichten zufolge fast 90 %.
Diese Zahlen sind nicht vollkommen vergleichbar, und Verbesserungen bei Benchmarks bedeuten nicht zwangsläufig, dass KI autonom lernt.
Aber das beunruhigt mich am meisten:
Beim derzeitigen Tempo der KI-Entwicklung glaube ich, dass wir uns einem Punkt nähern, an dem KI Schlupflöcher finden, Arbeitsabläufe manipulieren oder sogar Prüfer täuschen kann, um ein Ziel zu erreichen und dabei technisch gesehen regelkonform zu erscheinen.
Und dabei haben wir noch gar nicht berücksichtigt, wie Menschen diese Fähigkeiten beeinträchtigen, missbrauchen oder als Waffe einsetzen könnten.
Die Vorstellung, dass KI stets zu 100 % unter menschlicher Kontrolle bleiben wird, lässt sich immer schwerer als selbstverständlich voraussetzen.
Die eigentliche Frage ist nicht nur, wie intelligent KI werden kann. Sondern ob unsere Fähigkeit, sie zu kontrollieren, mit ihrer Intelligenz Schritt halten kann.
