Ich mache mir nicht besonders Sorgen, dass autonome Agenten zu intelligent werden. Ich mache mir eher Sorgen, dass wir uns zu sehr daran gewöhnen, dass sie falsch liegen können.

Genau das ist der Teil des Gesprächs, der meiner Meinung nach zu oft übersprungen wird. Wenn Menschen über KI-gesteuerte Finanzen sprechen, konzentrieren sie sich normalerweise auf Geschwindigkeit, Effizienz und die Aufregung darüber, Software Entscheidungen treffen zu lassen, die früher einem Team von Analysten vorbehalten waren. Aber Finanzwesen ist kein Bereich, in dem Fehler lange klein bleiben. Ein schlechtes Modell kann man reparieren. Ein schlechtes Modell, das weiter ausführen darf, kann zu einem Muster des Schadens werden.