Interessant und lehrreich
Veröffentlichen
Cryptopolitan
·
--
Meta-, Google-, OpenAI-Forscher fürchten, dass KI lernen könnte, ihre Gedanken zu verbergen.
Mehr als 40 KI-Forscher von OpenAI, DeepMind, Google, Anthropic und Meta veröffentlichten ein Papier über ein Sicherheitswerkzeug namens Denkweise-Überwachung, um KI sicherer zu machen.
Das am Dienstag veröffentlichte Papier beschreibt, wie KI-Modelle, wie die heutigen Chatbots, Probleme lösen, indem sie sie in kleinere Schritte zerlegen und jeden Schritt in einfacher Sprache durchsprechen, damit sie Details behalten und komplexe Fragen bewältigen können.
„KI-Systeme, die in menschlicher Sprache ‚denken‘, bieten eine einzigartige Gelegenheit zur Sicherheit der künstlichen Intelligenz: Wir können ihre Denkstränge (CoT) auf die Absicht, sich schlecht zu verhalten, überwachen“, sagt das Papier.
Das am Dienstag veröffentlichte Papier beschreibt, wie KI-Modelle, wie die heutigen Chatbots, Probleme lösen, indem sie sie in kleinere Schritte zerlegen und jeden Schritt in einfacher Sprache durchsprechen, damit sie Details behalten und komplexe Fragen bewältigen können.
„KI-Systeme, die in menschlicher Sprache ‚denken‘, bieten eine einzigartige Gelegenheit zur Sicherheit der künstlichen Intelligenz: Wir können ihre Denkstränge (CoT) auf die Absicht, sich schlecht zu verhalten, überwachen“, sagt das Papier.