Zwei interne Dokumente von Anthropic wurden wegen eines Urheberrechtsverfahrens veröffentlicht: das im Juli 2021 verfasste „Concise Research Roadmap“ und „Product visions for early 2025“ vom Juni 2023. Dabei handelt es sich nicht um eine für die Öffentlichkeit bestimmte Roadmap, sondern um die Fassung, die damals nur für Kolleginnen und Kollegen gedacht war und nun dem Gericht als öffentliches Dokument vorgelegt werden musste.
Im Dokument von 2021 wurde das Ziel sehr direkt formuliert: einen universellen KI-Assistenten zu entwickeln, der Fragen beantwortet, Funktionen schreibt, Fehler findet und APIs entwirft – wie ein Kollege aus der Softwareentwicklung. Der Weg dorthin sollte über größere generative Modelle, ein Langzeitgedächtnis und per RL sowie menschlichem Feedback feinabgestimmte Modelle führen. 2023 hatte sich die Produktvision bereits in drei Bereiche aufgeteilt.
Der Unterschied zwischen den drei Bereichen liegt im Grad der Autonomie. Virtuelle Mitarbeitende sollen eigenständig Rollen übernehmen und Aufgaben in der Softwareentwicklung, im Marketing und im Betrieb selbst erledigen. Persönliche Assistenten sollen standardmäßig nur wenig autonom sein und vor wichtigen Handlungen zunächst die Nutzerinnen und Nutzer um Bestätigung bitten. Die Organisationsinfrastruktur wiederum soll Claude Slack-Nachrichten, Dokumente und Besprechungen lesen lassen, damit die gesamte Organisation mit weniger Informationsüberflutung und weniger Fehlanpassung bei den Zielen zu kämpfen hat.
Die Meinungsverschiedenheiten der Verfasser sind aufschlussreicher als die Produktbeschreibungen. Ethan Perez tendierte dazu, zuerst einen Assistenten zu entwickeln, bei dem der Mensch eingebunden bleibt, und erst später zu virtuellen Mitarbeitenden überzugehen. Direkt auf Mitarbeitende zu setzen, sei zu riskant. Jared Kaplan wollte die Komplexität nicht KI-basierter Software minimieren und die Modelle in menschliche Rollen integrieren. Ben Mann hingegen befürchtete, dass die Modelle unzuverlässig seien, und meinte, mit Software-Hacks könne man zunächst weiterkommen.
Auch das Thema Arbeitsplatzverlust wurde diskutiert. Einige befürchteten, der Weg über virtuelle Mitarbeitende könnte Panik auslösen und müsse daher mit einem bedingungslosen Grundeinkommen (BGE) einhergehen. Michael Sellitto und Matt Bell hielten ein BGE nicht für ein Allheilmittel: Arbeit vermittle auch Identität und Würde. Tom Brown ging davon aus, dass Wettbewerber vorrangig virtuelle Mitarbeitende entwickeln würden, weil sich damit am schnellsten wirtschaftlicher Wert schaffen lasse. Diese Erzählung sei jedoch der öffentlichen Akzeptanz nicht zuträglich.
Im Dokument von 2021 wurde das Ziel sehr direkt formuliert: einen universellen KI-Assistenten zu entwickeln, der Fragen beantwortet, Funktionen schreibt, Fehler findet und APIs entwirft – wie ein Kollege aus der Softwareentwicklung. Der Weg dorthin sollte über größere generative Modelle, ein Langzeitgedächtnis und per RL sowie menschlichem Feedback feinabgestimmte Modelle führen. 2023 hatte sich die Produktvision bereits in drei Bereiche aufgeteilt.
Der Unterschied zwischen den drei Bereichen liegt im Grad der Autonomie. Virtuelle Mitarbeitende sollen eigenständig Rollen übernehmen und Aufgaben in der Softwareentwicklung, im Marketing und im Betrieb selbst erledigen. Persönliche Assistenten sollen standardmäßig nur wenig autonom sein und vor wichtigen Handlungen zunächst die Nutzerinnen und Nutzer um Bestätigung bitten. Die Organisationsinfrastruktur wiederum soll Claude Slack-Nachrichten, Dokumente und Besprechungen lesen lassen, damit die gesamte Organisation mit weniger Informationsüberflutung und weniger Fehlanpassung bei den Zielen zu kämpfen hat.
Die Meinungsverschiedenheiten der Verfasser sind aufschlussreicher als die Produktbeschreibungen. Ethan Perez tendierte dazu, zuerst einen Assistenten zu entwickeln, bei dem der Mensch eingebunden bleibt, und erst später zu virtuellen Mitarbeitenden überzugehen. Direkt auf Mitarbeitende zu setzen, sei zu riskant. Jared Kaplan wollte die Komplexität nicht KI-basierter Software minimieren und die Modelle in menschliche Rollen integrieren. Ben Mann hingegen befürchtete, dass die Modelle unzuverlässig seien, und meinte, mit Software-Hacks könne man zunächst weiterkommen.
Auch das Thema Arbeitsplatzverlust wurde diskutiert. Einige befürchteten, der Weg über virtuelle Mitarbeitende könnte Panik auslösen und müsse daher mit einem bedingungslosen Grundeinkommen (BGE) einhergehen. Michael Sellitto und Matt Bell hielten ein BGE nicht für ein Allheilmittel: Arbeit vermittle auch Identität und Würde. Tom Brown ging davon aus, dass Wettbewerber vorrangig virtuelle Mitarbeitende entwickeln würden, weil sich damit am schnellsten wirtschaftlicher Wert schaffen lasse. Diese Erzählung sei jedoch der öffentlichen Akzeptanz nicht zuträglich.