Intelligenter Partner und sein „Abgas“｜WAIC-Meinung

Autor / IT Times He Zhenyuan
Bearbeitung / Hao Junhui Sun Yan
Unternehmen, die KI einsetzen, müssen in der Regel zweimal zahlen.
Das erste Mal sind es sichtbare Kosten, einschließlich Abonnement, Rechenleistung und Systemaufbau. Das zweite Mal lässt sich nur schwer in den Finanzberichten aufführen, kann aber noch teurer sein. Damit die KI ein Unternehmen wirklich versteht, müssen Mitarbeitende sie kontinuierlich mit Geschäftsregeln, Kundenpräferenzen, Bewertungsmaßstäben, Fehlschlagerfahrungen und Korrekturmethoden versorgen – scheinbar unverzichtbar, aber mit Risiken behaftet.
Der CEO von Microsoft, Satya Nadella, nennt dieses Phänomen „Reverse Information Paradox“ („umgekehrtes Informationsparadox“), um es von dem „Informationsparadox“ des Ökonomen Kenneth Arrow zu unterscheiden. Arrow stellt fest: „Der Käufer muss die Informationen zuerst sehen, um beurteilen zu können, ob sie es wert sind, gekauft zu werden; sobald er sie aber gesehen hat, verfügt er bereits über die Informationen.“
Im Zeitalter der KI hat sich die Richtung der Risiken verändert: Selbst wenn ein Unternehmen bereits intelligente Dienste gekauft hat, muss es weiterhin sein eigenes Wissen bereitstellen, damit der Dienst wirklich nützlich wird.
Wenn das Modell falsche Antworten liefert, sagt ein Mitarbeiter ihm, wo genau es falsch liegt; wenn der Agent die Kunden nicht versteht, ergänzt der Vertrieb die Hintergrundinformationen, die er sich über viele Jahre im Umgang mit Kunden angeeignet hat; wenn der vom System generierte Vertrag nicht zulässig ist, überarbeitet das Rechtswesen ihn Satz für Satz. Jede Aufforderung, jede Korrektur und jede Bewertung kann neue, wertvolle Spuren hinterlassen. Nadella nennt diese Dinge die „Abgase“ der künstlichen Intelligenz.
Diese Metapher ist ziemlich treffend. Autogasabgase bedeuten oft Abfall, intelligente Abgase hingegen könnten wertvolles Wissen des Unternehmens enthalten. Abgase aus Autos müssen reguliert werden – bei intelligenten Abgasen ist es ähnlich. 
Das, was eine Bank wirklich nicht einfach replizieren kann, sind nicht die nicht öffentlichen Kreditbedingungen und -prozesse, sondern der „sechste Sinn“, der bei einem erfahrenen Kundenbetreuer Alarm schlägt, wenn er eine bestimmte Zahlenkombination sieht. Der Vorteil eines Einzelhandelsunternehmens liegt außerdem nicht nur in der Verkaufsdatenbank; er kann sich darin verbergen, wie ein Filialleiter entscheidet, ob ein Artikel im Preis gesenkt, umsortiert oder doch noch eine Woche lang abgewartet werden soll – oft als Intuition. Wenn man derselben Kundenbeschwerde gegenübersteht, weiß ein erfahrener Kundendienst-Leiter, wann sofort eine Erstattung nötig ist und wie genau man den Kunden ansprechen muss, damit er vor allem ein ehrliches, nachvollziehbares Erklärangebot schätzt.
Diese Erfahrungen werden selten vollständig in die Regeln und Vorschriften geschrieben. Sie sind in der konkreten Arbeit verstreut, verborgen in der Einschätzung der Mitarbeiter für komplexe Situationen – und werden erst dann nach und nach sichtbar, wenn Menschen die KI korrigieren.
Damit kommen die nächsten Probleme. Die Mitarbeiter glauben, sie erledigen lediglich eine Aufgabe, objektiv trainieren sie jedoch auch das System. Das Unternehmen meint, es müsse nur intelligente Dienste kaufen, in Wirklichkeit „füttert“ es kontinuierlich neues Organisationswissen. Wenn diese Prompts, Korrekturen, Bewertungen und Arbeitsverläufe keine klaren Grenzen haben, kann das Unternehmen nur schwer einschätzen, wie lange sie gespeichert werden, zu welchem Zweck sie genutzt werden und ob sie womöglich zur Verbesserung der eigenen Dienste für andere Kunden eingesetzt werden.
Das bedeutet nicht, dass Unternehmen der KI fernstehen sollten. Es heißt vielmehr, dass man Unternehmen klar sagen muss, dass sie vorsichtig die intelligenten Services auswählen sollten, denen man vertrauen kann. Gleichzeitig bedeutet es auch: Dienstleister tragen die Verantwortung, den Kunden dabei zu helfen, ihre Wissensgrenzen zu wahren. Unternehmen müssen zwar mutig KI einsetzen, aber Dienstleister müssen zuerst dafür sorgen, dass diese Nutzung vertrauenswürdig ist. 
Wenn es so etwas wie ein TA-Unternehmen gäbe, würde es von Anfang an intelligentes Abgas als „zweites Kapital“ des Unternehmens betrachten und bereits in der ursprünglichen Phase des Agent-Designs strenge Einschränkungen und Grenzen festlegen. Welche Daten ein Agent abrufen kann, welche Tools er aufrufen darf, welche Aktionen ausgeführt werden dürfen und welche Punkte zwingend von Menschen bestätigt werden müssen – all das muss strikt auf den genehmigten Rahmen begrenzt sein. Die geschäftlichen Informationen des Kunden, Interaktionsspuren und die jeweiligen exklusiven Erfahrungen werden in streng voneinander abgeschotteten Umgebungen gespeichert; ohne ausdrückliche Genehmigung gelangen sie weder in Trainings- und Lernprozesse, die anderen Kunden offenstehen. Damit ist ein TA-Unternehmen vertrauenswürdiger und zuverlässiger als Unternehmen ohne dieses unterliegende Mechanismus-Setup. Denn das Design eines TA-Unternehmens verkörpert ein wichtiges Prinzip: Intelligente Serviceanbieter können Modelle, Plattformen und grundlegende Fähigkeiten bereitstellen – aber das exklusive Gedächtnis, die Bewertungsstandards, die Arbeitsverläufe und die Lernergebnisse, die ein Unternehmen bei der Nutzung aufbaut, bleiben weiterhin in der Hand des Unternehmens. 
Wirklich verlässliche intelligente Dienste werden nicht verlangen, dass Unternehmen zwischen „intelligente Fähigkeit erhalten“ und „Wissen behalten“ eine Entscheidung treffen. Damit erhält das Konzept der „intelligenten Abgase“ noch eine andere Möglichkeit: Der Dienstleister sammelt die Abgase des Kunden nicht ein und entsorgt sie nicht in die öffentliche Umgebung. Stattdessen hilft er dem Unternehmen dabei, ein eigenes „Abgas-Recyclingsystem“ aufzubauen. Nach einer qualitativ hochwertigen Aufbereitung gelangen diese intelligenten Abgase in die eigene Wissensdatenbank des Unternehmens, in sein Bewertungssystem und in einen Lern-Kreislauf (Closed Loop). So wachsen sie, werden tief verankert und werden zu einem Vermögensbestand und Fähigkeiten, die das Unternehmen langfristig nutzen kann.
Die Rolle, die ein TA-Unternehmen hier übernimmt, geht über den Rahmen eines traditionellen Softwareanbieters hinaus. Es stellt nicht nur intelligente Werkzeuge bereit, sondern auch eine vertrauenswürdige Laufzeitumgebung, die dem Unternehmen hilft, die Identität, Berechtigungen, das Gedächtnis und die Verhaltensgrenzen seiner Agenten zu verwalten. Je tiefer Kunden es nutzen, desto klarer sollte die Kontrolle des Unternehmens über sein eigenes Wissen und seine Lernergebnisse sein. 
Auch das Rechtssystem muss mit dieser Veränderung Schritt halten. Das bestehende Recht bietet bereits aus unterschiedlichen Perspektiven Schutz – etwa bei personenbezogenen Daten, Datensicherheit, Geschäftsgeheimnissen, geistigem Eigentum und Vertragspflichten. Doch was das fortlaufend bei Mensch-Maschine-Interaktionen entstehende Gedächtnis, Bewertungsdaten, Arbeitsverläufe und Anpassungsleistungen betrifft, sind die Grenzen der Rechte noch nicht ausreichend klar. Das von KI ausgelöste Problem geht sogar noch weiter. Denn wenn man nur eine einzelne Anweisung (Prompt) betrachtet, lässt sich nicht viel kommerzieller Wert erkennen; aber wenn man zehntausende Prompts, Korrekturaufzeichnungen und Bewertungsergebnisse zusammenlegt, lässt sich unter Umständen sehr klar rekonstruieren, wie ein Unternehmen Kunden bedient, wie es Risiken einschätzt, wie es Wert definiert und wie es Entscheidungen trifft. 
Daher müssen die Rechte eines Unternehmens im Zuge der Digitalisierung/Intelligenzalisierung von Datenrechten auf Lernrechte ausgedehnt werden. Unternehmen sollten das Recht haben zu erfahren, aus welchen Interaktionen ein System lernt, sie sollten das Recht haben abzulehnen, dass ihre Geschäftsverläufe für externes Training genutzt werden, und sie sollten außerdem das Recht haben, die von ihrem Geschäft erzeugten Erinnerungen, Bewertungsdaten und Anpassungsleistungen zu exportieren, zu speichern, zu migrieren oder zu löschen. 
Ein Dienstleistungsvertrag sollte diese Fragen vollständig und klar erläutern. Was stellt das Unternehmen bereit, in welchem Umfang darf der Dienstleister die Leistungen nutzen, welche Lernhandlungen erfordern eine separate Genehmigung, welche Daten nach dem Ende der Zusammenarbeit gelöscht werden müssen und welche Ergebnisse der Kunde mitnehmen kann – all das darf nicht in schwammigen Klauseln verborgen werden.
Das Beispiel des TA-Unternehmens steht für ein vertrauenswürdiges Servicemodell: Wenn sich die Wirksamkeit des Modells beweist, lassen sich die Interessen des Unternehmens und die intelligenten Dienste miteinander in Einklang bringen. Je klarer die Kundenrechte sind, desto leichter kann der Dienstleister langfristiges Vertrauen gewinnen; je strenger die Grenzen sind, desto mutiger kann das Unternehmen KI in wirklich wichtige Geschäftsprozesse einführen. Der Schutz von Kundenwissen schwächt nicht den Wert intelligenter Dienste – er verwandelt den Kauf einmaliger Tools in eine stabile Partnerschaft.
Die in Shanghai stattfindende World Artificial Intelligence Conference (WAIC2026) steht unter dem Motto „Intelligente Partner, gemeinsam die Zukunft gestalten“. „Partner“ und „gemeinsam gestalten“ – das ist wahrlich ein glücklicher Griff. Mit „Partner“ schwingt deutlich etwas Personifiziertes mit, „gemeinsam gestalten“ impliziert „geteilt“. Wenn diese wie nach einem Regenguss wie aus dem Boden schießenden intelligenten Agenten davon wüssten, würden sie vermutlich gerührt weinen und noch entschlossener an sich arbeiten!
„Partner“ bedeutet Zusammenarbeit, aber auch bedeutet es gleichrangige Rechte, Pflichten und Verantwortung. Es heißt, dass die digitale Identität der intelligenten Agenten anerkannt wird – selbst wenn diese Anerkennung noch lokal, eingeschränkt und noch nicht gesetzlich verankert ist. Die intelligenten Partner bzw. digitalen Mitarbeiter, die dem Dienstleister zugeordnet sind, müssen in den vom Unternehmen erteilten Genehmigungen arbeiten und die exklusiven Erfahrungen, die sie in den Unternehmensszenarien aufbauen, im Unternehmen lassen.
Je mehr intelligente Agenten, desto näher liegen Verwaltungsprobleme an Organisationsprobleme. Wenn ein Mitarbeiter in ein Unternehmen eintritt, braucht er ein Konto, eine Position, Berechtigungen, Schulungen und Bewertungen – dann braucht auch ein Agent, der Kundendaten lesen, E-Mails versenden, Code ändern oder Bestellungen bearbeiten kann, eine klare Identifikation und eine saubere Grenze der Berechtigungen. Wen dieser Agent handelt, wer ihn anweist und wer ihn reguliert, wie weit er gehen darf, wer ihn bei Fehlern stoppt, ob und wie der gesamte Prozess zurückgesetzt und nachverfolgt werden kann – all das sollte Bestandteil eines intelligenten Governance-Systems im Unternehmen sein.
Der Wettbewerb zwischen Unternehmen in der Zukunft wird nicht nur darin bestehen, wer die stärksten Modelle anbinden kann. Es wird auch darauf ankommen, wer seine intelligenten Abgase effektiv schützen kann, wer die Erfahrungen, die in echten Szenarien und Prozessen verstreut sind, bewahren kann und wer dafür sorgt, dass jede Mensch-KI-Zusammenarbeit die langfristige Leistungsfähigkeit der Organisation stärkt.
Das Governance von Unternehmens-KI geht keinesfalls nur darum, „die Verbreitung sensibler Dokumente zu verbieten“. Es muss auch den Aktionsradius der intelligenten Agenten, Lernmethoden, Verantwortungsbeziehungen und die Zuordnung von Wissen verwalten. TA definiert bereits im Agent-Design von Anfang an klare Einschränkungen und Grenzen – genau damit sichergestellt wird, dass die Agenten auch nach ihrer Eingliederung in Geschäftsprozesse in einem Zustand bleiben, der nachvollziehbar, kontrollierbar und rückverfolgbar ist.
Wenn die intelligenten Partner nach und nach auf die Bühne treten, haben sie ausnahmslos ihren Namen bekommen. Manche sind etwas unscharf, zum Beispiel „Finanzroboter“ oder „intelligenter Vertriebsassistent“, andere haben längst solche ansprechend-gemeinsamen echten Namen wie „Chen Jianan“ oder „Ma Rong“. Einzelne haben Namen, aber die Gruppe noch nicht. Wenn ich auf meinen Beitrag zurückblicke, habe ich die intelligenten Partner manchmal mit „es“ und manchmal mit „sie“ bezeichnet. Ganz ehrlich: Mir fällt es schwer, „das Tier-„es““ auf ein intelligentes Objekt anzuwenden!
Vor einhundertvierzig bis hundertfünfzig Jahren ordnete Guo Zansheng das Schriftzeichen „Yi“ dem „She“ zu, als Pronomen für Frauen im dritten Fall („Er ist im Garten, aber sie ist in der Bibliothek“), und die Formulierung ist voller Esprit. Und Liu Bannu nach vierzig Jahren setzte das heute noch fort, indem er „sie“ als Anrede für das Vaterland verwendete: Die subtil-elegante Traditionslinie des (Lehr mich, wie ich nicht an sie denken muss) reicht bis heute. Für Unwissende wirkt es, als sei es selbstverständlich und „von Natur aus so“.
In diesem streitbaren Essay über das Problem des Zeichens („sie“) bringt Liu Bannu zwei Punkte als Grundlage seiner Argumentation vor: „Erstens, in den chinesischen Schriftzeichen: Brauchen wir ein drittes feminine Pronomen? Zweitens, falls ja – können wir dann das Zeichen ‚sie‘ verwenden?“ Und erlauben Sie mir, es zu imitieren und ebenfalls zwei Punkte zu formulieren: „Erstens: Wenn intelligente Partner einen Namen haben, brauchen wir dann ein einheitliches Symbol für die dritte Person, das sich gut schreiben lässt? Zweitens: Wenn ja, dann entlehnen wir für die intelligenten Partner das breite und bereits für die nicht geschlechtsspezifische Anrede verwendete ‚TA‘ und nennen sie so!“
Layout / Jiaying Ji
Bild / IT-Zeitschrift WAIC
Quelle / Account des Magazins (IT-Zeitschrift) vittimes