Mehr als 2.600 IT-Experten und Forscher haben einen offenen Brief unterzeichnet, in dem sie einen vorübergehenden Stopp der weiteren KI-Entwicklung fordern und dabei auf „große Gefahren für die Gesellschaft und die Menschheit“ verweisen. Elon Musk, CEO von Tesla, Steve Wozniak, Mitbegründer von Apple, und zahlreiche KI-CEOs, CTOs und Akademiker gehörten zu den Unterzeichnern des Briefes, der am 22. März von der US-amerikanischen Denkfabrik Future of Life Institute (FOLI) veröffentlicht wurde.

Das Institut forderte alle KI-Unternehmen dazu auf, das Training von KI-Systemen, die leistungsstärker als GPT-4 sind, für mindestens sechs Monate „sofort einzustellen“, und verwies dabei unter anderem auf die Befürchtung, dass „die Konkurrenzfähigkeit menschlicher Intelligenz eine ernsthafte Gefahr für die Gesellschaft und die Menschheit darstellen kann“.

„Fortgeschrittene künstliche Intelligenz (KI) könnte eine grundlegende Veränderung in der Geschichte des Lebens auf der Erde bedeuten und sollte mit der entsprechenden Sorgfalt und den entsprechenden Ressourcen geplant und gehandhabt werden. Leider findet dieser Grad an Planung und Verwaltung nicht statt“, stellte das Institut fest.

GPT-4 ist die neueste Generation des KI-gestützten Chatbots von OpenAI, der am 14. März veröffentlicht wurde. Bis heute hat er einige der schwierigsten Highschool- und Jura-Tests in den USA im 90. Perzentil bestanden. Er soll zehnmal fortschrittlicher sein als die ursprüngliche ChatGPT-Version. Die KI-Industrie befindet sich laut FOLI in einem „außer Kontrolle geratenen Wettlauf“ um die Produktion immer leistungsfähigerer KI, die „niemand – nicht einmal ihre Erfinder – verstehen, vorhersehen oder zuverlässig kontrollieren kann“.

Zu den größten Befürchtungen gehörte, dass Roboter möglicherweise Informationskanäle mit „Propaganda und Fehlinformationen“ überfluten könnten und dass Maschinen alle Beschäftigungsmöglichkeiten „wegautomatisieren“ würden. FOLI ging noch einen Schritt weiter und behauptete, dass die unternehmerischen Bemühungen dieser KI-Unternehmen zu einer existenziellen Bedrohung werden könnten: „Sollen wir außerirdische Geister konstruieren, die uns eines Tages zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen könnten?“

„Solche Entscheidungen sollten nicht an nicht gewählte Technologieführer ausgelagert werden“, heißt es in dem Brief weiter. Das Institut stimmte auch der jüngsten Erklärung des OpenAI-Gründers Sam Altman zu, dass vor der Schulung künftiger KI-Systeme eine unabhängige Evaluierung durchgeführt werden sollte. In einem am 24. Februar veröffentlichten Blog-Artikel betonte Altman, wie wichtig es sei, sich auf Roboter mit künstlicher allgemeiner Intelligenz (AGI) und künstlicher Superintelligenz (ASI) vorzubereiten.

Dennoch haben sich nicht alle KI-Experten beeilt, die Petition zu unterzeichnen. Ben Goertzel, CEO von SingularityNET, sagte in einer Twitter-Antwort vom 29. März an Gary Marcus, den Autor von Rebooting.AI, dass Sprachlernmodelle (LLMs) nicht zu AGIs werden, da es bisher kaum Fortschritte gegeben habe. Stattdessen schlug er vor, die Forschung und Entwicklung für Dinge wie Biowaffen und Atomwaffen zu verlangsamen:

Neben Sprachlernmodellen wie ChatGPT wurde KI-gestützte Deep-Fake-Technologie verwendet, um überzeugende Bild-, Audio- und Videobetrügereien sowie KI-generierte Kunstwerke zu erstellen. Dabei wurden Bedenken geäußert, ob dies in bestimmten Situationen gegen Urheberrechte verstoßen könnte. Mike Novogratz, CEO von Galaxy Digital, sagte Investoren kürzlich, er sei überrascht über die regulatorische Kontrolle, die Kryptowährungen zuteil wird, während der künstlichen Intelligenz wenig Aufmerksamkeit geschenkt wird.

„Wenn ich an KI denke, wundert es mich, dass wir so viel über Krypto-Regulierung und nichts über KI-Regulierung reden; ich meine, ich denke, die Regierung hat es absolut falsch verstanden“, sagte er während einer Aktionärskonferenz am 28. März. FOLI plädiert dafür, dass Regierungen mit einem Moratorium eingreifen sollten, wenn ein KI-Entwicklungsstopp nicht sofort umgesetzt wird. „Wenn ein solcher Stopp nicht umgehend durchgesetzt werden kann, sollten Regierungen eingreifen und ein Moratorium verhängen“, schrieb es.

 

Der Beitrag „Elon Musk und Tech-Führungskräfte fordern Pause bei der KI-Entwicklung“ erschien zuerst auf BitcoinWorld.