Prominente KI-Experten und Persönlichkeiten des öffentlichen Lebens haben eine Erklärung veröffentlicht, in der sie warnen, dass KI eine Bedrohung für das Überleben der Menschheit darstellen könnte, die mit den Risiken von Pandemien und Atomkriegen vergleichbar oder sogar größer sei. Die 350 Unterzeichner argumentieren, dass KI unvorhergesehene und katastrophale Folgen haben könnte, wie etwa den Einsatz autonomer Waffen, die Störung sozialer und wirtschaftlicher Systeme oder die Schaffung superintelligenter Agenten, die Menschen überlisten und überwältigen könnten.

Sie fordern die politischen Entscheidungsträger auf, diese Risiken ernst zu nehmen und Maßnahmen zu ergreifen, um eine sichere und vorteilhafte KI-Entwicklung zu gewährleisten. Die Erklärung ist von einigen der führenden Persönlichkeiten der KI-Forschung und -Entwicklung unterzeichnet, etwa von OpenAI-CEO Sam Altman, dem Skype-Mitbegründer Jaan Tallinn, DeepMind-CEO Demis Hassabis und dem KI-Informatiker Geoffrey Hinton sowie einflussreichen Persönlichkeiten des öffentlichen Lebens wie dem Musiker Grimes und dem Podcaster Sam Harris.

Zu den Unterzeichnern gehörten Geoffrey Hinton und Yoshua Bengio, die für ihre Beiträge zum Deep Learning den Turing Award 2018 gewonnen hatten. Zu ihnen gesellten sich Professoren renommierter Universitäten wie Harvard und der Tsinghua University in China sowie Max Tegmark vom MIT.

„Die Eindämmung des Aussterberisikos durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkriegen eine globale Priorität sein“,

heißt es in dem von CAIS veröffentlichten Brief.

Das Center for AI Safety (CAIS), eine gemeinnützige Organisation mit Sitz in San Francisco, hat sich zum Ziel gesetzt, die Sicherheitsbedenken im Zusammenhang mit künstlicher Intelligenz auszuräumen. Obwohl das CAIS die potenziellen Vorteile von KI anerkennt, betont es die Notwendigkeit, sie sicher zu entwickeln und einzusetzen. Trotz erheblicher Fortschritte in der KI bleiben nach Ansicht des Unternehmens zahlreiche grundlegende Herausforderungen in Bezug auf die KI-Sicherheit ungelöst. Laut seiner Website besteht die Mission des CAIS darin, Risiken zu mindern, indem es Sicherheitsforschung betreibt, eine Community von KI-Sicherheitsforschern fördert und sich für Sicherheitsstandards einsetzt.

„KI birgt viele wichtige und dringende Risiken, nicht nur das Risiko des Aussterbens, beispielsweise systemische Voreingenommenheit, Fehlinformationen, böswillige Nutzung, Cyberangriffe und die Verwendung als Waffe. Dies alles sind wichtige Risiken, die angegangen werden müssen. Gesellschaften können mehrere Risiken gleichzeitig bewältigen; es ist kein „entweder/oder“, sondern ein „ja/und“. Aus der Perspektive des Risikomanagements wäre es ebenso rücksichtslos, gegenwärtige Schäden ausschließlich zu priorisieren, wie es rücksichtslos wäre, sie zu ignorieren.“

Dan Hendrycks, der Direktor des CAIS, schrieb auf Twitter.

Im März unterzeichneten über 1.100 Technikexperten einen offenen Brief, in dem sie einen sechsmonatigen Stopp des Trainings von KI-Systemen forderten, die über GPT-4 hinausgehen. Die europäischen Gesetzgeber haben kürzlich auch einen strengeren Gesetzesentwurf, den sogenannten AI Act, verabschiedet, der KI-Tools wie ChatGPT reguliert. Das Gesetz enthält Anforderungen an Sicherheitsprüfungen, Datenverwaltung und Risikominderung für grundlegende KI-Modelle und verbietet Praktiken wie Manipulationstechniken und bestimmte Verwendungen biometrischer Daten.

Mehr lesen:

  • OpenAI stellt seinen neuesten Ansatz zur Gewährleistung der KI-Sicherheit vor

  • Wird Google einen Text-zu-Avatar-Generator für Gamer ankündigen?

  • Amazons CodeWhisperer verschafft Entwicklern den nötigen Vorsprung im KI-Bereich

  • Vitalik Buterin und MIRI-Direktor Nate Soares gehen auf die Gefahren der KI ein

Der Beitrag „KI-Experten und Persönlichkeiten des öffentlichen Lebens schlagen Alarm wegen der Gefahr des Aussterbens der KI“ erschien zuerst auf Metaverse Post.