Die Social-Media-Plattform Snapchat hat von der britischen Datenschutzbehörde eine Warnung wegen ihres neuen Chatbots mit künstlicher Intelligenz (KI) namens „My AI“ erhalten, heißt es in einem Update der Aufsichtsbehörde.
Am 6. Oktober verschickte das britische Information Commissioner’s Office eine vorläufige Mitteilung an Snap Inc. und Snap Group Limited, die Muttergesellschaften von Snapchat, in der es um ein mögliches Versäumnis ging, „die Datenschutzrisiken“ des Chatbots „angemessen zu bewerten“.
Wir haben Snap, Inc. und Snap Group Limited eine vorläufige Vollstreckungsanordnung wegen eines möglichen Versäumnisses bei der ordnungsgemäßen Bewertung der Datenschutzrisiken ihres generativen KI-Chatbots „My AI“ zugestellt. Weitere Informationen zum Fall: https://t.co/MAuHAH0h8B pic.twitter.com/BawISttPJN
— ICO – Information Commissioner’s Office (@ICOnews) 6. Oktober 2023
Die Mitteilung basiert auf einer vorläufigen Untersuchung des Unternehmens durch die Aufsichtsbehörde. Diese kam zu dem Schluss, dass die Risiken für mehrere Millionen „My AI“-Nutzer, darunter Kinder im Alter von 13 bis 17 Jahren, vor der Markteinführung nicht ausreichend erkannt wurden.
John Edwards, der britische Datenschutzbeauftragte, kommentierte die Mitteilung wie folgt:
„Wir haben deutlich gemacht, dass Organisationen neben den Vorteilen auch die mit KI verbundenen Risiken berücksichtigen müssen. Die heutige vorläufige Durchsetzungsmitteilung zeigt, dass wir Maßnahmen ergreifen werden, um die Datenschutzrechte britischer Verbraucher zu schützen.“
Laut der Mitteilung könnte Snap im Falle einer endgültigen Durchsetzungsanordnung dazu verpflichtet sein, die Datenverarbeitung in Bezug auf „My AI“ einzustellen. In diesem Fall könnte Snap den Dienst ohne eine „angemessene“ Risikobewertung nicht mehr an in Großbritannien ansässige Nutzer anbieten.
Aus dem derzeitigen Stand der Untersuchungen könne man derzeit noch keine Schlussfolgerungen ziehen, erklärte das Büro des Kommissars.
Verwandt: Friend.tech bietet Lösungen zur Login-Entfernung nach SIM-Swap-Berichten
Der KI-Chatbot von Snapchat wurde im Februar 2023 für Benutzer von Snapchat+ in Großbritannien eingeführt, eine breitere Verfügbarkeit ist ab April 2023 vorgesehen.
„My AI“ basiert auf der GPT-4-Technologie von OpenAI und ist laut der Datenaufsichtsbehörde das „erste Beispiel für generative KI, die in eine große Messaging-Plattform im Vereinigten Königreich eingebettet ist“.
Im Laufe des Jahres haben die wichtigsten Social-Media-Plattformen KI-Funktionen in ihre Abläufe integriert. Am 4. Oktober kündigte die Microsoft-eigene, auf Unternehmen ausgerichtete Social-Media-Plattform LinkedIn zusätzliche KI-Tools für Personalvermittler sowie einen KI-Assistenten in ihrem Lernzentrum an.
Auch die BigTech-Giganten Meta, die Muttergesellschaft von Facebook und Instagram, und Google haben angekündigt, dass sie jeweils einen eigenen KI-Chatbot in ihre Serviceangebote integrieren.
Magazin: „KI hat die Branche ruiniert“: EasyTranslate-Chef über die Anpassung an den Wandel