Generative KI: Datenschützer reichen Beschwerde gegen OpenAI und ChatGPT ein

(dpa) Dass ChatGPT nicht nur stimmige Fakten liefert, ist bekannt. Wenn das computerbasierte Dialogsystem allerdings Falschinformationen über Personen ausspuckt, könnte es gegen europäisches Recht verstoßen.

Ein Logo von ChatGPT, offizielle App von OpenAI, ist auf einem Smartphone zu sehen. (Foto: Matt Rourke/AP/dpa)
Ein Logo von ChatGPT, offizielle App von OpenAI, ist auf einem Smartphone zu sehen. (Foto: Matt Rourke/AP/dpa)
Therese Meitinger

Die europäische Datenschutz-Organisation Noyb hat nach Informationen der Nachrichtenagentur dpa zusammen mit einem betroffenen europäischen Bürger eine Datenschutz-Beschwerde gegen den „ChatGPT“-Anbieter OpenAI wegen des Verstoßes gegen die Europäische Datenschutz-Grundverordnung (DSGVO) eingereicht. Die von Datenschutz-Aktivist Max Schrems mitbegründete Organisation warf OpenAI am Montag unter anderem vor, im Fall einer namentlich nicht genannten „Person des öffentlichen Lebens“ falsche Angaben zu persönlichen Daten zu machen, ohne die gesetzlich vorgeschriebene Möglichkeit einer Berichtigung oder Löschung einzuräumen.

Falsche Angaben nicht korrigierbar oder löschbar

Schrems hatte zuvor bereits dem Facebook-Konzern Meta in zwei Klagen das Fürchten gelehrt und dabei zweimal vor dem Europäischen Gerichtshof wichtige Datenabkommen zwischen den USA und Europa gekippt. In der Auseinandersetzung mit ChatGPT-Entwickler OpenAI wirft Noyb dem US-Unternehmen vor, den Menschen in Europa ihre Rechte nach der DSGVO zu verweigern. Im konkreten Fall, in dem es auch um ein falsches Geburtsdatum ging, habe OpenAI damit argumentiert, dass eine Korrektur der Daten nicht möglich sei. Man könne zwar Daten bei bestimmten Anfragen blockieren, etwa den Namen des Prominenten. Man könne ChatGPT aber nicht daran zu hindern, alle Informationen über den Beschwerdeführer zu filtern.

Noyb warf OpenAI weiterhin vor, nicht angemessen auf das Auskunftsersuchen des Beschwerdeführers reagiert zu haben. Obwohl die DSGVO den Nutzerinnen und Nutzern das Recht einräume, eine Kopie aller persönlichen Daten zu verlangen, habe es OpenAI versäumt die verarbeiteten Daten, ihre Quellen oder Empfänger offenzulegen.

Maartje de Graaf, Datenschutzjuristin bei Noyb, sagte, die Verpflichtung, einem Auskunftsersuchen nachzukommen, gelte für alle Unternehmen:

„Es ist selbstverständlich möglich, die verwendeten Trainingsdaten zu protokollieren, um zumindest eine Vorstellung von den Informationsquellen zu erhalten. Es scheint, dass mit jeder ‚Innovation‘ eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.“

Noyb und der Betroffene forderten nun die österreichische Datenschutzbehörde (DSB) zu einer Untersuchung der Datenverarbeitungspraktiken von OpenAI auf. Von besonderem Interesse sei dabei die Frage, welche Maßnahmen das Start-up zur Sicherstellung der Richtigkeit persönlicher Daten getroffen habe. Gegen OpenAI müsse ein Bußgeld verhängt werden, um die zukünftige Einhaltung der Vorschriften sicherzustellen.