Polens explosive Untersuchung von ChatGPT nach einer GDPR-Beschwerde über die Privatsphäre - Schockierende Enthüllungen!

OpenAI wird auf die Einhaltung der europäischen Datenschutzgesetze durch seinen KI-Chatbot untersucht

OpenAI sieht sich einer weiteren Untersuchung gegenüber, um festzustellen, ob ihr generativer KI-Chatbot ChatGPT mit den europäischen Datenschutzgesetzen vereinbar ist.

Im vergangenen Monat wurde in Polen eine Beschwerde gegen ChatGPT und OpenAI eingereicht, in der das Unternehmen mehrerer Verstöße gegen die Allgemeine Datenschutzverordnung (DSGVO) der Europäischen Union beschuldigt wurde. Gestern traf die polnische Behörde die ungewöhnliche Entscheidung, eine öffentliche Ankündigung zu machen, um zu bestätigen, dass sie eine Untersuchung eingeleitet hat.

Die UODO-Umfrage zu ChatGPT

"Das Amt für den Schutz personenbezogener Daten [UODO] untersucht eine Beschwerde über ChatGPT, in der der Beschwerdeführer den Entwickler des Tools, OpenAI, unter anderem beschuldigt, Daten auf illegale und unzuverlässige Weise zu verarbeiten, und die Regeln, nach denen dies geschieht, sind undurchsichtig", schrieb das UODO in einer Pressemitteilung.

Die Behörde gibt an, dass sie eine "schwierige" Untersuchung erwartet, da OpenAI seinen Sitz außerhalb der EU hat und die Technologie des generativen KI-Chatbots, dessen Konformität sie prüfen wird, neu ist.

Der Vorsitzende der UODO, Jan Nowak, erklärte: "Der Fall betrifft die Verletzung zahlreicher Bestimmungen zum Schutz personenbezogener Daten, daher werden wir OpenAI auffordern, eine Reihe von Fragen zu beantworten, um ein gründliches Verwaltungsverfahren durchführen zu können".

Die Beschwerde von Lukasz Olejnik

Die Beschwerde, die vom Sicherheits- und Datenschutzforscher Lukasz Olejnik eingereicht wurde, wirft OpenAI mehrere Verstöße gegen die paneuropäische Verordnung vor, insbesondere in Bezug auf die Rechtsgrundlage, Transparenz, Fairness, Datenzugriffsrechte und den Schutz der Privatsphäre.

Die Beschwerde konzentriert sich auf die Antwort von OpenAI auf eine Anfrage Olejniks zur Korrektur falscher persönlicher Informationen in einer von ChatGPT über ihn erstellten Biografie, auf die OpenAI ihm jedoch mitteilte, dass sie nicht antworten könne. Er beschuldigt den KI-Riesen außerdem, nicht korrekt auf seine Anfrage nach Datenzugang geantwortet zu haben und ausweichende, irreführende und intern widersprüchliche Antworten gegeben zu haben, als er versuchte, seine gesetzlichen Rechte auf Datenzugang auszuüben.

Die regulatorischen Probleme von OpenAI in der EU

Das Scraping, das OpenAI im öffentlichen Internet durchführt, um Trainingsdaten ohne das Wissen oder die Zustimmung der Personen zu erhalten, ist einer der Hauptfaktoren, die ChatGPT in der EU regulatorische Schwierigkeiten eingebracht haben. Seine offensichtliche Unfähigkeit, genau zu erklären, wie es mit persönlichen Daten umgeht, oder Fehler zu korrigieren, wenn seine KI "halluziniert" und falsche Informationen über namentlich genannte Personen produziert, sind andere.

Der Block regelt die Art und Weise, wie personenbezogene Daten verarbeitet werden, und verlangt, dass ein Prozessor eine Rechtsgrundlage für das Sammeln und Verwenden von Informationen über Personen hat. Die Prozessoren müssen außerdem die Anforderungen an Transparenz und Fairness erfüllen. Darüber hinaus wird Personen aus der EU eine Reihe von Datenzugriffsrechten gewährt, d. h. Einzelpersonen aus der EU haben unter anderem das Recht, die Berichtigung unrichtiger Daten über sie zu verlangen.

Olejniks Beschwerde testet die Einhaltung der DSGVO durch die KI von ChatGPT in mehreren dieser Aspekte. Daher könnte jede Durchsetzungsmaßnahme erhebliche Auswirkungen auf die Entwicklung der generativen KI haben.

Die Reaktion der UODO und die laufenden Untersuchungen

Als Reaktion auf die Bestätigung der UODO, dass sie die Beschwerde über ChatGPT untersucht, sagte Olejnik: "Der Fokus auf Datenschutz durch Gestaltung/Datenschutz durch Gestaltung ist absolut entscheidend und ich hätte erwartet, dass dies der Hauptaspekt sein würde. Daher scheint dies vernünftig zu sein. Dies würde die Aspekte der Gestaltung und des Einsatzes von LLM-Systemen betreffen".

Zuvor hatte er die Erfahrung, nach Antworten von OpenAI über die Verarbeitung seiner Informationen zu suchen, als das Gefühl von Josef K. in Kafkas Buch "Der Prozess" beschrieben. "Wenn dies der Josef-K.-Moment für KI/LLM sein kann, wird es hoffentlich die Prozesse, die dahinter stecken, erhellen", fügte er hinzu.

Die relative Geschwindigkeit, mit der die polnische Behörde auf die Beschwerde reagierte, sowie ihre Transparenz in Bezug auf die Untersuchung scheinen bemerkenswert zu sein.

Dies kommt zu den wachsenden regulatorischen Problemen hinzu, mit denen OpenAI in der Europäischen Union konfrontiert ist. Die polnische Untersuchung folgt auf eine Intervention der italienischen Datenschutzbehörde Anfang dieses Jahres, die zu einer vorübergehenden Aussetzung von ChatGPT in dem Land führte. Die Prüfung durch den Garante wird ebenfalls fortgesetzt, wobei auch Bedenken hinsichtlich der Einhaltung der DSGVO, wie die Rechtsgrundlage und die Rechte auf Datenzugriff, untersucht werden.

Darüber hinaus hat die spanische Datenschutzbehörde eine Untersuchung eingeleitet. Eine vom Europäischen Datenschutzausschuss eingesetzte Arbeitsgruppe untersucht außerdem, wie die Datenschutzbehörden auf die KI-Chatbot-Technologie reagieren sollten, um einen Konsens unter den Datenschutzbehörden des Blocks über die Regulierung dieser innovativen Technologie zu erreichen.

Die Arbeitsgruppe ersetzt nicht die von einzelnen Behörden durchgeführten Untersuchungen. In Zukunft könnte sie jedoch zu einer gewissen Harmonisierung der Art und Weise führen, wie die Datenschutzbehörden an die Regulierung der fortgeschrittenen KI herangehen. Abgesehen davon ist es auch möglich, dass es zu Abweichungen kommt, wenn die Datenschutzbehörden starke und unterschiedliche Meinungen haben. Es bleibt abzuwarten, welche weiteren Zwangsmaßnahmen die Blockwartbehörden gegen Werkzeuge wie ChatGPT ergreifen könnten (oder auch, wie schnell sie handeln könnten).

In der Pressemitteilung des UODO erklärt dessen Vorsitzender, dass die Behörde die Untersuchung von ChatGPT "sehr ernst" nimmt. Er stellt außerdem fest, dass die Behauptungen in der Beschwerde nicht die ersten Zweifel an der Einhaltung der europäischen Datenschutz- und Privatsphärevorschriften durch ChatGPT sind.

Maciej Gawronski von der Anwaltskanzlei GP Partners, der Olejnik bei der Beschwerde vertritt, sagte: "Die UODO wird immer vokaler, wenn es um Privatsphäre, Datenschutz, Technologie und Menschenrechte geht. So denke ich, dass unsere Beschwerde eine Gelegenheit bietet, den digitalen und sozialen Fortschritt mit Individualität und Menschenrechten in Einklang zu bringen.

"Beachten Sie, dass Polen ein sehr fortschrittliches Land im Bereich der Informationstechnologie ist. Ich erwarte, dass UODO bei seinem Vorgehen und seinen Verfahren einen sehr vernünftigen Ansatz verfolgt. Natürlich nur, solange OpenAI offen für Diskussionen bleibt".

Auf die Frage, ob eine schnelle Entscheidung über die Beschwerde möglich sei, fügte Gawronski hinzu: "Die Behörde beobachtet den technologischen Fortschritt sehr genau. Ich nehme derzeit an der UODO-Konferenz über neue Technologien teil. Die UODO wurde bereits von verschiedenen Akteuren zum Thema KI um Rat gefragt. Ich rechne jedoch nicht mit einer schnellen Entscheidung. Es liegt auch nicht in meiner Absicht, die Verfahren vorzeitig abzuschließen. Ich würde lieber eine ehrliche und fundierte Diskussion mit OpenAI über das Was, Wann, Wie und Wieviel in Bezug auf die Einhaltung der DSGVO durch ChatGPT führen und insbesondere darüber, wie die Rechte der betroffenen Personen erfüllt werden können."

OpenAI wurde um eine Stellungnahme zur UODO-Umfrage gebeten, schickte jedoch keine Antwort.

Das KI-Unternehmen bleibt angesichts der immer komplexer werdenden Regulierungslandschaft in der EU nicht untätig. Es hat kürzlich die Eröffnung eines Büros in Dublin, Irland, angekündigt, wahrscheinlich mit dem Ziel, seine regulatorische Situation im Bereich des Datenschutzes zu vereinfachen, wenn es Beschwerden im Zusammenhang mit der DSGVO über Irland weiterleiten kann.

Bisher gilt das US-Unternehmen jedoch in keinem EU-Mitgliedstaat (einschließlich Irland) als "hauptsächlich niedergelassen", da Entscheidungen, die sich auf lokale Nutzer auswirken, weiterhin in der US-Zentrale in Kalifornien getroffen werden. Bisher ist das Büro in Dublin nur ein kleiner Satellit. Das bedeutet, dass die Datenschutzbehörden des Blocks weiterhin dafür zuständig sind, Bedenken bezüglich ChatGPT zu untersuchen, die in ihrem Hoheitsgebiet auftreten. So könnten weitere Untersuchungen folgen.

Auch Beschwerden, die vor einer künftigen Änderung des Status von OpenAI als Hauptstandort eingereicht wurden, könnten überall in der EU eingereicht werden.