Die Künstliche Intelligenz (KI) ChatGPT ist derzeit in aller Munde. Haben Sie das Tool schon ausprobiert oder setzen Ihre Mitarbeitenden es vielleicht sogar bereits in ihrer täglichen Arbeit ein? Nutzen und mögliche Risiken von ChatGPT werden seit seiner Veröffentlichung im November 2022 branchenübergreifend heiß diskutiert. Doch neben den Fragen, ob KI zukünftig menschliche Arbeitskraft ersetzt und wie verlässlich die Informationen sind, gibt es einen weiteren zentralen Aspekt, den wir in diesem Artikel näher beleuchten möchten. Wie sicher ist die Nutzung von ChatGPT aus Sicht des Datenschutzes?

Datenpannen und Verarbeitung von personenbezogenen Daten

In den vergangenen Monaten wurde über Datenpannen berichtet, die OpenAI, der Hersteller von ChatGPT auch bestätigte. So wurden zum Beispiel E-Mail-Adressen, Vor- und Nachnamen, Zahlungsadressen sowie die letzten vier Kreditkartenziffern samt Ablaufdatum während eines Ausfalls von ChatGPT unautorisiert veröffentlicht. Aber auch Betriebsinformationen sind allem Anschein nach von Datenpannen betroffen, wie Samsung beklagt. Das Unternehmen bringt ein Datenleck, bei dem sensible Informationen über Messdaten öffentlich wurden, mit der Einführung von ChatGPT im Unternehmen in Zusammenhang.

Derzeit ist außerdem nicht geklärt, inwieweit ChatGPT personenbezogene Daten als solche identifiziert und verarbeitet. Und falls personenbezogene Daten verarbeitet werden, ist unklar, ob dies in einem nichteuropäischen Drittland erfolgt, da OpenAI keine Angaben über die Serverstandorte macht – eine weitere Herausforderung für eine DSGVO-konforme Nutzung.

Es wurden bereits Verbote ausgesprochen

Aufgrund verschiedenster Beschwerden und bislang vorherrschenden Unsicherheiten, ordnete die italienische Datenschutzaufsichtsbehörde Ende März 2023 ein vorübergehendes Verbot der Verarbeitung durch ChatGPT an. Ausschlaggebend war dafür die Intransparenz bei der Datenverarbeitung. OpenAI sperrte den Dienst daraufhin in Italien und verpflichtete sich dazu, Verbesserungen vorzunehmen. Was daraus folgt, bleibt abzuwarten.

Andere Aufsichtsbehörden nehmen das Verbot der italienischen Behörden derzeit zum Anlass für weitere Prüfungen und auch der Bundesdatenschutzbeauftragte schließt ein ähnliches Vorgehen in Deutschland nicht aus.

Ein umsichtiges Nutzerverhalten ist erforderlich

Wichtig ist, neben all der Kritik an OpenAI auch das eigene Nutzerverhalten zu hinterfragen. Die KI entwickelt sich weiter, indem sie ständig Neues lernt. Das ist ihr Zweck. Dazu verwendet sie unter anderem eben auch die eingegebenen Informationen der Nutzenden. Informationen, die nicht bekannt werden sollen, sollten also auch nicht bei ChatGPT eingegeben werden.

Wir empfehlen Unternehmen, die ChatGPT derzeit einsetzen, sich genauer mit den datenschutzrechtlichen Aspekten zu beschäftigen. Gerne beraten wir unsere Mandanten in diesem Zusammenhang.