Große Sprachmodelle (Large Language Models, LLMs) sind eine Art maschineller Lernmodelle, die anhand großer Mengen von Textdaten trainiert werden, um menschenähnlichen Text zu erzeugen. Sie sind in der Lage, Text zu generieren, der von einem vom Menschen verfassten Text nicht zu unterscheiden ist, und können für eine breite Palette von Aufgaben der Verarbeitung natürlicher Sprache verwendet werden, wie z. B. Sprachübersetzung, Textzusammenfassung und Beantwortung von Fragen. (Quelle: ChatGPT)
Diese Sprachmodelle, wie sie von Springer definiert werden, ordnen "einem Stück ungesehenen Textes eine Wahrscheinlichkeit zu, basierend auf einigen Trainingsdaten" (frei übersetzt). Normalerweise werden sehr große Textmengen verwendet, um ein Sprachmodell zu trainieren, das dadurch, grob gesagt, die Wahrscheinlichkeitsverteilung von Wortfolgen lernt.
Während diese Sprachmodelle immer beliebter und leichter zugänglich werden, haben sie auch Auswirkungen auf den Datenschutz, die berücksichtigt werden müssen. Eine große Sorge im Hinblick auf die Einhaltung von Datenschutzbestimmungen ist, dass LLMs in gewissem Sinne personenbezogene Daten "speichern" können. Diese personenbezogenen Daten sind dann dem Risiko ausgesetzt, von einem anderen Nutzer oder einem Angreifer entdeckt zu werden. Wir haben uns bereits ausführlich mit den Datenschutzrisiken von Sprachmodellen befasst.
In diesem Beitrag erörtern wir, wie LLMs eingesetzt (und missbraucht) werden, welche Risiken Unternehmen, die diese Technologien nutzen, im Hinblick auf die Offenlegung personenbezogener Daten bedenken sollten und welche Lösungen es zum Schutz der persönlichen Daten ihrer Kunden gibt.
Sprachmodell-Anwendungen
Es gibt eine Handvoll Unternehmen, die große Sprachmodelle für die kommerzielle Nutzung erstellt haben, darunter ChatGPT und GPT-3 von OpenAI und LaMDA von Google.
Jasper AI, eine AI-Inhaltsplattform, die GPT-3 nutzt, hat sich auf die Erstellung von Marketingtexten wie Blogs, Anzeigen, Socialmedia-Posts und mehr konzentriert. Jasper AI hat im Oktober 125 Millionen Dollar bei einer Bewertung von 1,5 Milliarden Dollar eingenommen und wurde zu einem der schnellst wachsenden Privatunternehmen Amerikas ernannt.
Einer der wichtigsten Anwendungsfälle für LLMs sind Chatbots. Chatbots können für den Kundendienst, virtuelle Assistenten und sogar für Anwendungen im Bereich der physischen und psychischen Gesundheitspflege eingesetzt werden.
Böswillige Nutzung
Während in letzter Zeit zu Recht viel über den Missbrauch von ChatPGT zur Generierung von bösartigem Code und zur Erstellung von massenhaften maßgeschneiderten Phishing-Betrügereien berichtet wurde, wurde relativ wenig darüber nachgedacht, was es für Unternehmen bedeutet, die diese LLMs nutzen, um personenbezogene Daten ihrer eigenen Nutzer an Dritte zu senden.
Ähnlich wie bei der zunehmenden politischen Manipulation durch ausländische Mächte in den sozialen Medien ist es für die Aufsichtsbehörden schwierig, sich sofort auf neue Technologien einzustellen, und für Technologieunternehmen ist es schwierig, alle Möglichkeiten des Missbrauchs ihrer Technologien vorherzusehen und zu verhindern. Im Fall von OpenAI gibt es einige klare Hinweise darauf, dass sie sich Gedanken über die Begrenzung der Schäden ihres Systems machen, und ein Teil ihrer Methodik erfordert die Möglichkeit, die Eingaben in ihre Systeme tatsächlich zu sehen.
ChatGPT über personenbezogene Daten befragen
Personenbezogene Daten sind alle Daten, die zur Identifizierung einer bestimmten Person verwendet werden können. Zu den direkten Identifikatoren gehören Dinge wie Name, Alter, Adresse, Kreditkartennummer usw. Indirekte Identifikatoren sind alle Informationen, die miteinander kombiniert werden können, um eine bestimmte Person zu identifizieren, wie z.B. IP-Adresse, Religion, Geburtsort, etc.
Wie geht ChatGPT damit um? Fragen wir es doch!
Frage: Wie geht ChatGPT mit personenbezogenen Daten um?
Antwort: Als Sprachmodell ist GPT-3 nicht in der Lage, personenbezogene Daten zu sammeln oder zu speichern. Es kann nur die Informationen verarbeiten, die ihm als Eingabe gegeben werden, und auf der Grundlage dieser Eingabe mit generiertem Text antworten. Beim Umgang mit persönlichen Informationen ist es wichtig zu bedenken, dass GPT-3 Text generieren kann, der sensible Informationen enthält. Es liegt daher in der Verantwortung des Benutzers, sicherzustellen, dass angemessene Vorkehrungen getroffen werden, um die Privatsphäre aller Personen zu schützen, deren Informationen verwendet werden.
Was die Nutzung betrifft, so hat OpenAI, das Unternehmen hinter GPT-3, Sicherheitsmechanismen wie "Davinci-Coding" und "Curie" entwickelt, um zu verhindern, dass das Modell sensible oder schädliche Inhalte erzeugt. Darüber hinaus ist es bei der Arbeit mit personenbezogenen Daten wichtig, Datenschutzgesetze und -vorschriften wie die Datenschutzgrundverordnung (DSGVO) oder den California Consumer Privacy Act (CCPA) zu befolgen, um sicherzustellen, dass die personenbezogenen Daten angemessen behandelt werden."
Was bedeutet das?
Es liegt an jedem Unternehmen, das das System nutzt, festzustellen, welche Informationen von ihren Nutzern eine Identifizierung ermöglichen und welche nicht, und diese zu entfernen oder zu ersetzen, bevor sie an ChatGPT weitergeleitet werden. Andernfalls verstößt es möglicherweise schwerwiegend gegen Datenschutzbestimmungen, wie sie die Europäische Datenschutzgrundverordnung (DSGVO) und zahlreiche andere Datenschutzbestimmungen weltweit vorschreiben:
- Explizite Einwilligung in die Erhebung und Verwendung personenbezogener Daten, d. h. ein Nutzer muss Ihnen ausdrücklich das Recht einräumen, seine Daten für bestimmte Zwecke zu verwenden.
- Recht auf Vergessenwerden, d. h. ein Nutzer kann verlangen, dass alle seine personenbezogenen Daten gelöscht werden.
- Zugang zu Informationen, was bedeutet, dass ein Nutzer das Recht hat, Zugang zu allen von ihm gesammelten personenbezogenen Daten zu verlangen.
- Datenminimierung, d. h. Unternehmen müssen alle unnötigen personenbezogenen Daten aus den von Nutzern gesammelten Daten entfernen.
- Pseudonymisierung oder Anonymisierung, wo dies möglich ist, d. h. Ersetzen oder Entfernen der personenbezogenen Daten.
Lösung: Entfernung oder synthetische personenbezogene Daten
Die Entfernung personenbezogener Daten aus Chatbot-Datensätzen ist keine leichte Aufgabe. Unstrukturierte Daten wie Chat-Transkripte sind bekanntermaßen schwer zu entfernen, erst recht in großem Umfang. Die manuelle Entfernung ist langsam, teuer und ungenau, während automatisierte Lösungen wie Regexe schnell und billig sind, aber mit idiosynkratischen Daten zu kämpfen haben, die häufig in Chatbot-Trainingsdaten vorkommen. Während es mit Standard-Tools nahezu unmöglich ist, die persönlichen Daten von Kunden auf höchst präzise und effiziente Weise zu verbergen oder zu maskieren, kann AI das Unmögliche möglich machen.
Datenentfernung
Bei der Datenentfernung werden sensible Daten in unverständliche Formen umgewandelt. Zu diesen Daten können Kreditkartennummern, Adressen, Namen, Alter usw. gehören.
Originaldaten
Unkenntlich gemachte Daten
Agent
Hallo! Wie kann ich Ihnen helfen?
Agent
Hallo! Wie kann ich Ihnen helfen?
Kunde
Hallo, mir wurde für meine August-Rechnung zu viel berechnet.
Kunde
Hallo, mir wurde für meine [DATUM-1]-Rechnung zu viel berechnet.
Agent
Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?
Agent
Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?
Kunde
Francois Gerard, 4729465
Kunde
[Name_1], [Kontonummer_1]
Agent
Vielen Dank, Herr Gerard. Wie ich sehe, wurden am 30. August 198,23 $ berechnet, ist das korrekt?
Agent
Vielen Dank, Herr [Familienname_1]. Wie ich sehe, wurden am [Datum_1] [Geld_1] $ berechnet, ist das korrekt?
Kunde
Ja, aber normalerweise sind es nur 121.98 $
Kunde
Ja, aber normalerweise sind es nur [Geld_2] $
Die obige Abbildung ist ein Beispiel für eine Chatbot-Konversation, aus der personenbezogene Daten entfernt wurden. Beachten Sie, dass die Originalnachricht auf der linken Seite eine ganze Reihe persönlicher Daten des Nutzers enthält, die besser geschützt werden sollten. Mithilfe der Technologie von Private AI haben wir die persönlichen Daten von Herrn Gerard (Name, Kontonummer und Zahlungsdetails) durch unkenntlich gemachte Werte ersetzt, sodass die Privatsphäre des Absenders der Nachricht gewahrt bleibt, bevor sie an ML-Teams zur Schulung von Kundendienstmitarbeitern, zur Gewinnung von Geschäftseinblicken oder für unzählige andere Aufgaben weitergegeben wird.
Synthetische personenbezogene Daten
Wie der Name schon sagt, werden bei der synthetischen Datenersetzung sensible Daten durch kontextuell korrekte, künstliche Daten ersetzt. Dieses Verfahren bietet eine ausgezeichnete Datensicherheit, da die verwendeten Daten nicht mehr mit einer realen Person verknüpft sind, aber dennoch den entscheidenden umgebenden Kontext der Konversation für ein genaues Training beibehalten. Diese Art von Daten eignet sich perfekt für das Training von maschinellen Lernmodellen, wie z. B. AI-Chatbots, da die künstlichen personenbezogenen Daten in der Abschrift nicht von den echten personenbezogenen Daten des Kunden zu unterscheiden sind, was zu einem genaueren Training führt, ohne den Datenschutz aufgrund der Speicherung von maschinellen Lernmodellen zu gefährden.
Originaldaten
Unkenntlich gemachte Daten
Agent
Hallo! Wie kann ich Ihnen helfen?
Agent
Hallo! Wie kann ich Ihnen helfen?
Kunde
Hallo, mir wurde für meine August-Rechnung zu viel berechnet.
Kunde
Hallo, mir wurde für meine Februar-Rechnung zu viel berechnet.
Agent
Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?
Agent
Das tut mir leid. Können Sie bitte Ihren Namen und Ihre Kontonummer bestätigen?
Kunde
Francois Gerard, 4729465
Kunde
Stephen Shellbourne, 6924821
Agent
Vielen Dank, Herr Gerard. Wie ich sehe, wurden am 30. August 198,23 $ berechnet, ist das korrekt?
Agent
Vielen Dank, Herr Shellbourne. Wie ich sehe, wurden am 12. März 329,11 $ berechnet, ist das korrekt?
Kunde
Ja, aber normalerweise sind es nur 121.98 $
Kunde
Ja, aber normalerweise sind es nur 202,43 $
In der obigen Abbildung hat die Technologie von Private AI den Namen von Francois, die Kontonummer und die Zahlungsdaten durch künstliche Werte ersetzt, wobei die Privatsphäre des Kunden und die Natürlichkeit der Daten erhalten bleiben.
Nach der Entfernung oder Ersetzung der Daten sind die Daten nun bereit, an ChatGPT gesendet zu werden.
Probieren wir es live!
Was sind personenbezogene Daten in dieser Nachricht?
Hallo, ich habe gerade einen Miele-Holzbodenstaubsauger gekauft, aber ich kann nicht herausfinden, wie ich ihn zum Laufen bringe. Ich habe diesen Hartholzboden, der in [STANDORT_LAND_1] berühmt ist, wo ich in gelebt habe, und ich muss mich um ihn vor der Geburtstagsfeier meiner Mutter am [DATUM_1] kümmern! Ich habe [GELD_1] dafür bezahlt! Meine Nummer ist [TELEFONNUMMER_1], wenn Sie mich anrufen möchten, damit wir das Ding zum Laufen bringen können!
Wie sieht es mit synthetischen personenbezogenen Daten aus?
Hallo, ich habe gerade einen Miele-Holzbodenstaubsauger gekauft, aber ich kann nicht herausfinden, wie ich ihn zum Laufen bringe. Ich habe diesen Hartholzboden, der in Singapur berühmt ist, wo ich gelebt habe, und ich muss mich um ihn vor der Geburtstagsfeier meiner Mutter am 4. Juli kümmern! Ich habe 5000 Dollar dafür bezahlt! Meine Nummer ist 44 6622444445, wenn Sie mich anrufen möchten, damit wir das Ding zum Laufen bringen können!
Ändert sich die Antwort durch das Ersetzen der personenbezogenen Daten?
Schlussfolgerung
Während einige der ethischen und rechtlichen Risiken von großen Sprachmodellen noch nicht gelöst sind, wie z. B. die Erstellung von Code, der böswilliger Natur sein könnte, gibt es ein Problem, das von jedem Unternehmen, das diese LLMs einsetzt, gründlich entschärft werden kann: der Schutz personenbezogener Daten. Das Ersetzen personenbezogener Daten durch synthetische personenbezogene Daten führt oft zu einer geringen oder gar keiner Änderung des Ausgangsnutzens und verhindert die Nichteinhaltung von Datenschutzbestimmungen wie der DSGVO. Sie können dies mit ChatGPT in Kombination mit der Web-Demo von Private AI selbst ausprobieren.
