Die künstliche Intelligenz (KI) gibt es schon seit mehreren Jahrzehnten, aber erst in jüngster Zeit beginnt sie, einen wichtigen Platz in unserem täglichen Leben einzunehmen. ChatGPT ist eine der neuesten Entwicklungen auf diesem Gebiet. Die KI-Revolution ist im Gange…
Ein Chatbot
Ende 2022 sorgte die Einführung eines neuen Chatbots für Aufregung: ChatGPT wurde von dem US-amerikanischen Unternehmen für künstliche Intelligenz Open AI entwickelt, dessen CEO Sam Altman ist. Open AI war bereits für verschiedene KI-Software verantwortlich, wie beispielsweise DALL-E, das Bilder aus einer schriftlichen Beschreibung erstellt. Mit ChatGPT taucht das Unternehmen nun in die Welt des Textes ein.
Das Verfassen von Texten und Inhalten
ChatGPT hat das Ziel, auf alle unsere Anfragen antworten zu können: Er ist in der Tat in der Lage, unsere Fragen mit sehr präzisen Informationen zu beantworten, einen Text gemäß unseren Erwartungen zu verfassen, sei es ein fiktiver Text, ein Motivationsschreiben, eine Dissertation, ein Rezept zu geben, unsere fremdsprachlichen Schreibfehler oder sogar Codezeilen zu korrigieren… Die Möglichkeiten sind endlos. Und sie sind derzeit kostenlos, was die Basisversion betrifft. OpenAI hat am 1. Februar ChatGPT Plus gestartet, das für 20 US-Dollar pro Monat einen beschleunigten und jederzeit verfügbaren Zugang bietet, um die vielen Überlastungsperioden zu vermeiden, die die Website unzugänglich machen.
Die Besonderheit dieses Chatbots besteht darin, dass er auf eine Sprache antworten kann, die wir verstehen, und über eine wirklich beeindruckende Schreibfähigkeit verfügt. Im Gegensatz zu Siri oder Alexa, mit denen Gespräche schnell an ihre Grenzen stoßen, ist es möglich, mit ChatGPT eine echte Diskussion zu führen.
Das Sprachmodell (Large Language Model) : GPT 3.5
Um dieses Ergebnis zu erreichen, hat Open AI ein “LLM” (Large Language Model) entwickelt, das darauf abzielt, menschliche Sprache zu imitieren. Das bis heute verwendete Modell ist GPT 3.5 (für “Generative Pre-trained Transformer 3.5”), das eines der leistungsstärksten ist. Und Open AI bereitet bereits das nächste Modell vor: GPT 4. Um ein solches Ergebnis zu erzielen, haben die Entwickler von GPT 3.5 eine unglaubliche Menge an im Internet veröffentlichten Texten verwendet. Dies ermöglicht ihm, die menschliche Sprache auf beeindruckende und täuschende Weise zu reproduzieren. Das ist sowohl seine Stärke als auch seine Schwäche.
Obwohl ChatGPT uns viele Aufgaben erleichtert, ist die Qualität des bereitgestellten Ergebnisses nicht makellos und die Folgen seiner Fehler können zu echter Desinformation führen. Darüber hinaus stellen sich bei dieser neuen Technologie, die auf den ersten Blick einfach und sehr nützlich erscheint und das Zeitalter des Web 4.0 ankündigt, viele Fragen hinsichtlich des geistigen Eigentums, des Datenschutzes und der Cybersicherheit.
Eine mit Suchmaschinen konkurrierende Effizienz
Der Auftritt und der Erfolg von ChatGPT stellt die Frage nach dem Interesse von Suchmaschinen in Zukunft. Im Gegensatz zu einer Suchmaschine liefert ChatGPT keine Liste von Links, die eine Antwort auf unsere Suche liefern können, sondern eine gegebene Antwort. Der Conversational Robot hat bereits die grundlegenden Kenntnisse wichtiger Datenbanken wie beispielsweise Wikipedia aufgenommen, was ihm ermöglicht, direkt eine Antwort zu liefern.
Künstliche Intelligenz, die den Menschen ersetzt?
Darüber hinaus ermöglicht es die Möglichkeit des Austauschs mit ChatGPT, Antworten auf unsere Fragen einfacher zu erhalten als bei der Verwendung einer Suchmaschine: Die Diskussionen mit ChatGPT ermöglichen es, in wenigen ausgetauschten Sätzen eine Antwort auf unsere Frage zu erhalten, während die Suche nach Stichwörtern in Suchmaschinen viel länger gedauert hätte. Es ist also effektiver als ein Mensch bei der Verarbeitung großer Datenmengen.
Dies stellt die Frage, ob zukünftige Conversational Robots dazu bestimmt sein werden, den Menschen in bestimmten Berufen zu ersetzen und damit das Humankapital abzuwerten oder ob sie den Menschen unterstützen werden, um ihn effektiver zu machen und damit eine Umgestaltung der betroffenen Arbeit zu ermöglichen.
Die Integration von ChatGPT in die Suchmaschine Bing
Deshalb hat Microsoft eine Partnerschaft mit OpenAI geschlossen und 10 Milliarden Dollar investiert, um ChatGPT in seine Suchmaschine Bing zu integrieren. Dadurch soll Bing auf dem Markt wieder konkurrenzfähiger werden, da Google weit voraus ist. Infolgedessen haben auch Microsofts Konkurrenten das Rennen aufgenommen: Am 6. Februar 2022 enthüllte Google Bard, seinen eigenen Chatbot, der in die Suchmaschine integriert ist, während Baidu, das chinesische Äquivalent von Google, die Einführung von Ernie Bot ankündigte. Basierend auf den ersten Versionen von Google und Microsoft würde die Antwort auf die Suche zwischen dem Chatbot und den bekannten Links geteilt werden. Es scheint also, dass die großen Unternehmen versuchen, Chatbots in ihre Suchmaschinen zu integrieren, bevor sie von diesen neuen künstlichen Intelligenzen aufgefressen werden.
Geistiges Eigentum
ChatGPT wurde aus im Internet verfügbaren Datenbanken entwickelt und genährt, und diese Informationen ermöglichen es ihm, Antworten zu liefern. Wenn er jedoch auf gestellte Fragen antwortet, gibt er seine Quellen nicht an. Er liefert Informationen auf eine Weise, die den Anschein erweckt, dass sie aus eigenen Recherchen stammen. Dies wirft mehrere Fragen auf, insbesondere die Frage, wem der von der KI generierte Text (erstellt oder neu angeordnet) gehört. Wer hat das geistige Eigentum (insbesondere das Urheberrecht)? Gehört es der KI? Die Antwort scheint negativ zu sein, da eine KI keine Rechte hat. Gehört es der Person, die die Frage gestellt hat? Um dies zu zeigen, müsste man nachweisen, dass diese Person einen wesentlichen Anteil an der Erstellung dieses Textes hatte, aber die Tatsache, dass ChatGPT auf einer astronomischen Menge von Texten trainiert wird und der Benutzer nur eine einfache Frage stellt, lässt darauf schließen, dass dies nicht der Fall sein wird. Gehört es also den Autoren, von denen sich die KI inspiriert hat? Wie könnten diesen Personen Rechte zugesprochen werden, wenn der Roboter keine Quellen angibt?
Plagiat und Fälschung
Soll man also von Plagiat oder Fälschung sprechen? Diese Frage wurde bisher vor Gericht noch nicht bezüglich ChatGPT gestellt, sie wurde jedoch bereits in Bezug auf andere KI gestellt, obwohl noch keine klare juristische Antwort von einem Gericht gegeben wurde: Die Frage stellte sich in Bezug auf KIs, die Bilder oder Code generieren. Es sind also mehrere Möglichkeiten zu erwägen, aber eine explizite Antwort von unseren Gerichten wäre notwendig, bis eine unerlässliche Regulierung dieser neuen KIs erfolgt.
Eine andere Antwort, um Urheberrechte zu schützen, könnte die Entschädigung der Autoren der verwendeten Quellen durch die KIs sein. Dies könnte eine Aufgabe der kostenlosen Dienstleistungen rechtfertigen.
Auswirkungen auf die DSGVO :
Momentan ist ChatGPT ein kostenloser Service. Es ist jedoch allgemein bekannt, dass wenn der Service kostenlos ist, der Benutzer ihn tatsächlich mit seinen Daten bezahlt. Und im Fall von ChatGPT ist der Service teuer.
Schutz personenbezogener Daten : das geltende Recht
In Bezug auf den Datenschutz gibt es viele Fragen, die aufkommen: Zunächst einmal stellt sich die Frage nach dem anwendbaren Recht. Aus der Datenschutzrichtlinie von ChatGPT geht hervor, dass sich OpenAI nur dem kalifornischen Recht und kalifornischen Gerichten unterwirft. Die Daten, die über Personen außerhalb Kaliforniens gesammelt werden, werden direkt dorthin übertragen. Es scheint daher unvorstellbar, dass dies langfristig keine Probleme bereitet: Die Entwicklung des Datenschutzes, insbesondere innerhalb der Europäischen Union (EU), mit der Einführung der Datenschutz-Grundverordnung (DSGVO) und ihrer Auswirkungen außerhalb der EU, deutet darauf hin, dass OpenAI die DSGVO unbedingt einhalten muss, um ChatGPT auf diesem Gebiet nutzen zu können.
Dann wird die KI die verschiedenen Grundsätze der Verordnung einhalten müssen, und es scheint, dass dies angesichts der derzeitigen Situation nicht ohne Schwierigkeiten geschehen wird.
ChatGPT vs. DSGVO
In Bezug auf die Umsetzung der verschiedenen Grundsätze des Datenschutzes müssen verschiedene Grundsätze beachtet werden, insbesondere:
• Das Prinzip der Minimierung: Es besagt, dass nur angemessene, relevante und auf das beschränkt werden darf, was für die Zwecke, für die sie verarbeitet werden, notwendig ist.
• Das Prinzip der Transparenz: Der Benutzer muss darüber informiert werden, dass seine Daten gesammelt werden und wie sie verwendet werden oder verwendet werden, damit er beurteilen kann, ob diese Verarbeitung ihm Schaden zufügen kann oder nicht. Dieser Grundsatz scheint eingehalten zu werden, da die AI ausdrücklich um Einwilligung zur Verarbeitung von Daten bittet und auf ihrer Datenschutzseite angibt, welche Daten betroffen sind und welche Verarbeitung erfolgt, obwohl OpenAI vorgeworfen werden kann, sehr unklar zu bleiben, insbesondere in Bezug auf Dritte, die auf die Daten zugreifen können.
• Die treue Verarbeitung der Daten: Es geht darum, die Einwilligung des Benutzers zur Datensammlung einzuholen, ihn darüber zu informieren und dies nicht ohne seine Zustimmung zu tun, was in Bezug auf Cookies kein Problem darstellt. Bei der Erfassung von Informationen, die wir mit der AI diskutieren können, wird jedoch vollständig auf unsere Genehmigung verzichtet, was ein ernsthaftes Problem darstellt.
• Die rechtmäßige Verarbeitung von Daten: Hierbei geht es darum, Daten gemäß den geltenden Regeln zu sammeln und zu verarbeiten. Hierbei können mehr Probleme auftreten, da derzeit nur das kalifornische Recht angewendet wird, mit Ausnahme der DSGVO, was es den EU-Bürgern nicht ermöglicht, den Schutz zu erhalten, der ihnen normalerweise durch die DSGVO gewährt wird. Gemäß dieser Verordnung ist die Verarbeitung nur dann rechtmäßig, wenn der Benutzer der Verarbeitung seiner Daten zugestimmt hat oder wenn die Verarbeitung für einen der Gründe erforder-lich ist, die er aufzählt.
• Das Prinzip der Richtigkeit: Verwendete personenbezogene Daten müssen korrekt und nach Möglichkeit aktualisiert sein. Es ist nicht auszuschließen, dass Datenve-rarbeiter durch ChatGPT personenbezogene Daten abrufen. Wie kann man sichers-tellen, dass diese Daten wahrheitsgemäß und korrekt sind?
Die Ausübung der Rechte in Bezug auf den Schutz personenbezogener Daten
Zunächst müssen zwei wichtige Punkte aufgegriffen werden:
• Zum einen muss eine Un
terscheidung zwischen kalifornischen Nutzern und anderen Nutzern vorgenommen werden. Die Datenschutzrichtlinie von ChatGPT führt explizit Rechte zugunsten kalifornischer Nutzer auf und wie diese ausgeübt werden können, aber für andere gibt es nichts. Was ist daraus zu schließen? Nicht-kalifornische Nutzer scheinen von vielen Rechten ausgeschlossen zu sein.
• Zum anderen müssen die über Cookies gesammelten Daten von denen unterschieden werden, die während der Gespräche mit dem Roboter gesammelt werden. ChatGPT bittet seine Nutzer um ihre Zustimmung zur Sammlung von Cookies, aber bezüglich anderer Daten… nichts. Die KI bedient sich ohne die Meinung von irgendjemandem einzuholen
Rechte
Als Nächstes ergeben sich weitere spezifische Fragen zu verschiedenen durch die DSGVO geschützten Rechten:
• Das Recht auf Vergessenwerden: Dieses Recht gibt einer Person das Recht, die Löschung ihrer personenbezogenen Daten zu verlangen. Dieses Recht, das früher als “Recht auf Löschung” bezeichnet wurde, hat mit dem Urteil des Europäischen Gerichtshofs (EuGH) vom 13. Mai 2014 in der Sache Google Spain gegen Costeja Gonzales besondere Bedeutung erlangt. In diesem Urteil setzte sich der Schutz personenbezogener Daten gegenüber einem der fünf Entitäten durch, die die GAFAM bilden: Google, Amazon, Facebook (heute Meta), Apple und Microsoft. Dieses Urteil erging, obwohl die DSGVO noch nicht in Kraft war und Google nicht zur Einhaltung des Rechts auf Vergessenwerden verpflichtet war. Es scheint daher, dass dieses Recht auch vor dem EuGH gegenüber ChatGPT geltend gemacht werden kann, obwohl sich ChatGPT nicht explizit der DSGVO unterwirft.
• Die DSGVO gewährt auch das Recht auf Berichtigung personenbezogener Daten. Da ChatGPT aus den Informationen gespeist wird, die ihm zur Verfügung gestellt wurden oder die ihm später vorgelegt werden, wie kann dieses Recht ausgeübt werden, wenn diese Informationen auch von anderen Benutzern als dem betroffenen Benutzer bereitgestellt werden können? Und kann dieses Recht tatsächlich ausgeübt werden (wie auch das Recht auf Vergessenwerden) in Bezug auf die bis heute gesammelten Daten, d.h. bevor die Einhaltung der DSGVO von OpenAI gefordert wurde?
• Das Recht, nicht einer automatisierten Entscheidung unterworfen zu werden: Dieses Recht ermöglicht es jeder Person, nicht Gegenstand einer Entscheidung zu sein, die ausschließlich auf einer automatisierten Verarbeitung beruht, wenn diese Entscheidung rechtliche Wirkungen hat oder sie erheblich beeinträchtigt. In Bezug auf diesen Punkt stellt sich bereits die Frage nach dem Einsatz von ChatGPT in gerichtlichen Verfahren: Ein erster Anwendungsfall wurde in Kolumbien festgestellt, wo ein Richter teilweise auf die Antwort des AI zurückgriff, um seine Entscheidung zu treffen. Zwar basiert die Entscheidung nicht ausschließlich auf der von ChatGPT gegebenen Antwort, aber es stellt sich die Frage, ob dies in Zukunft (oder bereits geschehen ist) angesichts des derzeitigen Mangels an Regulierung der Fall sein wird.
Auswirkungen auf die Cybersicherheit :
Die Generierung neuer Stämme von Schadsoftware
Zunächst ermöglicht der Chatbot es bösartigen Personen, Cyberangriffe zu starten, obwohl sie keinerlei Kenntnisse in Cybersicherheit haben. Da er in der Lage ist, Code zu erstellen, kann er auf Anfrage schädlichen Code generieren. Ende Dezember 2022 wurde auf einem Hackerforum ein Diskussionsfaden namens “ChatGPT – Vorteile von Malware” eröffnet. Dort wurde enthüllt, dass KI genutzt werden kann, um Malware-Stämme und Techniken mithilfe von online veröffentlichten Artikeln zu reproduzieren, die Teil derjenigen sein können, auf die sie trainiert wurde.
Die Verbesserung von Phishing-Techniken
Außerdem könnte die Nutzung von ChatGPT auch dazu missbraucht werden, um hochwertigere und somit glaubwürdigere Phishing-E-Mails zu verfassen (Phishing ist bereits eine gängige Methode von Cyberangriffen, bei der der Betrüger sich als vertrauenswürdige Person, wie unsere Bank, ausgibt, um uns vertrauliche Informationen zu entlocken oder eine Banktransaktion zu genehmigen). Viele solcher E-Mails sind heute aufgrund ihrer unglaubwürdigen Satzkonstruktionen und Rechtschreibfehler erkennbar. Ohne diese Elemente werden Phishing-Angriffe viel schwerer zu erkennen sein.
Die Vergiftungsangriffe
Schließlich tauchen neue Cyberangriffe auf, wie z.B. der sogenannte “Poisoning”-Angriff. Dabei werden korrupte Daten in eine KI eingeführt, entweder während ihrer Entwicklung oder während ihrer Lernphase, was ihr Verhalten verändert. ChatGPT wurde auf Daten trainiert, die im Internet verfügbar sind, und es besteht kein Zweifel, dass viele von ihnen moralisch nicht einwandfrei sind. Darüber hinaus endet das Wissen von ChatGPT mit seinem letzten Update (er hat keine Kenntnis von den neuesten Ereignissen), was eine Grenze darstellt, die OpenAI beheben muss. Das Risiko besteht darin, dass böswillige Personen korrupte Daten in die Datenbanken einfügen, auf denen ChatGPT trainiert wird, um ihnen später bei der Umsetzung neuer Cyberangriffe zu helfen.
