Autor: EMMA MCGOWAN
Quelle: Avast Blog
In der Welt der künstlichen Intelligenz und der Open Access sind Sprachlernmodelle ein heißes Thema. Es gibt viele Anwendungsmöglichkeiten, aber wie bei jeder Technologie gibt es auch mögliche Nachteile und Bedenken.
In der Welt der künstlichen Intelligenz und des maschinellen Lernens ist die plötzliche große Beliebtheit von Sprachlernmodellen ein heißes Thema. Diese Tools, von denen das populärste heute wahrscheinlich ChatGPT-3 ist, sind linguistische Modelle, die spezifische Fragen beantworten und sogar Code erzeugen können. Es kann für eine Vielzahl von Anwendungen wie Chatbots, Sprachübersetzung und Textzusammenfassung verwendet werden. Wie bei jeder Technologie gibt es jedoch auch mögliche Nachteile und Bedenken.
ChatGPT und Datenschutz
Eines der Hauptprobleme bei diesen Modellen ist der Datenschutz. Für die Nutzer kann es schwierig sein herauszufinden, ob ihre Daten zum Trainieren eines maschinellen Lernmodells verwendet wurden. GPT-3 zum Beispiel ist ein umfangreiches Sprachmodell, das auf einer großen Menge von Internetdaten trainiert wurde, darunter persönliche Websites und Inhalte sozialer Netzwerke. Dies hat zu Bedenken geführt, dass das Modell die Daten von Personen ohne deren Zustimmung verwenden könnte und dass es schwierig ist, Daten, die zum Trainieren des Modells verwendet wurden, zu kontrollieren oder zu entfernen.
Ein weiteres Problem ist das „Recht auf Vergessenwerden“. Mit der zunehmenden Verbreitung von GPT und anderen maschinellen Lernmodellen möchten die Nutzer vielleicht die Möglichkeit haben, ihre Daten aus dem Modell zu löschen.
„Die Menschen sind verärgert, dass Daten ohne ihre Zustimmung verwendet werden“, sagt Sadia Afroz, KI-Forscherin bei Avast. „Es gibt Leute, die ihre Daten gelöscht haben, aber weil das Sprachmodell sie bereits verwendet hat, bleiben sie für immer dort. Sie wissen nicht, wie sie sie löschen können.
Derzeit gibt es keine allgemein akzeptierte Methode, mit der Nutzer die Entfernung ihrer Daten aus einem Modell für maschinelles Lernen beantragen können, nachdem sie für dessen Training verwendet wurden. Forscher und Unternehmen arbeiten an Methoden zum Löschen oder „Vergessen“ von Benutzerinformationen oder bestimmten Daten, aber diese Methoden befinden sich noch in einem frühen Entwicklungsstadium, und es ist noch nicht klar, inwieweit sie durchführbar oder wirksam sein werden. Darüber hinaus wirft die Entfernung von Daten aus Modellen für maschinelles Lernen technische Probleme auf, da die Daten möglicherweise zum Trainieren des Modells verwendet wurden und ihre Entfernung zu einem Genauigkeitsverlust des Modells führen kann.
Ist ChatGPT legal?
Die Rechtmäßigkeit der Verwendung personenbezogener Daten zum Trainieren von maschinellen Lernmodellen wie GPT-3 kann je nach den spezifischen Gesetzen und Vorschriften in bestimmten Ländern oder Regionen variieren. In der Europäischen Union zum Beispiel ist die Die Allgemeine Datenschutzverordnung (GDPR) regelt die Verwendung personenbezogener Daten und schreibt vor, dass diese nur für festgelegte und rechtmäßige Zwecke erhoben und verwendet werden dürfen.
„Bei der Datenschutz-Grundverordnung geht es um Zweckbindung“, sagt Afroz. „Daten müssen für den Zweck verwendet werden, für den sie erhoben wurden. Wenn man sie für etwas anderes verwenden will, muss man um Erlaubnis fragen. Aber die Sprachmodelle sind das Gegenteil: Die Daten können für jeden Zweck verwendet werden. Wie kann die DSGVO diese Einschränkung durchsetzen?“
Nach der DSGVO müssen Unternehmen die ausdrückliche Zustimmung der Nutzer einholen, bevor sie deren personenbezogene Daten erfassen und verwenden. Es gibt eine Rechtsgrundlage für die Verarbeitung personenbezogener Daten zu wissenschaftlichen und historischen Forschungszwecken, aber der für die Verarbeitung Verantwortliche muss die Grundsätze und Rechte der DSGVO einhalten, wie das Recht des Nutzers auf Information, das Recht auf Zugang, das Recht auf Berichtigung, das Recht auf Löschung, das Recht auf Widerspruch und das Recht auf Datenübertragbarkeit. Infolgedessen scheinen Sprachlernmodelle nicht GDPR-konform zu sein, was in Zukunft ein großes Hindernis für ihr Wachstum darstellen könnte.
In den USA gibt es kein Bundesgesetz, das die Verwendung personenbezogener Daten zum Trainieren von maschinellen Lernmodellen speziell regelt. Unternehmen sind jedoch im Allgemeinen verpflichtet, Gesetze wie den Health Insurance Portability and Accountability Act (HIPAA) oder den Children’s Online Privacy Protection Act (COPPA) einzuhalten, wenn sie personenbezogene Daten von Personen bestimmter sensibler Kategorien erfassen und verwenden. In Kalifornien, wo die meisten großen Technologieunternehmen angesiedelt sind, sind die Unternehmen verpflichtet, die Anforderungen der California Consumer Privacy Act (CCPA), der ähnliche Anforderungen an den Datenschutz stellt wie die GDPR.
Die Entwicklung von KI-Modellen wie GPT-3 ist ein sich ständig weiterentwickelnder Bereich. Da sich die Gesetze und Vorschriften für die Verwendung personenbezogener Daten in der KI in Zukunft wahrscheinlich ändern werden, ist es wichtig, sich über die neuesten rechtlichen Entwicklungen in diesem Bereich auf dem Laufenden zu halten.
Ist ChatGPT notwendig?
Ein weiteres großes Problem bei den GPT-Modellen sind Fehlinformationen und mangelnde Überprüfung. Von vielen sprachlernenden KIs wird berichtet, dass sie Informationen sicher, aber ungenau darstellen. Diese fehlende Überprüfung der Fakten könnte die Verbreitung von Falschinformationen fördern, was in sensiblen Bereichen wie Nachrichten und Politik besonders gefährlich ist. Google beispielsweise plant, große Sprachlernmodelle zu verwenden, um seine Kunden besser bedienen zu können, aber es ist noch nicht klar, wie es das Element der Faktenüberprüfung handhaben wird.
Große Sprachlernmodelle haben zwar das Potenzial, die Art und Weise, wie wir mit der Technologie interagieren und bestimmte Aufgaben automatisieren, zu revolutionieren, doch müssen auch die möglichen Nachteile und Bedenken berücksichtigt werden. Mit der zunehmenden Verbreitung dieser Modelle ist es von entscheidender Bedeutung, dass Bedenken hinsichtlich des Datenschutzes ausgeräumt und Lösungen für das „Recht auf Vergessenwerden“ gefunden werden.
