KI und Recht: Muss ChatGPT zurück in den Kindergarten?

Die Keynote der KI Konferenz 2024 wurde von Rechtsanwalt Christian Solmecke von WBS.legal zum Thema KI und Recht gehalten. In seinem Vortrag erklärt er rechtliche Hürden bei der Anwendung von KI im Unternehmen. 

Du möchtest den Vortrag nachträglich ansehen? Kein Problem. Fülle das folgende Formular aus, und wir senden Dir das Vortragsvideo „Muss ChatGPT zurück in den Kindergarten“ zu.

Quelle: Eigene

Fülle das Formular aus, um den Vortrag zu sehen

Künstliche Intelligenz (KI) entwickelt sich rasant und wird in vielen Bereichen des Lebens immer präsenter. Von der Gesundheitsversorgung über die Automobilindustrie bis hin zur Datenanalyse verändert sie die Art und Weise, wie wir arbeiten und leben. Mit dem Potenzial von KI wachsen jedoch auch die Herausforderungen, insbesondere auf rechtlicher Ebene.

Eine Live-Umfrage im Vortrag bescheinigte schnell, dass die meisten Unternehmen KI einsetzen, ohne es bisher rechtlich zu prüfen.

Verantwortung und Haftung: Wer haftet bei KI-Fehlern?

Eine der zentralen Fragen bei der Nutzung von KI ist die der Haftung. Wenn ein KI-System Fehler macht oder Schaden verursacht, ist oft unklar, wer dafür verantwortlich ist. Dies betrifft insbesondere selbstlernende Systeme, die nicht immer nachverfolgt werden können, da sie Entscheidungen unabhängig treffen können. Hier stellt sich die Frage, ob der Entwickler, der Anbieter oder der Nutzer eines KI-Systems haftbar ist. Christian Solmecke zeigt in seinem Vortrag konkrete Fälle der Haftung.

Im Jahr 2022 wurde in der EU ein Vorschlag für ein „KI-Haftungsgesetz“ präsentiert, das klare Haftungsregeln für den Einsatz von KI-Systemen schaffen soll. Ziel ist es, die Lücken in der bestehenden Gesetzgebung zu schließen und eine faire Haftungsverteilung zwischen Herstellern und Nutzern zu gewährleisten.

Datenschutz und KI: Umgang mit personenbezogenen Daten

KI-Systeme benötigen oft große Mengen an Daten, um effektiv zu funktionieren, und viele dieser Daten sind personenbezogen. Die Datenschutz-Grundverordnung (DSGVO) stellt strenge Anforderungen an die Verarbeitung personenbezogener Daten und die Einhaltung der Grundsätze der Datenminimierung und Zweckbindung. Doch wie lässt sich das mit datenintensiven KI-Anwendungen vereinbaren? Eine besondere Herausforderung besteht darin, dass KI-Systeme häufig auf Daten angewiesen sind, die ursprünglich für andere Zwecke erhoben wurden. Zudem können durch KI-Prozesse auch sensible Informationen über Nutzer herausgelesen werden, die diese nie explizit preisgegeben haben. Unternehmen müssen daher sicherstellen, dass sie die Anforderungen der DSGVO vollständig erfüllen und gegebenenfalls zusätzliche Sicherheitsmaßnahmen wie Anonymisierung und Pseudonymisierung ergreifen.

Bias und Diskriminierung: Fairness in KI-Anwendungen

Eine weitere Herausforderung besteht in der Frage der Fairness und Nicht-Diskriminierung. KI-Systeme lernen auf Basis von Daten und können unbewusste Vorurteile, die in den Daten enthalten sind, verstärken. Dies führt dazu, dass bestimmte Gruppen benachteiligt werden können, was rechtlich äußerst problematisch ist.

Ein Beispiel ist die Verwendung von KI im Personalwesen, wo Algorithmen verwendet werden, um Bewerber auszuwählen. Studien haben gezeigt, dass KI-Systeme bestimmte Personengruppen diskriminieren können, wenn sie auf Datensätzen trainiert wurden, die nicht ausreichend divers sind. Unternehmen müssen daher darauf achten, dass ihre KI-Anwendungen regelmäßig überprüft und auf Fairness getestet werden, um Diskriminierung zu vermeiden und rechtlichen Risiken vorzubeugen.

Transparenz und Nachvollziehbarkeit: Die Black-Box-Problematik

Ein großes Problem in der Anwendung von KI ist die sogenannte Black-Box-Problematik. Viele KI-Systeme, insbesondere solche auf Basis von Deep Learning, arbeiten auf eine Weise, die selbst für Entwickler schwer nachvollziehbar ist. Dies stellt ein Hindernis für die Rechtssicherheit dar, da betroffene Personen und Aufsichtsbehörden oft nicht verstehen können, wie eine Entscheidung zustande gekommen ist.

Um dieses Problem zu lösen, wird zunehmend auf erklärbare KI (Explainable AI, XAI) gesetzt, die auf Transparenz und Nachvollziehbarkeit abzielt. Ziel ist es, KI-Systeme zu entwickeln, die ihre Entscheidungen und Prozesse erklären können, um sicherzustellen, dass Unternehmen gesetzliche Anforderungen einhalten und das Vertrauen der Nutzer in KI-Anwendungen stärken.

 

Künstliche Intelligenz und Urheberrecht

Ein weiteres rechtliches Problemfeld ist das Urheberrecht. KI-Systeme können kreative Werke wie Texte, Bilder oder Musik generieren, doch stellt sich die Frage, wer das Urheberrecht an diesen Werken hält. In vielen Ländern ist Urheberrecht nur natürlichen Personen vorbehalten, sodass Werke von KI-Systemen derzeit oft als „gemeinfrei“ gelten. Hier wird in den nächsten Jahren wahrscheinlich eine Weiterentwicklung der Gesetzgebung notwendig sein, um Urheberrechte an KI-generierten Inhalten klar zu regeln.

Arbeitsrechtliche Fragen: Einsatz von KI im Personalwesen

Der Einsatz von KI in der Arbeitswelt, etwa zur Überwachung der Produktivität von Mitarbeitern oder zur Analyse von Arbeitsprozessen, wirft zahlreiche arbeitsrechtliche Fragen auf. Arbeitnehmer könnten sich beispielsweise überwacht fühlen oder Diskriminierung befürchten, wenn KI-Systeme über ihre Karriere oder Arbeitsbedingungen entscheiden. Hier gilt es, klare Regeln zu schaffen, um Arbeitnehmer zu schützen und den Missbrauch von KI-Technologien zu verhindern.

 

Ausblick: Die Zukunft der rechtlichen Regulierung von KI

Die rechtlichen Herausforderungen im Zusammenhang mit KI sind komplex und erfordern ein ausgewogenes Regelwerk, das Innovation fördert und gleichzeitig die Rechte von Individuen schützt. Die EU nimmt hierbei eine Vorreiterrolle ein und arbeitet bereits seit 2020 am „AI Act„, einem umfassenden Gesetz zur Regulierung von KI. Ziel des Gesetzes ist es, ein Gleichgewicht zwischen der Förderung technologischer Innovation und dem Schutz der Grundrechte der Bürger herzustellen. Hierzu stellt Christian Solmecke in seinem Vortrag heraus, welche Unternehmen jetzt zum Handeln gezwungen sind.

Fazit

Künstliche Intelligenz bietet zahlreiche Chancen, birgt jedoch auch erhebliche rechtliche Herausforderungen. Von der Haftung über den Datenschutz bis hin zur Diskriminierung müssen Unternehmen und Entwickler sicherstellen, dass sie die rechtlichen Rahmenbedingungen einhalten und ethische Prinzipien beachten. Nur so kann KI ihr volles Potenzial entfalten und gleichzeitig das Vertrauen der Gesellschaft gewinnen. Die kommenden Jahre werden zeigen, wie sich die rechtliche Landschaft weiterentwickelt und ob die Gesetzgeber die richtigen Weichen für den verantwortungsvollen Einsatz von KI stellen können.