Künstliche Intelligenz
Implikationen für Künstliche Intelligenz und maschinelles Lernen
Der Einsatz von Künstlicher Intelligenz (KI) ist seit Jahren eines der wichtigsten Themen in vielen Sektoren, eröffnet er doch Unternehmen eine Vielzahl von Chancen, um Prozesse zu optimieren und die Produktivität zu erhöhen. KI-Systeme können in nahezu jedem erdenklichen Betätigungsfeld von unter anderem dem Finanzsektor und Medienhäusern über Recruiting, die Sport- und Gesundheitsbranche bis hin zur Automobilindustrie sowie der Energiewirtschaft zum Einsatz kommen. Allerdings bergen die Automatisierung von Geschäftsmodellen und die Entscheidungsfindung mittels KI neben den unbegrenzt scheinenden Möglichkeiten der digitalen Transformation auch rechtliche Risiken, die es für Unternehmen im Blick zu behalten gilt.
Unser interdisziplinäres Team verfügt über fundiertes Wissen und Expertise sowohl hinsichtlich der Technologie als auch hinsichtlich der rechtlichen Bewertungen und unterstützt Sie bei der Gestaltung und erfolgreichen Umsetzung Ihrer KI-basierten und innovativen Geschäftsmodelle.
|
|
|
Vom einfachen Chatbot bis zum selbstlernenden System: KI lebt von der Qualität der zugrunde gelegten Daten. Die Vorteile, die KI einem Unternehmen bietet, sollten nicht zu Nachteilen im gesellschaftlichen Miteinander führen. Daher sind bei KI wie bei menschlichen Entscheidungsfindungen diskriminierende Entscheidungen zu vermeiden, die beispielsweise eine bestimmte Personengruppe automatisiert benachteiligen. Oft beruhen diskriminierende Ergebnisse auf anhand eines fehlerhaften Datensatzes trainierter KI. Solche Ergebnisse können durch die Beachtung von Nachhaltigkeitsaspekten in der Unternehmensstrategie, eine menschliche Kontrolle sowie durch eine hohe Datensicherheit und -qualität vermieden werden. Eine nachhaltige Strategie im Umgang mit KI minimiert die Gefahr rechtlicher Probleme bei ihrem Einsatz.
Der Nutzen, den KI für das Allgemeinwohl aufweisen kann, sowie die Risiken, die der Einsatz unregulierter oder unkontrollierter KI mit sich bringt, sind längst in der Politik und Gesetzgebung angekommen, zum Beispiel in der Digitalstrategie der Europäischen Union (EU). Neben einem geplanten internationalen KI-Rahmenübereinkommen stellt der Artificial Intelligence Act (AI Act, KI-Verordnung) auf EU-Ebene eine wichtige Säule der Digitalstrategie dar. Die Verordnung sieht Transparenzpflichten für einige KI-Systeme vor, beispielsweise bei Chatbots oder sog. Deepfakes. Gestaffelt nach dem Risiko der jeweiligen KI für Individual- oder Gemeinrechtsgüter bestehen der KI-Verordnung zufolge weitere strenge Anforderungen an die KI, das Risikomanagement, Transparenz, Überwachung, Cyber-Security sowie die Daten-Governance (einschließlich des Trainings). Zudem können Verbote auf Unternehmen zukommen. Auch lediglich nutzende Unternehmen werden besonderen Pflichten zur Überwachung und Information über Vorfälle unterliegen.
Aufgrund der Komplexität und Zukunftsrelevanz empfiehlt es sich für Unternehmen, die zahlreichen Rechtsfragen, die der Einsatz von KI nach sich ziehen kann, für das eigene Geschäftsmodell zu beantworten und so rechtliche Probleme zu vermeiden:
- Welche rechtlichen Vorschriften sind auf KI derzeit und in Zukunft anwendbar? Wie sieht der richtige Weg zur Implementierung eigener Sprachmodelle im Unternehmen aus? Wer haftet für Fehler der KI und durch KI verursachte Schäden?
- Auf welche Weise lässt sich Diskriminierung durch KI vermeiden und müssen automatisiert getroffene Entscheidungen menschlich überprüft werden? Was ist bei einem Einsatz von KI zu Zwecken des algorithmischen Managements zu beachten?
- Welche arbeitsrechtlichen Aspekte sind bei der Verwendung von KI im Unternehmen zu berücksichtigen? Welche Anforderungen gelten an die KI-Kompetenz und Schulungen im Unternehmen?
- Was ist bei einem Einsatz im Internet of Things (IoT), in der Industrie 4.0 und bei KI-Agenten zu beachten?
- Besteht eine rechtliche Verpflichtung, auf den Einsatz von KI hinzuweisen?
- Was ist hinsichtlich des Datenbestands, mit dem die KI trainiert wird, zu beachten? Welche Anforderungen sind an Cybersicherheit und Datenschutz sowie beim maschinellen Lernen an die Qualität von Daten, mit der eine KI trainiert wird, zu stellen? Was ist datenschutzrechtlich bei der Verarbeitung personenbezogener Daten über KI-Systeme zu beachten?
- Auf welche Weise wirkt sich der Einsatz von KI auf Gewerbliche Schutzrechte aus? Wer ist der Erfinder oder urheberrechtliche Schöpfer einer mittels KI erschaffenen Innovation? Wie sind Prompts rechtlich zu beurteilen?
- Mit welchen Maßnahmen kann der Schutz von Geschäftsgeheimnissen bei der Nutzung von KI-Systemen sichergestellt werden? Wie kann verhindert werden, dass KI-Systeme, die in der Public Cloud agieren, aus Fragestellungen, die Geschäftsgeheimnisse enthalten, Antworten für andere User (Dritte) entwickeln?
- Bullinger, Künstliche Intelligenz und Urheberrecht, Königsdruck European Photography, Nr. 119
- Bullinger / Vonthien, Aktuelles aus dem Urheberrecht: KI-Verordnung und Urheberrecht, Mitteilungen der deutschen Patentanwälte 2024, Seite 441
- Bullinger / Vonthien, KI-Training und Urheberrecht, Mitteilungen der deutschen Patentanwälte 2023, Seite 446
- Dobers-Koch / Gottschalk, KI-VO und Hinweisgeberschutz, comply 1 / 2025, Seite 44
- Domke / Trübenbach, Künstliche Intelligenz und betriebliche Mitbestimmung, ZAU 2025, Seite 174
- Gerecke, Social Media und Recht: Einige urheberrechtliche Gedanken zu generativen KI-Modellen, GRUR-Prax 2023, Seite 381
- Grützmacher, Zum Urheberrechtsschutz für KI-Input-Material, CR 2024, Seite 756
- Grützmacher, Anforderungen an die Datenanalyse zur Erstellung von KI-Trainingsdatensätzen nach § 44b und 60d UrhG, RDi 2026, Seite 97
- Grützmacher, Leibniz und der AI Act – Was ist KI und wer ist für sie verantwortlich?, in: Eichelberger/Schwarze (Hrsg.), 50 Jahre Juristische Fakultät Hannover, Nomos 2025
- Grützmacher, Der Entwurf der EU-Verordnung für Künstliche Intelligenz, in: Buck-Heeb / Oppermann, Automatisierte Systeme, 1. Auflage 2022
- Grützmacher, Verantwortung und Haftung bei (digitalen) autonomen KI-Systemen | AnwBl Online 2022, Seite 498
- Grützmacher, Autonome Systeme und KI – vom vollautomatisierten zum autonomen Vertragsschluss?, CR 2019, Seite 553
- Grützmacher, Die zivilrechtliche Haftung für KI nach dem Entwurf der geplanten KI-VO – Potentielle zivilrechtliche Auswirkungen des geplanten KI-Sicherheitsrechts: ein neues Schutzgesetz i.S.v. § 823 Abs. 2 BGB am Horizont
- Kaulartz / Braegelmann, Rechtshandbuch Smart Contracts, 1. Auflage 2019
- Kaulartz / Braegelmann, Rechtshandbuch Artificial Intelligence und Machine Learning, 1. Auflage 2020
- Kaulartz / Merkle | Rechtshandbuch Künstliche Intelligenz, 2. Auflage 2026
- Knappertsbusch / Gondlach | Arbeitswelt und KI 2030, 2. Auflage 2025
- Knappertsbusch / Jares, ChatGPT und arbeitsrechtliche Aspekte – Expertenforum Arbeitsrecht (#EFAR) (efarbeitsrecht.net)
- Knappertsbusch / Vonthien (u.a.) | Generative KI in Unternehmen, 1. Auflage 2024, bitkom e.V.
- Paetrow (u.a.), Rechtliche Risiken der Werbung mit künstlicher Intelligenz, GRUR 2025, Seite 289
- Rossipaul, Künstliche Intelligenz in Kommunikation und Kunst 2023, Mohr Siebeck
- Rossipaul, Künstliche Intelligenz in der Wissenschaft, NVwZ 2025, Seite 152
- Salz / Wiedemann, KI im Mandat – Chancen und rechtliche Grenzen, NJW 2024, Seite 1634
- Wiedemann, Der Klang der Zukunft: Die Auswirkungen der KI auf die Musikindustrie, GRUR 2025, Seite 360
- Wiedemann, Kapitel Urheberrechtliche Aspekte generativer KI in Gesamtverband Kommunikationsagenturen (GWA), Neue Spielregeln – Wie KI das Agenturgeschäft definiert, 2025
- Wiring, Health IT mit künstlicher Intelligenz: Rechtliche Fallstricke, das Krankenhaus 2019, Seite 946
Künstliche Intelligenz rechtssicher einsetzen
Von der Strategie bis zur Umsetzung: Wir begleiten Sie bei KI-Projekten und helfen, regulatorische Anforderungen sicher zu erfüllen.
Unser Angebot an KI-Trainings
KI – Grundlagen und Basiskompetenz
KI – KI-Kompetenz für IT-Mitarbeitende und Entwickler:innen
KI – KI-Kompetenz für die Rechtsabteilung
KI – KI-Kompetenz für die Geschäftsleitung und Führungskräfte
Expertinnen und Experten für Künstliche Intelligenz
Lokale Marktkenntnisse. Globale Perspektive.
Mit zukunftsorientierter Rechtsberatung begleiten wir Unternehmen auf ihrem Weg zum Erfolg. Unsere lokale Marktkenntnis verbinden wir mit globaler Perspektive und der Expertise unserer Anwältinnen und Anwälte weltweit. So erhalten Sie die Unterstützung, die Sie brauchen – national wie international.
Über CMS