Künstliche Intelligenz (KI) und deutsches Recht: was für Ihr Unternehmen gilt

Was das Gesetz sagt

Die KI-Verordnung der EU gilt unmittelbar in Deutschland. Sie stuft KI-Systeme nach Risiko ein, verlangt Transparenz bei Chatbots und KI-generierten Inhalten und verbietet bestimmte Praktiken vollständig. Seit dem 2. Februar 2025 müssen Unternehmen, die KI einsetzen, außerdem die KI-Kompetenz ihrer Beschäftigten fördern (Art. 4). Die Verordnung (EU) 2026/1744 (Digital Omnibus) wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und ist seit dem 27. Juli 2026 in Kraft. Sie verschiebt die Pflichten für Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 und nach Anhang I auf den 2. August 2028. Das deutsche Durchführungsgesetz, das KI-MIG, steht im Bundesgesetzblatt 2026 I Nr. 223 vom 28. Juli 2026 und ist seit dem 29. Juli 2026 in Kraft.

Was das für Sie bedeutet

• Seit dem 2. Februar 2025 gilt Art. 4 der KI-Verordnung, seit dem 27. Juli 2026 in der Fassung der Verordnung (EU) 2026/1744. Wer KI im Betrieb einsetzt, muss Maßnahmen ergreifen, um die KI-Kompetenz seiner Beschäftigten zu fördern. Das gilt auch für Personen, die in Ihrem Auftrag mit KI arbeiten. Die Maßnahmen richten sich nach Kenntnissen, Erfahrung und Ausbildung der Beschäftigten und nach dem Einsatz der KI. Ein bestimmtes Kompetenzniveau, ein Zertifikat oder ein Kursformat schreibt das Gesetz nicht vor.

  Beispiel: Ein Autohaus, dessen Verkauf KI für Angebotstexte nutzt, zeigt dem Team, wo die KI Fehler macht und welche Kundendaten nicht hineingehören. Eine kurze Liste hält fest, wer wann geschult wurde. Die Liste schreibt das Gesetz nicht vor, sie hilft aber, die Maßnahmen zu zeigen.

  KI-Kompetenz im Unternehmen: was Art. 4 verlangt

• Spricht ein Chatbot oder Sprachassistent mit Ihren Kunden, muss er so gebaut sein, dass sie wissen, dass sie es mit einem KI-System zu tun haben, außer es ist offensichtlich (Art. 50 Abs. 1). Ein klarer Hinweis am Anfang des Gesprächs genügt. Er darf nur nicht fehlen oder so versteckt sein, dass der Kunde glaubt, mit einem Mitarbeiter zu schreiben. Diese Pflicht gilt seit dem 2. August 2026.

  Beispiel: Ein Onlineshop lässt seinen Assistenten das Gespräch so eröffnen: „Ich bin der KI-Assistent des Hauses und helfe Ihnen bei Produkten und Bestellungen.“ Mehr braucht es für die Transparenz nicht.

• KI-generierte Inhalte müssen erkennbar sein. Die Anbieter der KI-Systeme müssen Bild, Ton, Video und Text maschinenlesbar kennzeichnen (Art. 50 Abs. 2). Für Systeme, die vor dem 2. August 2026 auf den Markt kamen, gilt dafür eine Frist bis zum 2. Dezember 2026. Als Unternehmen, das KI einsetzt, müssen Sie Deepfakes offenlegen, also KI-Bilder, Ton oder Videos, die echten Personen, Orten oder Ereignissen ähneln und echt wirken (Art. 50 Abs. 4). KI-Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren, legen Sie ebenfalls offen, außer ein Mensch hat sie redaktionell geprüft und verantwortet.

  Beispiel: Nutzen Sie eine synthetische Stimme im Radiospot oder ein KI-generiertes Bild eines zufriedenen Kunden, kennzeichnen Sie beides als KI-generiert, damit niemand eine echte Person vermutet.

• Einige Praktiken sind seit dem 2. Februar 2025 komplett verboten, in der höchsten Bußgeldklasse: manipulative KI, die Verhalten spürbar zum Schaden der Nutzer lenkt, Social Scoring, das ungezielte Auslesen von Gesichtsbildern für Erkennungsdatenbanken und Emotionserkennung am Arbeitsplatz, außer aus medizinischen oder Sicherheitsgründen. Ab dem 2. Dezember 2026 kommen zwei Verbote hinzu: KI, die ohne ausdrückliche Zustimmung intime Bilder einer erkennbaren Person erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt. Diese Verbote gelten unabhängig davon, wie klein Ihr Unternehmen ist.

  Beispiel: Ein Tool, das die Stimmung Ihrer Servicemitarbeiter im Kundentelefonat auswertet, ist keine Grauzone, sondern eine verbotene Praxis.

• Die Aufsicht in Deutschland regelt das KI-MIG. Die Bundesnetzagentur ist Marktüberwachungsbehörde, soweit das Gesetz nichts anderes bestimmt, und zugleich zentrale Anlaufstelle und zentrale Beschwerdestelle. Bei ihr sitzen eine unabhängige KI-Marktüberwachungskammer für bestimmte Hochrisiko-Bereiche und ein Koordinierungs- und Kompetenzzentrum für die KI-Verordnung. Sie stellt Informationen und Anleitungen bereit, besonders für kleine und mittlere Unternehmen, und betreibt mindestens ein KI-Reallabor.

  Beispiel: Ihr Chatbot muss seit dem 2. August 2026 offenlegen, dass er ein KI-System ist. Zuständig für die Aufsicht in Deutschland ist die Bundesnetzagentur.

Was das Gesetz sagt

Die DSGVO gilt unmittelbar, das BDSG ergänzt sie national; für private Unternehmen sind in der Regel die Datenschutzbehörden der 16 Länder zuständig. KI-Anbieter, die Kundendaten für Sie verarbeiten, sind Auftragsverarbeiter: Ohne Auftragsverarbeitungsvertrag (AVV, Art. 28) läuft nichts, und riskante Verarbeitungen brauchen vorab eine Datenschutz-Folgenabschätzung (Art. 35).

Was das für Sie bedeutet

• Jede personenbezogene Angabe, die Ihre KI berührt, fällt unter die DSGVO: Telefonnummern, E-Mails, Chatverläufe, Sprachaufnahmen. Verarbeitet ein KI-Anbieter diese Daten in Ihrem Auftrag, verlangt Art. 28 Abs. 3 einen Vertrag, der ihn an Ihre Weisungen bindet. Ohne AVV geben Sie Kundendaten ohne Rechtsgrundlage aus der Hand.

  Beispiel: Bevor Sie Ihr CRM an einen KI-Dienst anbinden, schließen Sie den AVV des Anbieters ab und prüfen, wo die Daten verarbeitet werden. Erst dann fließen echte Kundendaten.

• Läuft Ihr Kundendialog über die WhatsApp Business API, verarbeitet Meta die Daten als Ihr Auftragsverarbeiter, geregelt in den WhatsApp Business Data Processing Terms. Verantwortlich für die Daten bleiben aber Sie: Sie brauchen die passende Rechtsgrundlage und eine saubere Information Ihrer Kunden.

  Beispiel: Ein Autohaus, das Leads per WhatsApp beantwortet, verweist in seiner Datenschutzerklärung auf die Verarbeitung über WhatsApp Business und holt für Werbenachrichten eine Einwilligung ein.

• Verarbeitungen mit voraussichtlich hohem Risiko brauchen vorab eine Datenschutz-Folgenabschätzung: typischerweise große Datenmengen, systematische Überwachung oder automatisierte Entscheidungen. Viele KI-Anwendungen wie Scoring, Profiling oder die automatisierte Bewerbervorauswahl fallen genau darunter.

  Beispiel: Wollen Sie tausende Kunden automatisch nach Kaufverhalten bewerten lassen, dokumentieren Sie vorher in einer DSFA, welche Daten Sie nutzen und wie Sie die Betroffenen schützen.

• Ihre Aufsichtsbehörde ist die Datenschutzbehörde Ihres Bundeslandes; der BfDI ist für Unternehmen nur in Sonderfällen zuständig, etwa bei Telekommunikationsdiensten. Es lohnt sich, die eigene Behörde zu kennen, bevor die erste Beschwerde kommt.

  Beispiel: Den richtigen Ansprechpartner für Ihr Bundesland finden Sie über den Kontaktfinder auf der Website des BfDI.

• Ein Chat-Widget auf Ihrer Website speichert oft Informationen im Browser des Besuchers oder liest sie aus. Dafür brauchen Sie eine Einwilligung (§ 25 Abs. 1 TDDDG), außer der Zugriff ist unbedingt erforderlich, damit der Chat funktioniert, den der Besucher ausdrücklich nutzen will (§ 25 Abs. 2 Nr. 2 TDDDG). Das gilt zusätzlich zur DSGVO.

  Beispiel: Lädt Ihr KI-Chat schon beim Seitenaufruf Tracking-Cookies, gehört er in den Cookie-Banner. Startet er erst nach einem Klick und speichert nur die Sitzung, kann die Ausnahme greifen.

Was das Gesetz sagt

Seit dem 1. Januar 2025 muss jedes inländische Unternehmen E-Rechnungen empfangen können. Beim Ausstellen läuft die Pflicht stufenweise an: Die Übergangsfrist für Papier und PDF endet für Unternehmen mit mehr als 800.000 Euro Vorjahresumsatz am 31. Dezember 2026, und ab dem 1. Januar 2028 gilt die E-Rechnungspflicht für alle inländischen B2B-Rechnungen. Eine E-Rechnung ist ein strukturiertes Format nach EN 16931, etwa XRechnung oder ZUGFeRD ab Version 2.0.1.

Was das für Sie bedeutet

• Empfangen können müssen Sie schon jetzt: Seit dem 1. Januar 2025 reicht dafür ein E-Mail-Postfach, und eine Zustimmung des Empfängers ist nicht nötig. KI kann eingehende E-Rechnungen direkt auslesen, prüfen und in die Buchhaltung übergeben, statt dass jemand PDFs abtippt.

  Beispiel: Eine eingehende XRechnung wird automatisch geparst, gegen die Bestellung geprüft und als Buchungsvorschlag abgelegt; ein Mensch gibt frei.

• Beim Ausstellen zählt Ihr Umsatz: Bis zum 31. Dezember 2026 dürfen noch alle Unternehmen Papier oder, mit Zustimmung des Empfängers, einfache PDF-Rechnungen stellen. Danach bleibt diese Übergangsoption nur Unternehmen mit höchstens 800.000 Euro Vorjahresumsatz, und zwar bis zum 31. Dezember 2027. Liegen Sie darüber, stellen Sie ab dem 1. Januar 2027 E-Rechnungen aus.

  Beispiel: Ein Autohaus mit 5 Millionen Euro Umsatz plant die Umstellung 2026, damit ab Januar 2027 jede B2B-Rechnung als E-Rechnung rausgeht.

• Ab dem 1. Januar 2028 gibt es keine Ausnahme mehr: Jede inländische B2B-Rechnung ist dann eine E-Rechnung, unabhängig vom Umsatz. Wer seine Rechnungsprozesse ohnehin anfasst, baut die Formate XRechnung oder ZUGFeRD gleich mit ein.

  Beispiel: Auch der kleine Zulieferer mit 300.000 Euro Umsatz stellt ab 2028 strukturierte E-Rechnungen an seine Geschäftskunden.

• KI darf die Rechnung vorbereiten und prüfen, die Verantwortung bleibt bei Ihnen. Eine formal falsche Rechnung ist kein Kavaliersdelikt: Sie kann beim Empfänger den Vorsteuerabzug gefährden und macht Korrekturläufe nötig.

  Beispiel: Die KI erstellt den Rechnungsentwurf aus dem Auftrag und validiert das Format gegen EN 16931; freigegeben und versendet wird von einem Menschen.

Was das Gesetz sagt

Irreführende geschäftliche Handlungen sind unlauter (§ 5 UWG), egal ob ein Mensch oder eine KI sie formuliert. Durchgesetzt wird das vor allem zivilrechtlich: Wettbewerber und Verbände wie die Wettbewerbszentrale mahnen ab und klagen. In der Preiswerbung gegenüber Verbrauchern muss der Gesamtpreis genannt werden (§ 3 PAngV).

Was das für Sie bedeutet

• Was Ihr Chatbot oder Ihre KI-Anzeige behauptet, muss stimmen: Falsche Angaben zu Produkteigenschaften, Preisvorteilen oder Ihrer Qualifikation sind irreführend nach § 5 UWG. Das trifft auch übertriebenes KI-Marketing: Wer mit „KI-basiert“ wirbt, obwohl dahinter wenig KI steckt, führt genauso in die Irre.

  Beispiel: Behauptet Ihre generierte Anzeige einen Testsieg, den es nie gab, riskieren Sie eine Abmahnung; deshalb arbeitet die KI nur mit geprüften, echten Produktdaten.

• Für KI im Vertrieb gelten die bekannten Grenzen des UWG. Werbeanrufe bei Verbrauchern brauchen deren vorherige ausdrückliche Einwilligung, Werbung per E-Mail oder Messenger ebenfalls (§ 7 Abs. 2 UWG). Das gilt auch, wenn eine KI die Kontaktdaten aus Portalen sammelt und die Nachrichten schreibt. Wer ein solches Tool mit dem Versprechen bewirbt, es vermeide rechtliche Risiken, riskiert zusätzlich den Vorwurf der Irreführung (§ 5 UWG).

  Beispiel: Lassen Sie eine KI keine privaten Inserenten anschreiben, deren Nummern sie aus Portalen gezogen hat. Ohne Einwilligung ist das eine unzumutbare Belästigung.

• Werben Sie gegenüber Verbrauchern mit Preisen, muss der Gesamtpreis genannt und bei aufgeteilten Preisbestandteilen hervorgehoben werden (§ 3 PAngV). Eine KI, die Anzeigen oder Angebote generiert, braucht diese Regel fest im Prompt und in der Prüfung.

  Beispiel: Eine generierte Fahrzeuganzeige mit Monatsrate nennt immer auch den hervorgehobenen Gesamtpreis, nicht nur „ab 199 Euro im Monat“.

• Seit dem 2. August 2026 gilt zusätzlich die Kennzeichnungspflicht der KI-Verordnung: Realistisch wirkende KI-Bilder und Deepfakes in Ihrer Werbung müssen als KI-generiert erkennbar sein. Ob Wettbewerber eine fehlende Kennzeichnung auch nach dem UWG abmahnen können, ist gerichtlich noch nicht geklärt. Rechnen Sie damit.

  Beispiel: Ein täuschend echtes KI-Model in Ihrer Kampagne bekommt einen KI-Hinweis, bevor die Anzeige live geht.

Was das Gesetz sagt

KI für Einstellung, Kandidatenauswahl und Entscheidungen über Arbeitsverhältnisse ist Hochrisiko-KI nach Anhang III der KI-Verordnung. Führen Sie Tools ein, die Verhalten oder Leistung von Beschäftigten überwachen können, bestimmt der Betriebsrat mit (§ 87 Abs. 1 Nr. 6 BetrVG). Diskriminierende Ergebnisse einer KI-Auswahl verstoßen gegen das AGG.

Was das für Sie bedeutet

• Sortiert eine KI Bewerbungen vor, rankt Kandidaten oder wirkt an Beförderungen und Kündigungen mit, gilt sie als Hochrisiko-System (Anhang III Nr. 4 KI-VO). Ihre Pflichten als Betreiber gelten nach der Änderung durch die Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027. Dazu gehören menschliche Aufsicht, die Kontrolle der Eingabedaten, Protokolle und die Information der Betroffenen. DSGVO, AGG und die Mitbestimmung des Betriebsrats gelten schon heute.

  Beispiel: Ihre KI schlägt eine Shortlist vor, aber ein Recruiter sieht jede aussortierte Bewerbung ein und kann die Entscheidung kippen; kein Kandidat fliegt allein wegen eines KI-Scores raus.

• Hat Ihr Betrieb einen Betriebsrat, holen Sie ihn vor dem Rollout an den Tisch: Technische Einrichtungen, die Verhalten oder Leistung der Beschäftigten überwachen können, unterliegen der Mitbestimmung. Ohne Einigung oder Spruch der Einigungsstelle dürfen Sie das Tool nicht einführen, und der Betriebsrat kann sie per Unterlassung stoppen.

  Beispiel: Ein KI-Tool, das Antwortzeiten und Abschlussquoten im Vertrieb auswertet, führen Sie erst nach einer Betriebsvereinbarung ein.

• Nutzen Sie KI, um Auswahlrichtlinien für Einstellungen, Versetzungen oder Kündigungen aufzustellen, braucht das die Zustimmung des Betriebsrats (§ 95 Abs. 1 und 2a BetrVG). Kommt keine Einigung zustande, entscheidet die Einigungsstelle.

  Beispiel: Legt Ihr Screening-Tool fest, nach welchen Kriterien Bewerbungen aussortiert werden, stimmen Sie diese Kriterien vorher mit dem Betriebsrat ab.

• Bewertet die KI Bewerber verzerrt, haften Sie, nicht der Tool-Anbieter: Benachteiligungen wegen Alter, Geschlecht, Herkunft oder anderer AGG-Merkmale lösen Entschädigungsansprüche aus. Die systematische automatisierte Bewerberbewertung verlangt zudem regelmäßig eine Datenschutz-Folgenabschätzung.

  Beispiel: Fällt auf, dass Ihr Screening ältere Bewerber systematisch schlechter bewertet, richten sich die AGG-Ansprüche gegen Ihr Unternehmen; deshalb testen Sie das Tool vor dem Einsatz auf Verzerrungen.

• Emotionserkennung am Arbeitsplatz ist seit dem 2. Februar 2025 verboten, in der höchsten Bußgeldklasse. Eine Ausnahme gibt es nur aus medizinischen oder Sicherheitsgründen. Das Verbot gilt für Bewerbungsgespräche genauso wie für den laufenden Betrieb.

  Beispiel: Eine Software, die im Videointerview die Nervosität der Kandidaten analysiert, dürfen Sie nicht einsetzen, auch nicht als „Zusatzsignal“.

Was das Gesetz sagt

Das KI-MIG setzt auf ein hybrides Modell: Die Bundesnetzagentur ist zentrale Marktüberwachungsbehörde, die bestehenden Fachaufsichten behalten aber ihre Zuständigkeit. Im Finanzsektor ist das die BaFin. Für den Kfz-Handel gibt es kein eigenes KI-Gesetz; dort gilt der allgemeine Rahmen.

Was das für Sie bedeutet

• Die BaFin ist nach § 2 Abs. 3 KI-MIG Marktüberwachungsbehörde für KI-Systeme, die direkt mit einer regulierten Finanztätigkeit zusammenhängen und von beaufsichtigten Unternehmen eingesetzt werden. Das gilt nicht nur für Hochrisiko-KI. 2026 erarbeitet die BaFin ein Konzept, wie sie diese Aufsicht im Haus verankert. Schon heute beaufsichtigt sie den KI-Einsatz über die bestehenden Regelwerke. Wer im Finanzsektor KI einführt, plant die BaFin also von Anfang an als Ansprechpartner ein.

  Beispiel: Eine Fondsgesellschaft, die Kundenanfragen mit KI beantwortet, dokumentiert den Einsatz so, dass sie ihn der BaFin jederzeit erklären kann.

• Die BaFin hat im Dezember 2025 eine Orientierungshilfe zu IKT-Risiken beim KI-Einsatz veröffentlicht, eingebettet in die DORA-Anforderungen. Ihre Erwartungen: KI-Ergebnisse müssen dem Risiko angemessen erklärbar und überprüfbar sein, und die Abhängigkeit von wenigen Cloud- und KI-Anbietern ist als Konzentrationsrisiko zu managen.

  Beispiel: Ein Zahlungsdienstleister hält fest, wie sein Betrugsmodell zu einer Entscheidung kommt, und hat einen Plan für den Fall, dass der KI-Anbieter ausfällt.

• KI ist im Bankensektor längst Alltag. Nach einer Umfrage der EBA unter bedeutenden Banken stieg die Nutzung generativer KI von rund 40 Prozent Ende 2024 auf über 60 Prozent im ersten Quartal 2025. Die BaFin warnt zugleich vor Gleichlaufrisiken, wenn viele Institute ähnliche Modelle nutzen.

  Beispiel: Wer als kleineres Institut nachzieht, profitiert davon, dass die Aufsichtserwartungen schon formuliert sind, und baut Erklärbarkeit von Anfang an ein.

• Für Autohäuser und den Kfz-Handel gibt es kein eigenes KI-Gesetz. Es gilt der allgemeine Rahmen: Chatbot-Transparenz nach Art. 50 KI-VO seit dem 2. August 2026, AVV und DSGVO für Lead- und WhatsApp-Daten, § 5 UWG für generierte Werbung und § 3 PAngV für Preisangaben.

  Beispiel: Ein Autohaus braucht keine Sondergenehmigung für seinen KI-Assistenten; es hakt die allgemeine Liste ab: KI-Hinweis im Chat, AVV mit dem Anbieter, Gesamtpreis in jeder Anzeige.