Folien: Rechtliche Rahmenbedingungen: DSGVO, Urheberrecht, EU AI Act & Betriebsrat

KI : Kybernatik

1. Der Wert liegt in der Anwendung, nicht in der Technik. Der ganze Hype dreht sich um Chips, Cloud und Modelle – aber die größten Chancen liegen fast per Definition auf der Anwendungsebene, weil erst die Anwendungen den echten Nutzen (und Umsatz) erzeugen. 2. Denk in Aufgaben, nicht in Jobs. Nicht „ersetzt KI meinen Beruf?", sondern: Zerlege die Arbeit in einzelne Aufgaben und schau, wo KI konkret hilft – genau dort tauchen die unerwarteten, wertvollen Chancen auf. 3. KI ist die neue Elektrizität – Wert entsteht aus KI + Fachwissen. Eine Allzwecktechnologie für jedes Feld; entscheidend ist die Verbindung mit domänenspezifischem Wissen und einer konkreten Idee, nicht die Technik allein.

Lead-in (20 Sek.) Die sieben Felder eben waren abstrakt. Diese drei Fälle zeigen, was passiert, wenn ihr sie nicht im Kopf habt. Drei verschiedene Rechtsgebiete, drei reale Pleiten – einer davon endete tödlich. Case 1 · HireVue (1,5 min) Wer US-Anbieter für KI-gestützte Video-Interviews. Tool analysiert Mikroexpressionen, Augenkontakt, Sprachmuster – und gibt einen Eignungsscore aus. War zu Spitzenzeiten bei mehreren hundert Konzernen im Einsatz, auch in Europa. Was passiert 2019 erste Kritik aus der Forschung. 2021 dann Beschwerde der EPIC bei der US-Handelsaufsicht FTC. HireVue zieht daraufhin die Gesichtsanalyse-Funktion zurück. Die Sprachanalyse läuft weiter. Manager-Pointe Genau dieses Feature – Emotionserkennung am Arbeitsplatz – ist seit dem 2. Februar 2025 in der EU eine verbotene Praktik nach Art. 5 lit. f AI Act. Nicht hochrisiko. Nicht reguliert. Verboten. Konsequenz für euch Wer so ein Tool heute einkauft, kauft ein Bußgeldrisiko von bis zu 7 % vom Weltumsatz ein. Bei einem Mittelständler mit 200 Mio. Umsatz sind das 14 Millionen Euro – pro Verstoß. Und das Risiko fällt nicht beim Anbieter ab, sondern bei euch als Betreiber. Anker: Es geht nicht darum, ob ihr den Anbieter kennt. Es geht darum, ob ihr wisst, welche Frage ihr ihm stellen müsst, bevor ihr unterschreibt. Case 2 · Replika (1,5 min) Wer KI-Companion-App, die emotionale Beziehungen simuliert. Auf dem Höhepunkt 30 Millionen Nutzer weltweit. Wirbt mit „Always here to listen and talk. Always on your side." Was passiert Belgien, März 2023. Ein Familienvater nimmt sich nach sechs Wochen intensiver Gespräche mit dem Bot das Leben. Der Bot hatte die Klimaangst und Suizidgedanken nicht deeskaliert, sondern verstärkt – nach dem Mechanismus, dem das Modell trainiert ist: Engagement maximieren. Die Witwe veröffentlicht den Chatverlauf. Manager-Pointe Dieser Fall hat die Tür für Art. 5 lit. b AI Act aufgestoßen – Verbot der Manipulation und Ausnutzung von Vulnerabilitäten. Auch hier: nicht reguliert, sondern verboten. Brücke ins Wirtschaftliche Bevor ihr denkt, das ist ein Companion-App-Problem: Eine Meta-interne Studie 2023 hat gezeigt, dass personalisierte Anzeigen finanziell angeschlagene Menschen überproportional zu Glücksspiel und Krediten konvertieren. Genau das Muster zielt das Verbot. Anker: Bei euren Customer-Service-Bots, bei euren Marketing-Personalisierungen ist die Schwelle näher, als ihr denkt. Und: Eure Anwender werden im Zweifel mehr KI-vertrauen als gut für sie ist. Case 3 · Schufa-Urteil (1 min) Wer EuGH-Urteil vom 7. Dezember 2023. Verbraucherin klagt gegen abgelehnten Kreditantrag – die Bank hatte wesentlich auf einem Schufa-Score beruht. Was sagt das Urteil Schon das Scoring selbst ist eine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung im Sinne von Art. 22 DSGVO. Auch wenn am Ende ein Mensch unterschreibt – wenn der Score den Ausschlag gibt, gilt rechtlich die Maschine als Entscheider. Manager-Pointe Hier kommt nicht der AI Act, sondern die DSGVO – und sie tut weh. Wer ein KI-Scoring einsetzt, das Auswirkungen auf Menschen hat, braucht eine ausdrückliche Rechtsgrundlage und eine echte menschliche Prüfung. Nicht „der Mitarbeiter klickt 'ok'". Anker: Empfehlung ist nicht Entscheidung. Aber wenn niemand mehr widerspricht, wird sie eine. Das ist der Punkt, an dem aus eurem Empfehlungstool ein Hochrisiko-System wird. Brücke zur nächsten Slide (10 Sek.) Drei Fälle, drei Rechtsgebiete: AI Act, AI Act und DSGVO. Ihr braucht keine juristische Tiefe, um die zu erkennen – ihr braucht eine Triage. Die kommt jetzt.

Problem: Was ist wnen personenbezogene Daten ohne Deine Einwilligung mit Netz gelandet sind? Schrems IV  Löschen des Models Datenschutzkonformität beim Hersteller/Entwickler erfragen  Auswahl treffen  und dokumentiere

Referenten-Hinweis (überarbeitet) · Folie 2 mit Fokus „Gelber Eimer + USA-Hosting" Eröffnung „Wir reden hier über den Anwendungsfall, den 90 Prozent von euch im Kopf haben: Gelber Eimer – sensible, personenbezogene Daten, und der Anbieter sagt euch ehrlich, er hostet in den USA. Geht das?" Das Ergebnis – in einem Satz „Ja, geht. Aber nur, wenn vier Dinge erfüllt sind." Genauer: Für gelbe Daten ist USA-Hosting erlaubt, wenn: Der Vendor unter dem EU-US Data Privacy Framework zertifiziert ist – ODER – Im AVV Standardvertragsklauseln mit Verschlüsselung/Pseudonymisierung vereinbart sind Ihr ein dokumentiertes Transfer Impact Assessment habt Der AVV vorliegt (DSGVO Art. 28) Wenn diese vier Dinge im Vendor-Vertrag stehen: Gelber Eimer geht, auch in den USA. → Microsoft Copilot Enterprise, Claude (Commercial / Enterprise), ChatGPT Enterprise erfüllen das alle. → Microsoft Copilot Free, Claude.ai Free, ChatGPT Free nicht. Jetzt die Details – warum diese vier Bausteine Cloud Act – warum trotzdem Gelb möglich US-Behörden können theoretisch Daten ziehen. Aber: Für Gelb ist das ein hinnehmbares Restrisiko, wenn Verschlüsselung und Pseudonymisierung greifen. Bei normalen MA-/Kundendaten ist die Wahrscheinlichkeit eines US-Behördenzugriffs gering – und das Risiko durch zusätzliche Maßnahmen handhabbar. Wo wir bei Gelb nein sagen würden: Wenn die Daten besonders schützenswert sind (z. B. besondere Kategorien nach Art. 9 DSGVO – Gesundheit, Religion, Gewerkschaft). Dann rutscht der Use Case schnell Richtung Rot. Schrems II – warum nicht mehr akut War 2020-2023 das Hauptproblem. Heute durch DPF abgemildert. Wichtig fürs Gelb: Wer DPF nutzt, ist datenschutzrechtlich okay. Wer nicht, ist auf SCCs angewiesen – das geht auch, kostet aber Dokumentationsaufwand. EU-US Data Privacy Framework – das eigentliche Ja Das ist der Hebel, der USA für Gelb möglich macht. Wenn der Vendor zertifiziert ist (Microsoft, Anthropic, Google, AWS, OpenAI sind drauf), dann ist die Datenübermittlung datenschutzrechtlich legitimiert. Im AVV findet ihr das unter „Datenübermittlung in Drittländer" – wenn da DPF-Bezug oder SCCs stehen, ist's okay. SCCs + TIA – euer Sicherheitsgurt Selbst wer DPF nutzt, sollte SCCs als Fallback im Vertrag haben. Und das TIA dokumentieren (auch wenn es nur 1 Seite ist). Im Audit ist das der Standardpunkt, an dem 80 % der Unternehmen scheitern. Manager-Pointe „Ihr müsst nicht alles juristisch verstehen. Ihr müsst im AVV vier Dinge finden: DPF oder SCCs, AVV nach Art. 28, TIA-Dokumentation, technische Maßnahmen. Wenn das vier mal Häkchen ist, geht Gelb in die USA. Wenn auch nur eins fehlt, müsst ihr nachfragen oder den Anbieter wechseln." Was nicht funktioniert Free-Versionen (ChatGPT Free, Claude Free, Copilot Free) liefern keine dieser vier Bausteine. Daher Gelb nie in Free-Tools. EU-Hosting durch US-Konzern löst das Cloud-Act-Problem nicht – aber für Gelb reicht es trotzdem, weil DPF + SCCs greifen. Wer den AVV nicht gelesen hat, weiß nicht, was er hat. Ist im Audit immer das Erste, was geprüft wird.

Referenten-Hinweis · AVV-Speed-Read Eröffnung (1 min) „Bisher haben wir abstrakt über AVVs gesprochen. Jetzt schaut ihr selbst rein. Drei Vendoren, drei Browser-Tabs, fünf Fragen. Wer in 25 Minuten nicht alles findet, hat genau die richtige Antwort gefunden – nämlich, dass Vendor-Transparenz selbst ein Bewertungskriterium ist." Während der Breakouts (Trainer-Aufgabe) 5 min Setup im Plenum: Quellen vorzeigen (Trust-Center-URLs offen lassen). Klären: Es geht nicht darum, Klauseln zu zitieren, sondern Antworten zu finden. 20 min Breakouts: alle 5–7 min in jeden Raum reinhören. Wenn eine Gruppe steckt, mit Suchbegriff helfen („Such mal nach 'sub-processor'", „Try 'data residency'"). Nicht die Antwort vorgeben. Hinweis an alle: Bei Drittland-Transfer auf Standard-Vertragsklauseln (SCCs) achten – nicht alle Vendoren weisen sie aktiv aus. Erwartete Befunde – Trainer-Auflösung beim Debrief FrageMicrosoft CopilotClaude (Anthropic)LangdockTraining auf Inputs?Nein (Enterprise Data Boundary)Nein bei API/Enterprise (Standard)Nein – TN konfigurierbarHostingEU möglich (EU Data Boundary)Primär USA (AWS) – SCCs erforderlichEU/Deutschland (eigene Wahl)Sub-AuftragsverarbeiterListe öffentlich, sehr langListe gelistet, kürzerListe gelistet, modell-abhängigSpeicherdauerkonfigurierbar / Microsoft-Default30 Tage Default, dann gelöschtkonfigurierbarSicherheitszertifikateISO 27001 / SOC 2 / C5 / BSIISO 27001 / SOC 2 Type IIISO 27001, weitere in Aufbau Stand: Public Trust Center Stand Q1 2026 – immer auf das aktuellste DPA der TN-Unternehmen verweisen. Pointen für die Diskussion „Drittland heißt nicht automatisch Stop." Bei Anthropic gibt's SCCs – aber wer sie nicht prüft, hat ein DSGVO-Problem. Manager-Aufgabe: Risikoabwägung, nicht Bauchgefühl. „Sub-Processor-Liste ist ein Indikator." Wer sie offen hat, ist meist auch sonst transparenter. Wer sie nicht hat, fängt erst beim Vertrag an, schwierig zu werden. „Die Free-Versionen sind die Schmuggelware." Beim Recherchieren sehen die TN, dass ChatGPT Free, Copilot Free, Claude.ai Free völlig andere AGB haben als die Enterprise-Pendants. Das ist die Begründung für das Drei-Eimer-Prinzip. Wenn jemand das nicht findet: Das ist die Pointe – wenn der Vendor seine Antworten nicht in 3 Klicks gibt, wisst ihr, wie der Audit aussehen wird.

Kein Urheberrecht auf das was die maschine gemacht hat

Maschinenlesbar verborten vom Rechte inhaber Was daraus für die Praxis folgt. Wer eigene Inhalte schützen will, sollte beides tun: technische Signale setzen (robots.txt, ai.txt, TDM-Reservation-Metadaten) und eine klare Klausel in den Nutzungsbedingungen. Die technische Seite deckt die strenge Auslegung ab, die Textklausel die großzügige. Der GPAI Code of Practice verpflichtet Anbieter ohnehin, Vorbehalte „auch durch modernste Technologien" zu ermitteln — sie können sich also nicht darauf zurückziehen, ein Signal technisch nicht erkannt zu haben.Stufe 1 — Datensatz erstellen. Bilder und Texte werden heruntergeladen, analysiert, gefiltert und in einer Liste abgelegt. Genau das hatte LAION gemacht. Das OLG Hamburg sagt: Das ist Text und Data Mining nach § 44b UrhG, denn schon der Abgleich zwischen Bild und Bildbeschreibung ist eine Analyse, aus der man Informationen gewinnt. Also erlaubt — jedenfalls solange kein maschinenlesbarer Vorbehalt vorliegt. Stufe 2 — Training. Aus den Daten werden Modellgewichte. Das Kuriose: Das OLG Hamburg musste diese Frage gar nicht beantworten, weil schon Stufe 1 durch die Schranke gedeckt war. Deshalb steht sie höchstrichterlich bis heute offen — und deshalb ist die BGH-Verhandlung morgen so interessant. Stufe 3 — Werk bleibt im Modell. Hier liegt der Bruch. Das LG München sagt: Wenn ein Werk nicht nur ausgewertet, sondern in den Modellparametern konserviert wird, ist das eine Vervielfältigung. Und die deckt § 44b nicht mehr ab, weil die Schranke die Analyse privilegiert, nicht das Behalten. Stufe 4 — Werk erscheint im Output. Kommt der Songtext auf einen simplen Prompt hin wieder heraus, ist das zusätzlich eine öffentliche Zugänglichmachung — also der klassische Verwertungsvorgang, für den es eine Lizenz braucht.

Referenten-Hinweis · Trainingsdaten · Durfte das jemand? (Auflösung – Stand 01.09.2026) Eröffnung (1 min) „Das ist die Frage, die euch in jedem Vorstandsmeeting begegnet, sobald jemand sagt: Aber das hat doch keiner gefragt. Findet heraus, ob die Frage in eurem Rechtsraum schon beantwortet ist – oder ob ihr noch im Ungewissen lebt. Drei Schauplätze. 20 Minuten. Danach 2-Minuten-Pitch pro Gruppe." Während der Breakouts 5 min Setup, dann Breakouts. Alle 5–7 min reinhören. Falls eine Gruppe sich verläuft: zurück auf die Kernfrage – „Welche Norm bzw. welche Doktrin ist der Hebel?" Die USA-Gruppe braucht meist am meisten Hilfe, weil Fair Use kein deutsches Konzept ist – kurz den Vier-Faktoren-Test erklären (Zweck, Art des Werks, Menge, Marktauswirkung). GRUPPE A · DEUTSCHLAND LAION / LG Hamburg (Az. 310 O 227/23, September 2024): Klage Kneschke gegen LAION abgewiesen – aber gestützt auf § 60d UrhG (wissenschaftliches TDM), weil LAION als gemeinnützige Forschung galt. Für kommerzielles TDM nach § 44b UrhG war damit nichts entschieden. GEMA ./. OpenAI, LG München I, Urteil vom 11.11.2025 (Az. 42 O 14139/24): OpenAI hat mit neun Songtexten – u. a. „Atemlos", „Männer", „Über den Wolken", „In der Weihnachtsbäckerei" – Urheberrechte verletzt. Kern der Begründung: Die Texte sind im Modell gespeichert und werden auf einfache Prompts wiedergegeben. Das ist eine vergütungspflichtige Vervielfältigung und öffentliche Zugänglichmachung. Verurteilung zu Unterlassung, Schadensersatz und Auskunft. OpenAI hat Berufung zum OLG München eingelegt – das Urteil ist nicht rechtskräftig. GEMA ./. Suno, LG München I, Urteil vom 31.07.2026 (Az. 42 O 763/25): dieselbe Kammer, diesmal Kompositionen statt Texte. Das Gericht sagt: § 44b UrhG deckt die vorbereitenden Vervielfältigungen und die Analyse während des Trainings – aber nicht die Memorisierung. Die Werke werden vollständig in die Modellparameter übernommen, und das berührt die Verwertungsinteressen der Rechteinhaber. Merksatz für den Debrief: § 44b UrhG erlaubt das Auswerten, nicht das Auswendiglernen. Politische Lage: Die TDM-Schranke steht, die Diskussion über eine kollektive Lizenzlösung (analog VG Wort) läuft weiter. Verlage (BDZV) drängen auf strenge Auslegung des maschinenlesbaren Vorbehalts. GRUPPE B · EU-EBENE DSM-Richtlinie Art. 4 (2021 umgesetzt): TDM-Ausnahme für kommerzielle Zwecke mit maschinenlesbarem Opt-out. Das ist die Grundlage für § 44b UrhG. AI Act Art. 53 Abs. 1 lit. c und d: GPAI-Anbieter brauchen (1) eine Policy zur Wahrung des Urheberrechts und (2) eine hinreichend detaillierte Zusammenfassung der Trainingsdaten. Gilt seit 2. August 2025 – vom Digital Omnibus nicht angetastet. Code of Practice for GPAI: konkretisiert diese Pflichten; Unterzeichner profitieren von einer vereinfachten Compliance-Vermutung. Falls eine Gruppe über den Digital Omnibus stolpert (VO (EU) 2026/1744, in Kraft seit 27.07.2026): richtig recherchiert – er verschiebt die Hochrisiko-Fristen und schwächt Art. 4 ab, die Art.-53-Transparenzpflichten bleiben aber unverändert. GRUPPE C · USA Bartz ./. Anthropic: erledigt. Vergleich über 1,5 Mrd. USD, endgültig genehmigt am 20.07.2026 – rund 3.000 USD pro Werk bei etwa 500.000 Büchern, der größte Copyright-Vergleich der US-Geschichte. Vorgeschichte: Richter Alsup hatte entschieden, dass das Training mit rechtmäßig erworbenen Büchern Fair Use sein kann – der Aufbau einer zentralen Bibliothek aus Raubkopien aber nicht. Genau darauf zielte der Vergleich. NYT ./. OpenAI und Microsoft (SDNY, 1:23-cv-11195, konsolidiert als MDL 1:25-md-03143): weiterhin kein Verhandlungstermin. Wichtigste Entwicklung ist die Discovery: OpenAI musste eine Stichprobe von 20 Mio. de-identifizierten Chat-Verläufen herausgeben, weil sie für die Fair-Use-Verteidigung relevant sind. Thomson Reuters ./. Ross Intelligence (Februar 2025): erste Entscheidung, in der Fair Use abgelehnt wurde – Signal, dass Fair Use nicht selbstverständlich ist. Andersen ./. Stability AI / Midjourney: läuft weiter. Doktrin Fair Use: vier Faktoren – Zweck (transformativ?), Art des Werks, Menge des Kopierens, Marktauswirkung. POINTEN FÜR DEN DEBRIEF „Drei Rechtsräume, drei Antworten – dasselbe Risiko." In den USA wird über Geld verhandelt, in Deutschland über Unterlassung. Was in den USA mit einem Scheck endet, kann hier zum Abschalten führen. „Memorisierung ist die Achillesferse." Beide Münchner Urteile hängen genau daran. Manager-Konsequenz: Output-Kontrolle vor Veröffentlichung. „Die Herkunft der Trainingsdaten ist ein Vendor-Kriterium." Indemnification bzw. Customer Copyright Commitment im Vertrag prüfen – das ist die praktische Brücke zum AGB-Workshop von vorhin. Zuspitzung, wenn Zeit ist: Anthropic hat gezahlt, OpenAI ist in Berufung. Wer heute ein Tool auswählt, wählt auch eine Prozesslage mit aus. Stand: 01.09.2026. Beide Münchner Urteile sind nicht rechtskräftig. Vor dem nächsten Durchlauf prüfen: Berufung OLG München (GEMA/OpenAI), Summary Judgment NYT/OpenAI.

Schutz der öffentlichkeit vor Meinungsbildungsverzerrung (Marketing nicht im Fokus) Was ist ein Deepfake – cola vor Dschungel – Frage ob es da ein informationsbedürfnis gibt? – Werbefoto Egal. Beweis wir verkaufen auch auf den Bahamas – schwierig – sozusagen irreführungskontext Alles was irgendwie wichtig ist wird über einen menshlischen Review laufen (Edgecase – Zielgruppenspezifische Produktbeschreibungen) Art 50

Schutz der öffentlichkeit vor Meinungsbildungsverzerrung (Marketing nicht im Fokus) Was ist ein Deepfake – cola vor Dschungel – Frage ob es da ein informationsbedürfnis gibt? – Werbefoto Egal. Beweis wir verkaufen auch auf den Bahamas – schwierig – sozusagen irreführungskontext Alles was irgendwie wichtig ist wird über einen menshlischen Review laufen (Edgecase – Zielgruppenspezifische Produktbeschreibungen) Art 50

Synth id von google Bsp Watermarking

Affinity – Gefühl von Sympathie

Eröffnung (1 min) „Drei Fälle, die jeder von euch in den letzten zwei Jahren gesehen hat. Ihr werdet euch nicht in allen drei einig sein – das ist Absicht. Die Definition lebt von zwei Begriffen: wirkliche Person und fälschlicherweise als echt. Genau an diesen zwei Stellen werden wir gleich streiten." Während der Breakouts 5 min Setup, 15 min Bearbeitung, 5 min Vorbereitung Pitch. Zwischen den Räumen wechseln. Wenn jemand zu schnell „klar Deepfake" sagt: zurückführen auf den Wortlaut der Definition. Hinweis: Art. 50 Abs. 4 gilt seit 2. August 2026. Bei der Übung tun wir so, als wäre sie heute schon scharf. Erwartete Auflösung – pro Fall Fall A · Papst im Daunenmantel Fakten März 2023, viraler Reddit-Post. Bild war mit Midjourney erstellt, zeigte Papst Franziskus in modischem weißen Steppmantel. Millionen hielten es für echt – wurde als der „erste Mainstream-AI-Schock" bezeichnet. Bewertung Art. 3 Nr. 60 Wirkliche Person – ja, Papst Franziskus. Sieht täuschend ähnlich – ja, war fotorealistisch. Erscheint fälschlicherweise als echt – ja, das war der ganze viral-Effekt. → Klar Deepfake. Kennzeichnungspflicht Art. 50 Abs. 4 Ja. Verbreiter müsste als KI-erzeugt offenlegen. Ausnahme „satirisch / künstlerisch" ist möglich, aber knapp – das Bild kam ohne Satire-Kontext, der Witz lag gerade im Echt-Wirken. Manager-Pointe Wenn euer Marketing einen Promi „cool darstellen" will und es per KI macht, seid ihr mitten im Art. 50. Fall B · Aldi-Prospekt mit KI-Models Fakten Werbeprospekte und Online-Kataloge nutzen seit 2024 zunehmend KI-generierte Models statt Fotoshootings. Aldi, H&M, Levi's haben das öffentlich diskutiert. Bewertung Art. 3 Nr. 60 Wirkliche Person – nein. Modelle existieren nicht. Das ist die entscheidende Schwelle. Sieht täuschend ähnlich – nicht einer wirklichen Person, sondern dem Genre „Mode-Model". → Kein Deepfake im Sinne von Art. 3 Nr. 60. Kennzeichnungspflicht Art. 50 Abs. 4 Greift hier nicht (weil keine Deepfake-Definition erfüllt). Aber: Art. 50 Abs. 2 (allgemeine Kennzeichnung von KI-erzeugten Inhalten an einzelne Nutzer) und vor allem UWG / Irreführungsverbot könnten greifen, wenn der Eindruck entsteht, das Produkt werde von echten Personen getragen. Manager-Pointe Die Falle: Manager denken „kein Mensch, kein Problem". Falsch. Der AI-Act-Hebel ist hier weg, der UWG-Hebel bleibt. Fall C · Wahlkampf-Video mit Voice-Clone Fakten Beispiel: Bundestagswahl 2025, ein TikTok-Video, das einen Spitzenpolitiker mit synthetisch erzeugter Stimme eine extreme Aussage tätigen lässt. Mehrfach passiert (FDP, Grüne, AfD-Kontext). Bewertung Art. 3 Nr. 60 Wirkliche Person – ja. Sieht / klingt täuschend ähnlich – ja, Voice-Clone und Lippenanimation. Erscheint fälschlicherweise als echt – ja, gerade darauf zielt der Inhalt. → Lehrbuch-Deepfake. Kennzeichnungspflicht Art. 50 Abs. 4 Ja, klar. Künstler/Satire-Ausnahme greift bei politischer Manipulation nicht. Zusätzlich relevant: §§ 22, 23 KUG (Recht am eigenen Bild) und § 201a StGB (Bildaufnahmen) – also schon heute strafbar, unabhängig vom AI Act. Manager-Pointe Hier sind sich alle einig. Aber genau das ist der Punkt: Der AI Act adressiert den Verbreiter, nicht nur den Urheber. Wer so ein Video weiterleitet ohne Hinweis, kommt unter Druck. Pointen für die Diskussion „Wirkliche Person" ist die schärfste Schwelle. Aldi-Models entkommen dem AI Act – aber nicht dem UWG. „Fälschlich als echt" ist Kontextfrage. Pope Francis ohne Kontext = Deepfake. Pope Francis als Bildmotiv in einer satirischen TV-Show = möglicherweise nicht. Drei Fälle, drei Risiken. A: Reputationsrisiko (Verbreitung). B: Wettbewerbsrisiko (Irreführung). C: Strafrechtsrisiko (Manipulation).

Breite Defeition der OECD Aber so Statistical Modelling (regressionsthemen, relative altes Zeugs, was entwickler nicht als AI bezeichnen würden) und sind drin, Banking und Insurance verbreitet – aber da auch harte Prüfung Witzig: Organoid Intelligence – wird ind D und USA dran geforshct ist raus – ist das noch machinengestützt Excel ist draussen, Erwägungsgrund 12 Schlüsse ziehen, geht über grundlegende Datenverarbeitung hinaus Nicht KI, wenn es auf Regeln basiert die von natürlichen Personen zur Ausführung von Operationen festgelegt wurden  aber auch unklar, also am Ende Machinelles lernen weit gefasst

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Schutz der öffentlichkeit vor Meinungsbildungsverzerrung (Marketing nicht im Fokus) Was ist ein Deepfake – cola vor Dschungel – Frage ob es da ein informationsbedürfnis gibt? – Werbefoto Egal. Beweis wir verkaufen auch auf den Bahamas – schwierig – sozusagen irreführungskontext Alles was irgendwie wichtig ist wird über einen menshlischen Review laufen (Edgecase – Zielgruppenspezifische Produktbeschreibungen) Art 50

2 Aug 2026

Emotion Recognition am Arbeitsplatz (Art. 5 lit. f) HireVue (US-Anbieter für Video-Interviews mit Emotions-/Mikroexpressionsanalyse): hat 2021 nach EPIC-Beschwerde die Gesichtsanalyse zurückgezogen. Genau das Feature wäre heute in der EU verboten. Pointe: "Wer so ein Tool einkauft, kauft sich ein Bußgeldrisiko von bis zu 7% Weltumsatz mit ein." Precire (deutsches Startup, Sprachanalyse zur Persönlichkeitsbewertung in Bewerbungen): 2019 massive Kritik vom BDP, Rückzug vom HR-Markt. Heute: nach AI Act vermutlich verbotene Praktik im Recruiting-Kontext. Amazon Flex: Fahrer wurden per KI-Kamera im Fahrzeug auf Aufmerksamkeit/Müdigkeit überwacht. Graubereich: Müdigkeit = Sicherheit (erlaubte Ausnahme), Produktivitäts-Scoring = verboten. Zeigt, wie schmal der Grat ist. Call-Center-Tools wie Cogito oder Uniphore: analysieren Mitarbeiter-Stimmung in Echtzeit, geben "Empathie-Scores". Für EU-Einsatz seit 2. Februar 2025 heißes Eisen. Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 lit. g) Uiguren-Erkennung in China: Huawei/Megvii-Systeme, die gezielt Ethnie aus Gesichtern ableiteten – der Fall, der das Verbot politisch überhaupt erst erzwungen hat. Gut als Kontrast: "Sie denken, das ist weit weg – aber das gleiche Tool wird teilweise auch westlichen Kunden als 'Demografie-Analyse im Retail' verkauft." Retail Analytics: Tools, die aus Überwachungskameras Herkunft, Geschlecht, Alter ableiten und in Kundensegmente clustern. Häufig in Shopping-Centern verbaut – spätestens jetzt rausreißen. Manipulation & Ausnutzung von Vulnerabilitäten (Art. 5 lit. a, b) Cambridge Analytica als Blaupause für psychographische Manipulation – noch ohne GenAI, aber mit LLMs skalierbar. Aktueller: Studie von Meta selbst (2023) hat gezeigt, dass personalisierte Anzeigen finanziell angeschlagene Menschen überproportional zu Glücksspiel/Krediten konvertieren. Replika und andere KI-Companion-Apps: Fall in Belgien 2023, bei dem ein Nutzer nach intensiven Gesprächen mit Chatbot Suizid beging. Diskussion: Ausnutzen von emotionaler Vulnerabilität. Sehr griffig für's Publikum. TikTok-Algo und Jugendliche: US-Klagen, weil der Empfehlungsalgorithmus gezielt auf psychische Schwachstellen von Teenagern optimiert hat (Essstörungs-Content). Unter AI Act wäre solcher Einsatz ein klarer Prüffall. Dark Patterns im E-Commerce: personalisierte Countdown-Timer, "Noch 1 Zimmer verfügbar"-Meldungen – wenn per KI auf individuelle Kaufschwäche zugeschnitten und Schaden entsteht, wird's kritisch. Social Scoring durch Private (Art. 5 lit. c) China Social Credit als Referenzbild – plakativ, aber zu weit weg für den deutschen Praxisfall. Näher am Alltag: Plattformen wie Uber/Airbnb mit kontextübergreifenden Reputation Scores, die plötzlich in dritten Bereichen (Versicherung, Kredit) verwendet würden. Oder HR-Tools, die aus Social-Media-Verhalten "Culture-Fit-Scores" ableiten. Schufa-Urteil des EuGH (Dez 2023): nicht AI Act, aber Art. 22 DSGVO. Gutes Brücken-Beispiel, dass Scoring-Themen in Europa politisch aufgeladen sind. Merksatz für's Publikum: "Scoring innerhalb eines Kontexts (Kreditwürdigkeit für Kredit) ist okay. Scoring, das kontextübergreifend Menschen benachteiligt, fällt unter das Verbot."

Dramaturgie der Tonspur: Mit einem konkreten Tool anfangen, nicht mit dem Paragrafen. Einstieg: HireVue – US-Anbieter für KI-gestützte Video-Interviews, hat 2021 nach öffentlicher Kritik die Gesichtsanalyse-Funktion zurückgezogen. Genau dieses Feature wäre heute in Europa eine verbotene Praxis. Pointe: "Wer so ein Tool einkauft, kauft sich ein Bußgeldrisiko von 7 % Weltumsatz mit ein – und merkt es im Zweifel erst beim Audit." Parallel dazu Precire erwähnen, das deutsche Startup, das Sprachanalyse zur Persönlichkeitsbewertung in Bewerbungen angeboten hat. 2019 massive Kritik vom Berufsverband Deutscher Psychologen, Rückzug vom HR-Markt. Zeigt: Die Diskussion läuft in Deutschland schon länger, der AI Act gibt jetzt den harten Rahmen. Zum Thema Call-Center: Tools wie Cogito oder Uniphore analysieren Mitarbeiter-Stimmung in Echtzeit und geben Empathie-Scores. In vielen deutschen Konzernen bereits im Einsatz – seit 2. Februar 2025 heißes Eisen. Wichtig zur Abgrenzung: Müdigkeitserkennung bei LKW-Fahrern bleibt erlaubt (Sicherheits-Ausnahme). Produktivitäts-Scoring der gleichen Fahrer per Kamera wäre verboten. Beispiel Amazon Flex – die Grenze ist schmal und läuft entlang des Zwecks. Bei biometrischer Kategorisierung der emotionale Anker: Das Verbot ist politisch erzwungen worden durch die Uiguren-Überwachung in China (Huawei/Megvii-Systeme, die gezielt Ethnie aus Gesichtern ableiteten). Dann sofort den Transfer machen: "Sie denken, das ist weit weg – aber dieselbe Technologie wird westlichen Retailern als ‘Demografie-Analyse im Store’ verkauft." Retail-Analytics-Tools in Shopping-Centern sind der konkrete Prüffall. Bei Manipulation der stärkste Moment der Tonspur: Fall aus Belgien 2023 – ein Nutzer der KI-Companion-App Replika beging nach intensiven Chatbot-Gesprächen Suizid. Der Chatbot hatte emotionale Abhängigkeit verstärkt. Der Fall hat politisch die Tür für Art. 5 lit. b aufgestoßen. Anschließend zur Wirtschaft zurückkommen: Meta-interne Studie 2023 zeigte, dass personalisierte Anzeigen finanziell angeschlagene Menschen überproportional zu Glücksspiel und Krediten konvertieren. Genau das Muster zielt das Verbot auf. Bei Social Scoring zuerst kurz China-Social-Credit als Bild aufrufen – plakativ, aber zu weit weg. Dann Brücke ins Europäische: das Schufa-Urteil des EuGH vom Dezember 2023 (Art. 22 DSGVO, nicht AI Act, aber Parallele). Die Botschaft: Scoring innerhalb eines Kontexts (Kreditwürdigkeit für Kredit) ist okay. Kontextübergreifendes Scoring, das Menschen benachteiligt, fällt unter das Verbot. Abbinder: Die vier Verbote sind nichts, was die Zuhörer selbst bauen. Es sind vier Punkte, an denen sie beim Einkauf prüfen müssen – HR-Tools, Marketing-Analytics, Customer-Service-Plattformen – und bei eigenen Prozessen wie Mitarbeiter-Monitoring. Übergang zur nächsten Folie (Risikopyramide): "Das war die Spitze der Pyramide – alles darunter ist erlaubt, aber reguliert."

Eröffnung (1 min) „Die Schufa entscheidet mit ihrem Score über Wohnungen, Kredite, Verträge von 65 Millionen Deutschen. 2023 hat der EuGH gesagt: das ist eine automatisierte Entscheidung im Sinne der DSGVO. 2024 hat die Schufa den Score umgebaut. Frage an euch: War das eine AI-Act-Compliance-Übung – oder cleverer Schachzug, dem AI Act gerade zu entkommen?" Während der Breakouts 5 min Setup, 12 min Recherche, 3 min Verdict-Vorbereitung Wichtig: TN sollen nicht in „Schufa ist böse"-Mode kippen. Es geht um die juristische Klassifikation. Hinweis: Begriff „AI" wird in Schufa-Pressemitteilungen vermieden – das ist Absicht. Erwartete Befunde – Auflösung beim Debrief Was am neuen Score 2024 anders ist Reduzierung von ehemals ~150 Variablen auf einen schlankeren Kernsatz mit ca. 12 Hauptfaktoren Veröffentlichung der wichtigsten Einflussfaktoren und Score-Bandbreiten Score-Simulator auf meineschufa.de (Verbraucher kann selbst testen) Reaktion auf das EuGH-Urteil vom 7. Dezember 2023 (C-634/21) Kernfrage 1: Ist das KI nach Art. 3 AI Act? Schufa argumentiert öffentlich: klassisches statistisches Modell, kein „KI-System" AI Act Erwägungsgrund 12: KI-System unterscheidet sich von „einfacheren herkömmlichen Softwaresystemen oder Programmiermethoden" ABER: Schufa-Modell wird auf Daten trainiert, leitet Bonität ab, hat Adaptionsfähigkeit → kann sehr wohl unter Art. 3 fallen Realistische juristische Einschätzung: Vermutlich KI, jedenfalls bei klassifikationsrelevanten Entscheidungen Kernfrage 2: Greift Anhang III Nr. 5 b? Wortlaut: „KI-Systeme, die für die Bewertung der Kreditwürdigkeit natürlicher Personen oder die Erstellung deren Bonitätsbewertungen verwendet werden sollen" Schufa-Score: passt 1:1 in den Wortlaut Wenn KI bejaht → klares Hochrisiko, mit allen Pflichten Art. 9-15 (Risikomanagement, Daten-Governance, Transparenz, menschliche Aufsicht, Genauigkeit) Schufa wäre Anbieter (entwickelt System); Banken als Nutzer wären Betreiber Kernfrage 3: Hat sich die Schufa positioniert? Schufa-Pressemitteilungen 2024/25: betonen Compliance mit DSGVO und „Bonitätsregeln", AI Act wird höflich umgangen Bundesregierung / BaFin: keine offizielle Hochrisiko-Einstufung vorgenommen, aber im Begleittext zur AI-Act-Umsetzung als Beispiel für Anhang III Nr. 5 b genannt Erwartung in Fachkreisen: Wenn die Schufa unter Art. 6 Abs. 3 (Ausnahme für „eng umgrenzte Aufgabe / nur prozedurale Verfahren") versucht zu argumentieren, wird das angreifbar sein Kernfrage 4: War der Umbau Compliance oder PR? Beides. Der Umbau erfüllt Art. 13/14 (Transparenz, menschliche Aufsicht) sehr gut – das ist de facto AI-Act-Vorwegnahme Aber: Indem die Schufa nicht selbst sagt „wir sind ein Hochrisiko-System", umgeht sie die Registrierungspflicht (Art. 49) und die volle Compliance-Maschinerie Politisch: Die Schufa hat sich in eine Position manövriert, in der eine Hochrisiko-Einstufung durch die Aufsicht möglich, aber unwahrscheinlich ist Pointen für die Diskussion „Hochrisiko ist nicht selbsternannt." Die Klassifikation ergibt sich aus dem Gesetz, nicht aus der Selbstauskunft des Anbieters. Aufsicht hat den letzten Stich. „Compliance kann man auch durch Umbauen erreichen." Der reformierte Score zeigt: Wer transparent und erklärbar wird, schiebt das Hochrisiko-Argument weg. „Das Beispiel ist keine Schufa-Frage – es ist eine Lehre für eure Use Cases." Wenn ihr ein Scoring oder eine Bewertung baut: Ihr könnt Hochrisiko entweder erfüllen oder clever umgehen, indem ihr früh transparent macht.

(Einblenden 0:32) Umbenennung oder Rebranding (Einblenden ca. 0:40) Änderung des Verwendungszwecks (Generelles Model in Hochrisiko) Einblenden 0:50 Wesentliche Änderungen an Funktionalität oder Sicherheit (z.B. Finetuning)

RAG system mit deinen Daten – bist du kein entwickler, finetunig so die grenze…

2 Aug 2026

2 Aug 2026

Idee immer wieder die Liste einbelenden, die sich dann immer um den aktuellen Punkt erweitert: (Einblenden 9:11) Monitoring (dazueinblenden: 12:16 ) durch geschulte Mitarbeiter Dazu einblenden 09:37 Sicherstellen: Richtige Anwendung (dazueinblenden 10:06) Vorab: Information Betroffene inkl. Arbeitnehmer und deren Vertreter (dazueinblenden 11:04) Ggf. 6 Monate Protokolle aufbewahren

Referenten-Hinweis · Recherche „Potenziell überwachende Tools?" Eröffnung (1 min) „Bevor ihr loslegt: Das ist die Falle, in die fast alle Mittelständler tappen. Sie führen Copilot ein, sagen 'das überwacht doch keinen' – und vergessen, dass geeignet zur Überwachung schon reicht. Nicht beabsichtigt. Schon die technische Möglichkeit zieht § 87 Abs. 1 Nr. 6 BetrVG." Während der Breakouts 5 min Setup, 15 min Recherche, 5 min Pitch-Vorbereitung Wenn Gruppe in „aber wir würden das nie nutzen" abrutscht: zurück auf den Wortlaut „geeignet" Tipp: TN auf Trust Center / Admin-Dokumentation verweisen, nicht auf Marketing-Seiten Erwartete Auflösung – pro Tool Gruppe A · Microsoft Copilot Was technisch anfällt Microsoft Purview Audit Logs: Wer hat wann welchen Prompt gestellt, welche Antwort erhalten, welche Dokumente wurden referenziert. Standard-Aufbewahrung: 180 Tage, Premium: bis 10 Jahre. Microsoft 365 Productivity Score / Viva Insights: Aggregierte Nutzungsdaten, teils mit Manager-Dashboards. Copilot Activity Reports: Anzahl Anfragen pro User, pro Tag, pro App (Word, Excel, Outlook). Auswertbar? Ja, in der Admin Console direkt einsehbar. Verdict: Klar geeignet zur Überwachung. Microsoft selbst dokumentiert das offen in den Audit-Log-Spezifikationen. Pointe: Productivity Score wurde 2020 nach öffentlicher Kritik entschärft (anonymisiert), aber Audit Logs bleiben personenbezogen. Gruppe B · Claude (Anthropic Enterprise) Was technisch anfällt Admin Console: Usage per User, API-Calls, Token-Verbrauch. Audit Logs (im Enterprise Plan): Wer hat wann eine Anfrage gestellt, mit Zeitstempel. Inhalte der Prompts sind technisch verfügbar (über die API), aber standardmäßig nicht in der Admin-Übersicht aggregiert. Auswertbar? Ja, weniger granular als Microsoft, aber vorhanden. Verdict: Geeignet zur Überwachung, auch wenn Anthropic das nicht aktiv vermarktet. Reicht für § 87 Abs. 1 Nr. 6. Gruppe C · Langdock Was technisch anfällt Admin Dashboard: Usage-Statistiken pro User, pro Workspace, pro Agent. Audit Logs: Konversationsprotokolle technisch verfügbar (admin-konfigurierbar). Bei On-Premise: volle Kontrolle über Logs durch IT. Auswertbar? Ja, sogar tiefer als Cloud-Tools, weil ihr selber bestimmt. Verdict: Geeignet zur Überwachung. Eigentlich der „transparenteste" Fall – ihr seht selbst, was ihr alles sehen könntet. Drei häufige Fehlannahmen (Trainer-Korrekturen) „Wir nutzen die Logs gar nicht." Irrelevant. § 87 Abs. 1 Nr. 6 stellt auf die Eignung ab, nicht auf die Nutzung. Auch ungenutzte Logs sind logs. „Die Auswertung ist anonymisiert." Sobald ein User-Login zugeordnet werden kann, ist es personenbezogen – auch wenn der Manager-Report aggregiert aussieht. „Der BR ist informell informiert." Mitbestimmung ist formell. Eine E-Mail an den BR-Vorsitzenden ersetzt keine Betriebsvereinbarung. Pointen für die Diskussion BAG-Linie ist eindeutig:BAG-Linie ist eindeutig: Schon die technische Möglichkeit der Verhaltens- oder Leistungskontrolle löst § 87 Abs. 1 Nr. 6 aus. Ohne Aktenzeichen zitieren – die Fundstelle vor dem Termin nachschlagen, falls Betriebsräte in der Gruppe sitzen. Praxis-Empfehlung: Keine Einzelvereinbarung pro Tool, sondern eine KI-Rahmenbetriebsvereinbarung für die Plattform-Strategie. Das ist genau, wo die KI-Stabsstelle (Block 3) zum Tragen kommt. Audit-Befund:Audit-Befund: In vielen mittelständischen Unternehmen lief der Copilot-Rollout ohne Mitbestimmung – häufigste Begründung: „War Teil des M365-Updates, nicht als KI-Tool eingeführt.“ Als Praxisbeobachtung formulieren, nicht als Statistik. Übergang „Damit habt ihr die Antwort: Bei allen drei Tools muss der BR ran. Ihr werdet das im Workshop heute Nachmittag wieder treffen, wenn ihr eure eigene Richtlinie aufsetzt – Kapitel 'Verantwortlichkeiten' und 'Mitbestimmung' sind dann nicht mehr abstrakt."

Drei Fragen, drei Adressaten. Frage 1 beantwortet der Einkauf, Frage 2 der Fachbereich, Frage 3 muss jede und jeder selbst beantworten. Deshalb ist das nicht nur ein Prüfschema, sondern eine Delegationslogik. Die Reihenfolge ist Absicht: Frage 1 ist heute abschließend klärbar, Frage 2 meistens, Frage 3 ist die Ermessensfrage. Wer so vorgeht, hat nach zwei Minuten zwei Drittel erledigt und weiß, wo der Rest liegt. Zu Frage 1: Die häufigste Verwechslung im Raum ist AVV gleich Freigabe. Der AVV regelt den Input, die AGB den Output. Beides braucht man, aber für unterschiedliche Fragen. Zu Frage 2: Reichweite ist der stärkste Risikohebel. Derselbe Text ist intern unproblematisch, in der Kampagne ein Fall fürs UWG. Auch Art. 50 Abs. 4 hängt an der Veröffentlichung, nicht am Erzeugen. Zu Frage 3: Das Risiko entsteht im Prompt, nicht im Output. Wer einen Künstlernamen, eine Marke oder eine reale Person hineinschreibt, hat es selbst erzeugt. Das ist der Satz, der hängen bleiben soll. Nachsatz für die Rückrichtung, nur mündlich: Gehört mir das Ergebnis überhaupt? Ohne dokumentierten eigenen Anteil entsteht kein Urheberrecht am Output. AG München, 13.02.2026, 142 C 9786/25 – die Beweislast trägt, wer sich auf den Schutz beruft. Die Abbruchregel ist wichtiger als sie aussieht: Drei Fragen ohne Konsequenz laden dazu ein, dreimal „passt schon“ zu denken.