Folien: EU AI Act, Betriebsrat & Praxis: Use Case Canvas, Abschluss Phase 3

Tag 14 – letzter Tag der Phase 3. Vormittag Recht, danach durchgehend Praxis am eigenen Use Case. Zeitplan mündlich ansagen.

Code of Knowledge Transfer. In Woche 3 maximal zwei Minuten – die drei Hashtags aufrufen, nicht erklären.

KI : Kybernatik

KI-News-Runde. Drei Kategorien: Gesehen, Ausprobiert, Beobachtet. Auf acht Minuten deckeln und das vorher ansagen – bei voller Gruppe sprengt die Runde sonst den Einstieg. Keine Reihum-Abfrage: Wer etwas hat, meldet sich. Keine Bewertung, nur Teilen.

Drei Fragen, drei Adressaten. Frage 1 beantwortet der Einkauf, Frage 2 der Fachbereich, Frage 3 muss jede und jeder selbst beantworten. Deshalb ist das nicht nur ein Prüfschema, sondern eine Delegationslogik. Die Reihenfolge ist Absicht: Frage 1 ist heute abschließend klärbar, Frage 2 meistens, Frage 3 ist die Ermessensfrage. Wer so vorgeht, hat nach zwei Minuten zwei Drittel erledigt und weiß, wo der Rest liegt. Zu Frage 1: Die häufigste Verwechslung im Raum ist AVV gleich Freigabe. Der AVV regelt den Input, die AGB den Output. Beides braucht man, aber für unterschiedliche Fragen. Zu Frage 2: Reichweite ist der stärkste Risikohebel. Derselbe Text ist intern unproblematisch, in der Kampagne ein Fall fürs UWG. Auch Art. 50 Abs. 4 hängt an der Veröffentlichung, nicht am Erzeugen. Zu Frage 3: Das Risiko entsteht im Prompt, nicht im Output. Wer einen Künstlernamen, eine Marke oder eine reale Person hineinschreibt, hat es selbst erzeugt. Das ist der Satz, der hängen bleiben soll. Nachsatz für die Rückrichtung, nur mündlich: Gehört mir das Ergebnis überhaupt? Ohne dokumentierten eigenen Anteil entsteht kein Urheberrecht am Output. AG München, 13.02.2026, 142 C 9786/25 – die Beweislast trägt, wer sich auf den Schutz beruft. Die Abbruchregel ist wichtiger als sie aussieht: Drei Fragen ohne Konsequenz laden dazu ein, dreimal „passt schon“ zu denken.

Drei Lernziele: die Schlüsselfragen des AI Act, Betriebsrat informieren gegen mitbestimmen, und Weiterarbeit an den eigenen Ideen von Quick Win bis Leuchtturm. Das dritte ist das eigentliche Versprechen des Tages – die Gruppe hat sich ausdrücklich mehr Zeit für die eigenen Ideen gewünscht. Einmal laut sagen, dass sie die bekommt.

Zeitplan mündlich präzisieren. Für die Gruppe wichtig: Recht zieht bis in den frühen Nachmittag, danach durchgehend Praxis. Pausenzeiten ansagen, das nimmt Unruhe raus.

Agenda in 60 Sekunden. Betonen, dass die letzten drei Stationen am eigenen Material stattfinden.

Kapitelfolie Block 1. Die fünf Fragen einmal vorlesen – sie sind die Gliederung des Vormittags.

Frage offen stellen, nicht beantworten. Handzeichen: Wer glaubt ja, wer nein? Erst dann auflösen.

Schutz der öffentlichkeit vor Meinungsbildungsverzerrung (Marketing nicht im Fokus) Was ist ein Deepfake – cola vor Dschungel – Frage ob es da ein informationsbedürfnis gibt? – Werbefoto Egal. Beweis wir verkaufen auch auf den Bahamas – schwierig – sozusagen irreführungskontext Alles was irgendwie wichtig ist wird über einen menshlischen Review laufen (Edgecase – Zielgruppenspezifische Produktbeschreibungen) Art 50

Dieselbe Frage noch einmal – jetzt für Bilder. Bewusste Wiederholung, nicht überspringen: Die Antwort ist eine andere als bei Text.

Aldi-Prospekt als Aufhänger. Kurz fragen, wem aufgefallen ist, dass die Models KI-generiert sind. Die meisten haben es nicht gemerkt – genau das ist der Punkt.

Synth id von google Bsp Watermarking Antwort für Bilder: keine Pflicht nach Art. 50 Abs. 4, wenn Watermarking vorhanden ist und kein Deepfake vorliegt. Die Definition aus Art. 3 Nr. 60 steht auf der Folie – sie wird gleich im Workshop gebraucht. Langsam lesen lassen. Die entscheidende Schwelle ist „wirkliche Person“.

Ratefolie. Watermark ja oder nein? Erst schätzen lassen, dann auflösen.

Zweite Ratefolie. Pointe: Auf das eigene Auge ist kein Verlass – deshalb sind technische Kennzeichnungen im Gesetz und nicht nur gute Absicht.

Affinity – Gefühl von Sympathie Antwort für Interaktion: ja, ein Chatbot muss sich zu erkennen geben. Wichtig für die Rollenfrage: Diese Pflicht trifft den Anbieter. Wer einen zugekauften Bot unter eigenem Namen betreibt, kann selbst Anbieter sein. Der Hinweis muss beim ersten Kontakt sichtbar sein – AGB reichen nicht.

Eröffnung (2 min) „Gestern habt ihr gelernt, dass Deepfakes gekennzeichnet werden müssen. Frage an euch: Wenn ich es kennzeichne – darf ich es dann?“ Die Mehrheit sagt ja. Konter: Ein Video, das eine Kollegin etwas sagen lässt, das sie nie gesagt hat, bleibt rechtswidrig, auch mit Wasserzeichen und Hinweistext. Daraus die Klammer für den ganzen Tag: Der AI Act sagt, WIE ihr etwas veröffentlichen müsst. OB ihr es dürft, entscheiden Persönlichkeitsrecht und Wettbewerbsrecht – und die kennen keine Übergangsfrist. Ablauf: 3 min Setup, 20 min Breakouts, 2 min pro Gruppe Pitch, dann Debrief. Zwischen den Räumen wechseln. Wenn eine Gruppe zu schnell fertig ist: nach der dritten Spalte fragen, die wird meist übersprungen. Die vollständige Auflösung steht in den Notizen der nächsten Folie.

AUFLÖSUNG – Stand 02.09.2026 Grundraster für alle sechs Fälle: Deepfake nach Art. 3 Nr. 60 setzt eine WIRKLICHE Person voraus. Kennzeichnung nach Art. 50 Abs. 4 trifft den Betreiber, die maschinenlesbare Markierung nach Abs. 2 den Anbieter. Ob etwas erlaubt ist, steht überhaupt nicht im AI Act. FALL 1 · KLARNA Deepfake: ja. Wirkliche Person, fotorealistisch, würde ohne Hinweis als echt durchgehen. Kennzeichnung: ja, Art. 50 Abs. 4 – und Klarna hat sie erfüllt, indem der Avatar es im ersten Satz selbst sagt. Erlaubt: ja, weil die Person eingewilligt hat. Ohne den ersten Satz wäre es weiterhin erlaubt, aber ein Verstoß gegen die Kennzeichnungspflicht. Zwei Tage später hat Zoom-CEO Eric Yuan dasselbe im eigenen Earnings Call gemacht. Merksatz: Einwilligung erlaubt, Kennzeichnung bleibt trotzdem Pflicht. FALL 2 · AVATAR DER GESCHÄFTSFÜHRERIN Deepfake: ja. Kennzeichnung: ja. Erlaubt: solange die Einwilligung trägt. Der Knackpunkt ist der Austritt: Die Einwilligung in die Nutzung von Bild und Stimme ist widerruflich, und sie ist an die Person gebunden, nicht an die Rolle. Ohne schriftliche Regelung – Zweck, Dauer, Widerruf, Löschung des Modells – steht das Unternehmen mit einem unbrauchbaren Asset da. Gehört in den Vertrag, nicht in eine E-Mail. Wenn so ein Avatar allen Mitarbeitenden angeboten wird, ist zusätzlich der Betriebsrat im Spiel – Brücke zum nächsten Block. FALL 3 · LIPPENSYNCHRONE ÜBERSETZUNG Der Grenzfall, hier wird die Gruppe streiten. Die Person ist wirklich, die Aussage ist echt, manipuliert sind nur die Mundbewegungen. Argument dagegen: Nichts erscheint fälschlicherweise als echt, was nicht echt wäre. Argument dafür: Der Eindruck, die Person spreche diese Sprache, ist erzeugt. Pragmatische Empfehlung: kennzeichnen, es kostet nichts und beendet die Diskussion. Kein Urteil dazu – ehrlich sagen, dass das offen ist. FALL 4 · VERSTORBENER FIRMENGRÜNDER Deepfake: ja. Kennzeichnung: ja. Erlaubt: nur mit Zustimmung der Angehörigen. § 22 Satz 3 KUG verlangt bis zehn Jahre nach dem Tod die Einwilligung der Angehörigen; die vermögenswerten Bestandteile des Persönlichkeitsrechts sind vererblich – das hat der BGH 1999 im Marlene-Dietrich-Urteil entschieden. Für die Stimme gilt dasselbe über das allgemeine Persönlichkeitsrecht. 2019 verstorben heißt: die Frist läuft noch. Manager-Pointe: Der schöne Jubiläumsmoment ist der teuerste Fall auf dieser Folie. FALL 5 · KI-GENERIERTE KUNDENSTIMMEN Deepfake: nein – die Personen existieren nicht, die Schwelle „wirkliche Person“ ist nicht erreicht. Genau hier fällt die Gruppe in die Falle „kein Mensch, kein Problem“. Erlaubt: nein. § 5 UWG, Irreführung: Es wird der Eindruck erweckt, benannte echte Kunden hätten sich so geäußert. Dass die Zitate sinngemäß stimmen, hilft nicht – die Personen sind erfunden. Zusätzlich greift die Anbieterpflicht aus Art. 50 Abs. 2. Merksatz: Der AI-Act-Hebel fällt weg, der UWG-Hebel bleibt. FALL 6 · CHATBOT „LENA“ Deepfake: nein. Aber Art. 50 Abs. 1 greift: Systeme für die direkte Interaktion müssen erkennen lassen, dass man mit einer KI spricht. Das trifft den Anbieter – nutzt ihr einen zugekauften Bot unter eigenem Namen und eigenem Branding, seid ihr über Art. 25 selbst Anbieter. Das Porträtfoto ist zusätzlich Abs. 2. Ein Hinweis in den AGB reicht nicht, er muss beim ersten Kontakt sichtbar sein. Und wenn das Foto eine reale Person zeigt – etwa eine Mitarbeiterin – wird daraus wieder ein Fall für §§ 22, 23 KUG. DEBRIEF-KLAMMER Sortiert die sechs Fälle in drei Gruppen: erlaubt und gekennzeichnet (1, 2, 6), Grenzfall (3), nicht erlaubt (4, 5). Auffällig ist, dass die beiden unzulässigen Fälle die harmlos wirkenden sind. Der Satz zum Mitnehmen: Prüft nicht, ob es ein Deepfake ist. Prüft, ob eine reale Person erkennbar ist und ob sie zugestimmt hat. Alles andere folgt daraus. MISSBRAUCH – 5 MINUTEN IM DEBRIEF, NICHT ALS ÜBUNG Zwei Sätze zur kriminellen Seite, damit die Gruppe die Dimension kennt: Erstens der Zahlungsbetrug mit geklonten Stimmen und Videokonferenzen – der Ingenieurkonzern Arup verlor 2024 in Hongkong 25,6 Mio. US-Dollar, weil in einer Videokonferenz sämtliche Teilnehmer KI-generiert waren. Abwehr ist kein Rechts-, sondern ein Prozessthema: Rückruf über intern hinterlegte Nummern, Zwei-Kanal-Verifikation, Codewort für Zahlungen ab einer definierten Höhe. Zweitens sexualisierte Fälschungen: Ab 2. Dezember 2026 verbietet der AI Act entsprechende Systeme ausdrücklich – die einzige Stelle, an der der Digital Omnibus verschärft statt gelockert hat. In Deutschland liegt seit 2024 ein Entwurf für einen neuen § 201b StGB im Verfahren; vor dem Kurs kurz prüfen, ob er inzwischen verabschiedet ist. Nicht ausschmücken, nicht vertiefen. Es geht um Einordnung, nicht um Betroffenheit.

Diese Folie erst nach den Pitches zeigen. Wichtig: Die Tabelle ist eine Einordnung für die Lehre, kein Gutachten. Bei Fall 3 und Fall 5 gibt es keine Entscheidung – das ehrlich sagen, es macht die Übung glaubwürdiger, nicht schwächer. Die drei Sätze für den Abschluss des Blocks: 1) Nur bei einem der sechs Fälle ist die Lage wirklich eindeutig. 2) Bei drei Fällen hängt alles an einer einzigen Frage – hat jemand zugestimmt? 3) Bei zwei Fällen ist der AI Act gar nicht das entscheidende Gesetz. Daraus die Klammer: Die Prüfung endet nicht beim AI Act, sie fängt dort an.

Diese Folie erst nach den Pitches zeigen. Wichtig: Die Tabelle ist eine Einordnung für die Lehre, kein Gutachten. Bei Fall 3 und Fall 5 gibt es keine Entscheidung – das ehrlich sagen, es macht die Übung glaubwürdiger, nicht schwächer. Die drei Sätze für den Abschluss des Blocks: 1) Nur bei einem der sechs Fälle ist die Lage wirklich eindeutig. 2) Bei drei Fällen hängt alles an einer einzigen Frage – hat jemand zugestimmt? 3) Bei zwei Fällen ist der AI Act gar nicht das entscheidende Gesetz. Daraus die Klammer: Die Prüfung endet nicht beim AI Act, sie fängt dort an.

Kapitel-Trenner. Überleitung: Bis hier ging es um Kennzeichnung, ab jetzt um die Systematik dahinter.

Aufgabe im Plenum, zwei Minuten suchen lassen. Erwartung: EUR-Lex, Verordnung (EU) 2024/1689.

Auflösung. Der Punkt ist nicht die URL, sondern dass der Volltext frei zugänglich ist – das trägt das dritte Lernziel: recherchieren können.

Optional, nur bei Zeit. Besser als Übung: zehn Minuten Live-Demo – ein Claude-Projekt mit dem AI-Act-Volltext anlegen und eine Frage stellen. Zahlt auf den Toolkompass ein. Wenn die Zeit knapp wird, als Aufgabe in Learnworlds vergeben.

Frage offen stellen und sammeln lassen, bevor die Auflösung kommt.

Die drei Fragen sind das Gerüst des ganzen Blocks. Sie kommen bewusst mehrfach – nach jedem Unterabschnitt hierher zurückkehren.

Breite Defeition der OECD Aber so Statistical Modelling (regressionsthemen, relative altes Zeugs, was entwickler nicht als AI bezeichnen würden) und sind drin, Banking und Insurance verbreitet – aber da auch harte Prüfung Witzig: Organoid Intelligence – wird ind D und USA dran geforshct ist raus – ist das noch machinengestützt Excel ist draussen, Erwägungsgrund 12 Schlüsse ziehen, geht über grundlegende Datenverarbeitung hinaus Nicht KI, wenn es auf Regeln basiert die von natürlichen Personen zur Ausführung von Operationen festgelegt wurden  aber auch unklar, also am Ende Machinelles lernen weit gefasst

Überleitung: Ab hier geht es um Pflichten, nicht mehr um Kennzeichnung.

KI-Kompetenz nach Art. 4. Kurze Brücke: Genau deshalb sitzt ihr hier – dieser Kurs ist der Nachweis.

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Wiederholung der drei Fragen. Fokus jetzt auf Frage 1: Ist es überhaupt KI?

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Art 4 ausgelassen: und zwar unter Berücksichtigung ihrer technischen Kenntnisse, ihrer Erfahrung, ihrer Aus- und Weiterbildung und des Kontexts, in dem die KI-Systeme eingesetzt werden sollen, sowie unter Berücksichtigung der Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen. Art 3 Definition (bh) "KI-Kompetenz" bezieht sich auf Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Nutzern und Betroffenen ermöglichen, unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung KI-Systeme in Kenntnis der Sachlage einzusetzen sowie sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden.

Was sich dadurch nicht entspannt Betreiber von Hochrisiko-KI-Systemen bleiben verpflichtet, ihr Personal zu schulen, damit die menschliche Aufsicht gewahrt bleibt. Die Überwachung und Durchsetzung durch die nationalen Marktüberwachungsbehörden hat am 2. August 2026 begonnen – in Deutschland ist die Bundesnetzagentur zentrale KI-Aufsichtsbehörde, das Durchführungsgesetz hat am 10. Juli 2026 den Bundesrat passiert Haftungs- und Sorgfaltsargumente bleiben unverändert: unzureichende Schulung kann weiter haftungsrechtliche Folgen haben, etwa wenn durch Fehlbedienung Schäden entstehen und das als Verstoß gegen die allgemeine Sorgfaltspflicht gewertet wird.

Wiederholung. Jetzt Frage 2: Anbieter oder Betreiber?

2 Aug 2026 Der Übergang vom Anwender zum Anbieter. Begriffe sauber halten: Der AI Act kennt nur Anbieter und Betreiber, „Entwickler“ ist Umgangssprache.

Die praktisch wichtigste Falle: Wer ein System unter eigenem Markennamen weitergibt, wird selbst Anbieter – mit allen Pflichten. Beispiel aus der Gruppe holen: Wer hat schon einmal ein Tool unter eigenem Namen intern ausgerollt?Modell GPAI nach AI Act? GPAI mit systemischem Risiko? Claude Opus 5Jaöffentlich nicht eindeutig feststellbar; Frontier-Kandidat Claude Opus 4.8/4.7/4.6Jaöffentlich nicht eindeutig feststellbar Microsoft MAI-Thinking-1sehr klar jaderzeit nicht öffentlich als solches ausgewiesen kleinere MAI-/Microsoft-Modelleje nach Modelleher nicht bzw. jedenfalls nicht öffentlich festgestellt

Wiederholung. Jetzt Frage 3: Welche Risikoklasse?

Emotion Recognition am Arbeitsplatz (Art. 5 lit. f) HireVue (US-Anbieter für Video-Interviews mit Emotions-/Mikroexpressionsanalyse): hat 2021 nach EPIC-Beschwerde die Gesichtsanalyse zurückgezogen. Genau das Feature wäre heute in der EU verboten. Pointe: "Wer so ein Tool einkauft, kauft sich ein Bußgeldrisiko von bis zu 7% Weltumsatz mit ein." Precire (deutsches Startup, Sprachanalyse zur Persönlichkeitsbewertung in Bewerbungen): 2019 massive Kritik vom BDP, Rückzug vom HR-Markt. Heute: nach AI Act vermutlich verbotene Praktik im Recruiting-Kontext. Amazon Flex: Fahrer wurden per KI-Kamera im Fahrzeug auf Aufmerksamkeit/Müdigkeit überwacht. Graubereich: Müdigkeit = Sicherheit (erlaubte Ausnahme), Produktivitäts-Scoring = verboten. Zeigt, wie schmal der Grat ist. Call-Center-Tools wie Cogito oder Uniphore: analysieren Mitarbeiter-Stimmung in Echtzeit, geben "Empathie-Scores". Für EU-Einsatz seit 2. Februar 2025 heißes Eisen. Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 lit. g) Uiguren-Erkennung in China: Huawei/Megvii-Systeme, die gezielt Ethnie aus Gesichtern ableiteten – der Fall, der das Verbot politisch überhaupt erst erzwungen hat. Gut als Kontrast: "Sie denken, das ist weit weg – aber das gleiche Tool wird teilweise auch westlichen Kunden als 'Demografie-Analyse im Retail' verkauft." Retail Analytics: Tools, die aus Überwachungskameras Herkunft, Geschlecht, Alter ableiten und in Kundensegmente clustern. Häufig in Shopping-Centern verbaut – spätestens jetzt rausreißen. Manipulation & Ausnutzung von Vulnerabilitäten (Art. 5 lit. a, b) Cambridge Analytica als Blaupause für psychographische Manipulation – noch ohne GenAI, aber mit LLMs skalierbar. Aktueller: Studie von Meta selbst (2023) hat gezeigt, dass personalisierte Anzeigen finanziell angeschlagene Menschen überproportional zu Glücksspiel/Krediten konvertieren. Replika und andere KI-Companion-Apps: Fall in Belgien 2023, bei dem ein Nutzer nach intensiven Gesprächen mit Chatbot Suizid beging. Diskussion: Ausnutzen von emotionaler Vulnerabilität. Sehr griffig für's Publikum. TikTok-Algo und Jugendliche: US-Klagen, weil der Empfehlungsalgorithmus gezielt auf psychische Schwachstellen von Teenagern optimiert hat (Essstörungs-Content). Unter AI Act wäre solcher Einsatz ein klarer Prüffall. Dark Patterns im E-Commerce: personalisierte Countdown-Timer, "Noch 1 Zimmer verfügbar"-Meldungen – wenn per KI auf individuelle Kaufschwäche zugeschnitten und Schaden entsteht, wird's kritisch. Social Scoring durch Private (Art. 5 lit. c) China Social Credit als Referenzbild – plakativ, aber zu weit weg für den deutschen Praxisfall. Näher am Alltag: Plattformen wie Uber/Airbnb mit kontextübergreifenden Reputation Scores, die plötzlich in dritten Bereichen (Versicherung, Kredit) verwendet würden. Oder HR-Tools, die aus Social-Media-Verhalten "Culture-Fit-Scores" ableiten. Schufa-Urteil des EuGH (Dez 2023): nicht AI Act, aber Art. 22 DSGVO. Gutes Brücken-Beispiel, dass Scoring-Themen in Europa politisch aufgeladen sind. Merksatz für's Publikum: "Scoring innerhalb eines Kontexts (Kreditwürdigkeit für Kredit) ist okay. Scoring, das kontextübergreifend Menschen benachteiligt, fällt unter das Verbot."

Dramaturgie der Tonspur: Mit einem konkreten Tool anfangen, nicht mit dem Paragrafen. Einstieg: HireVue – US-Anbieter für KI-gestützte Video-Interviews, hat 2021 nach öffentlicher Kritik die Gesichtsanalyse-Funktion zurückgezogen. Genau dieses Feature wäre heute in Europa eine verbotene Praxis. Pointe: "Wer so ein Tool einkauft, kauft sich ein Bußgeldrisiko von 7 % Weltumsatz mit ein – und merkt es im Zweifel erst beim Audit." Parallel dazu Precire erwähnen, das deutsche Startup, das Sprachanalyse zur Persönlichkeitsbewertung in Bewerbungen angeboten hat. 2019 massive Kritik vom Berufsverband Deutscher Psychologen, Rückzug vom HR-Markt. Zeigt: Die Diskussion läuft in Deutschland schon länger, der AI Act gibt jetzt den harten Rahmen. Zum Thema Call-Center: Tools wie Cogito oder Uniphore analysieren Mitarbeiter-Stimmung in Echtzeit und geben Empathie-Scores. In vielen deutschen Konzernen bereits im Einsatz – seit 2. Februar 2025 heißes Eisen. Wichtig zur Abgrenzung: Müdigkeitserkennung bei LKW-Fahrern bleibt erlaubt (Sicherheits-Ausnahme). Produktivitäts-Scoring der gleichen Fahrer per Kamera wäre verboten. Beispiel Amazon Flex – die Grenze ist schmal und läuft entlang des Zwecks. Bei biometrischer Kategorisierung der emotionale Anker: Das Verbot ist politisch erzwungen worden durch die Uiguren-Überwachung in China (Huawei/Megvii-Systeme, die gezielt Ethnie aus Gesichtern ableiteten). Dann sofort den Transfer machen: "Sie denken, das ist weit weg – aber dieselbe Technologie wird westlichen Retailern als ‘Demografie-Analyse im Store’ verkauft." Retail-Analytics-Tools in Shopping-Centern sind der konkrete Prüffall. Bei Manipulation der stärkste Moment der Tonspur: Fall aus Belgien 2023 – ein Nutzer der KI-Companion-App Replika beging nach intensiven Chatbot-Gesprächen Suizid. Der Chatbot hatte emotionale Abhängigkeit verstärkt. Der Fall hat politisch die Tür für Art. 5 lit. b aufgestoßen. Anschließend zur Wirtschaft zurückkommen: Meta-interne Studie 2023 zeigte, dass personalisierte Anzeigen finanziell angeschlagene Menschen überproportional zu Glücksspiel und Krediten konvertieren. Genau das Muster zielt das Verbot auf. Bei Social Scoring zuerst kurz China-Social-Credit als Bild aufrufen – plakativ, aber zu weit weg. Dann Brücke ins Europäische: das Schufa-Urteil des EuGH vom Dezember 2023 (Art. 22 DSGVO, nicht AI Act, aber Parallele). Die Botschaft: Scoring innerhalb eines Kontexts (Kreditwürdigkeit für Kredit) ist okay. Kontextübergreifendes Scoring, das Menschen benachteiligt, fällt unter das Verbot. Abbinder: Die vier Verbote sind nichts, was die Zuhörer selbst bauen. Es sind vier Punkte, an denen sie beim Einkauf prüfen müssen – HR-Tools, Marketing-Analytics, Customer-Service-Plattformen – und bei eigenen Prozessen wie Mitarbeiter-Monitoring. Übergang zur nächsten Folie (Risikopyramide): "Das war die Spitze der Pyramide – alles darunter ist erlaubt, aber reguliert."

Nicht vorlesen. Die Gruppe suchen lassen, welche Kategorie das eigene Berufsfeld trifft – bei Personal-, Bildungs- und Finanzberufen kommt hier immer etwas.

Eröffnung (1 min) „Die Schufa entscheidet mit ihrem Score über Wohnungen, Kredite, Verträge von 65 Millionen Deutschen. 2023 hat der EuGH gesagt: das ist eine automatisierte Entscheidung im Sinne der DSGVO. 2024 hat die Schufa den Score umgebaut. Frage an euch: War das eine AI-Act-Compliance-Übung – oder cleverer Schachzug, dem AI Act gerade zu entkommen?" Während der Breakouts 5 min Setup, 12 min Recherche, 3 min Verdict-Vorbereitung Wichtig: TN sollen nicht in „Schufa ist böse"-Mode kippen. Es geht um die juristische Klassifikation. Hinweis: Begriff „AI" wird in Schufa-Pressemitteilungen vermieden – das ist Absicht. Erwartete Befunde – Auflösung beim Debrief Was am neuen Score 2024 anders ist Reduzierung von ehemals ~150 Variablen auf einen schlankeren Kernsatz mit ca. 12 Hauptfaktoren Veröffentlichung der wichtigsten Einflussfaktoren und Score-Bandbreiten Score-Simulator auf meineschufa.de (Verbraucher kann selbst testen) Reaktion auf das EuGH-Urteil vom 7. Dezember 2023 (C-634/21) Kernfrage 1: Ist das KI nach Art. 3 AI Act? Schufa argumentiert öffentlich: klassisches statistisches Modell, kein „KI-System" AI Act Erwägungsgrund 12: KI-System unterscheidet sich von „einfacheren herkömmlichen Softwaresystemen oder Programmiermethoden" ABER: Schufa-Modell wird auf Daten trainiert, leitet Bonität ab, hat Adaptionsfähigkeit → kann sehr wohl unter Art. 3 fallen Realistische juristische Einschätzung: Vermutlich KI, jedenfalls bei klassifikationsrelevanten Entscheidungen Kernfrage 2: Greift Anhang III Nr. 5 b? Wortlaut: „KI-Systeme, die für die Bewertung der Kreditwürdigkeit natürlicher Personen oder die Erstellung deren Bonitätsbewertungen verwendet werden sollen" Schufa-Score: passt 1:1 in den Wortlaut Wenn KI bejaht → klares Hochrisiko, mit allen Pflichten Art. 9-15 (Risikomanagement, Daten-Governance, Transparenz, menschliche Aufsicht, Genauigkeit) Schufa wäre Anbieter (entwickelt System); Banken als Nutzer wären Betreiber Kernfrage 3: Hat sich die Schufa positioniert? Schufa-Pressemitteilungen 2024/25: betonen Compliance mit DSGVO und „Bonitätsregeln", AI Act wird höflich umgangen Bundesregierung / BaFin: keine offizielle Hochrisiko-Einstufung vorgenommen, aber im Begleittext zur AI-Act-Umsetzung als Beispiel für Anhang III Nr. 5 b genannt Erwartung in Fachkreisen: Wenn die Schufa unter Art. 6 Abs. 3 (Ausnahme für „eng umgrenzte Aufgabe / nur prozedurale Verfahren") versucht zu argumentieren, wird das angreifbar sein Kernfrage 4: War der Umbau Compliance oder PR? Beides. Der Umbau erfüllt Art. 13/14 (Transparenz, menschliche Aufsicht) sehr gut – das ist de facto AI-Act-Vorwegnahme Aber: Indem die Schufa nicht selbst sagt „wir sind ein Hochrisiko-System", umgeht sie die Registrierungspflicht (Art. 49) und die volle Compliance-Maschinerie Politisch: Die Schufa hat sich in eine Position manövriert, in der eine Hochrisiko-Einstufung durch die Aufsicht möglich, aber unwahrscheinlich ist Pointen für die Diskussion „Hochrisiko ist nicht selbsternannt." Die Klassifikation ergibt sich aus dem Gesetz, nicht aus der Selbstauskunft des Anbieters. Aufsicht hat den letzten Stich. „Compliance kann man auch durch Umbauen erreichen." Der reformierte Score zeigt: Wer transparent und erklärbar wird, schiebt das Hochrisiko-Argument weg. „Das Beispiel ist keine Schufa-Frage – es ist eine Lehre für eure Use Cases." Wenn ihr ein Scoring oder eine Bewertung baut: Ihr könnt Hochrisiko entweder erfüllen oder clever umgehen, indem ihr früh transparent macht.

Für diese Zielgruppe die wichtigste Kategorie. Die Pflichten greifen erst ab 2. Dezember 2027, der Digital Omnibus hat sie verschoben. Das ist keine Entwarnung, sondern Vorbereitungszeit. Wichtiger Zusatz: Das AGG gilt heute schon und kennt keine Übergangsfrist. Wer mit KI vorauswählt und dabei systematisch benachteiligt, haftet jetzt – und trägt nach § 22 AGG die Beweislast, sobald Indizien vorgetragen sind.

(Einblenden 0:32) Umbenennung oder Rebranding (Einblenden ca. 0:40) Änderung des Verwendungszwecks (Generelles Model in Hochrisiko) Einblenden 0:50 Wesentliche Änderungen an Funktionalität oder Sicherheit (z.B. Finetuning)

Entscheidungsbaum. Zeigt, wann Anbieter- und wann Betreiberpflichten greifen.

RAG system mit deinen Daten – bist du kein entwickler, finetunig so die grenze…

2 Aug 2026 Wer meint, sein Anhang-III-System sei kein Hochrisiko, muss diese Bewertung dokumentieren – vor dem Inverkehrbringen. Der Tipp auf der Folie: freiwillige Registrierung nach Erwägungsgrund 131.

Wiederholung des Entscheidungsbaums, Überleitung zu den Betreiberpflichten.

2 Aug 2026 Überleitung zu Art. 26 – was muss, wer ein Hochrisiko-System einsetzt?

Idee immer wieder die Liste einbelenden, die sich dann immer um den aktuellen Punkt erweitert: (Einblenden 9:11) Monitoring (dazueinblenden: 12:16 ) durch geschulte Mitarbeiter Dazu einblenden 09:37 Sicherstellen: Richtige Anwendung (dazueinblenden 10:06) Vorab: Information Betroffene inkl. Arbeitnehmer und deren Vertreter (dazueinblenden 11:04) Ggf. 6 Monate Protokolle aufbewahren

Die Orientierungsfolie des Blocks. Drei Punkte genügen: Die Verbote gelten seit Februar 2025, die Transparenzpflichten seit August 2026, die Hochrisiko-Pflichten erst ab Dezember 2027. Ab 2. Dezember 2026 kommt ein neues Verbot dazu: KI-Systeme zur Erzeugung nicht einvernehmlicher intimer Bilder. Das ist die einzige Stelle, an der der Omnibus verschärft statt gelockert hat – guter Beleg dafür, dass es sich nicht um pauschale Deregulierung handelt.

Die Zahl ist der Aufmerksamkeitsanker, nicht das Lernziel. Ein Satz genügt: bis 35 Mio. Euro oder 7 Prozent vom weltweiten Jahresumsatz, je nachdem was höher ist.

Kapitelfolie Block 2.

Einstiegsfrage in die Runde: Wer hat einen Betriebsrat? Wer hat schon mal ein Tool eingeführt und dabei an ihn gedacht?

Frage bewusst stehen lassen, die Antwort kommt im Debrief. Richtlinie: einseitig vom Arbeitgeber gesetzt, schnell änderbar, gut für den Alltag – ersetzt aber keine Mitbestimmung. Betriebsvereinbarung: mit dem Betriebsrat geschlossen, normativ bindend, nötig sobald § 87 greift. Praxisempfehlung: eine Rahmenbetriebsvereinbarung für die Plattform plus eine schlanke Nutzungsrichtlinie für den Alltag – keine Einzelvereinbarung pro Tool.

Die Kerntabelle. Der Angelpunkt ist ein einziges Wort: „geeignet“, nicht „beabsichtigt“. Schon die technische Möglichkeit der Leistungs- oder Verhaltenskontrolle löst die Mitbestimmung aus.

Workshop-Setup, fünf Minuten. Drei Gruppen, drei Tools. Klarstellen: Es geht nicht um die Absicht des Arbeitgebers, sondern um die technische Eignung. Wenn eine Gruppe in „aber wir würden das nie auswerten“ abrutscht, zurück auf den Wortlaut.

Referenten-Hinweis · Recherche „Potenziell überwachende Tools?" Eröffnung (1 min) „Bevor ihr loslegt: Das ist die Falle, in die fast alle Mittelständler tappen. Sie führen Copilot ein, sagen 'das überwacht doch keinen' – und vergessen, dass geeignet zur Überwachung schon reicht. Nicht beabsichtigt. Schon die technische Möglichkeit zieht § 87 Abs. 1 Nr. 6 BetrVG." Während der Breakouts 5 min Setup, 15 min Recherche, 5 min Pitch-Vorbereitung Wenn Gruppe in „aber wir würden das nie nutzen" abrutscht: zurück auf den Wortlaut „geeignet" Tipp: TN auf Trust Center / Admin-Dokumentation verweisen, nicht auf Marketing-Seiten Erwartete Auflösung – pro Tool Gruppe A · Microsoft Copilot Was technisch anfällt Microsoft Purview Audit Logs: Wer hat wann welchen Prompt gestellt, welche Antwort erhalten, welche Dokumente wurden referenziert. Standard-Aufbewahrung: 180 Tage, Premium: bis 10 Jahre. Microsoft 365 Productivity Score / Viva Insights: Aggregierte Nutzungsdaten, teils mit Manager-Dashboards. Copilot Activity Reports: Anzahl Anfragen pro User, pro Tag, pro App (Word, Excel, Outlook). Auswertbar? Ja, in der Admin Console direkt einsehbar. Verdict: Klar geeignet zur Überwachung. Microsoft selbst dokumentiert das offen in den Audit-Log-Spezifikationen. Pointe: Productivity Score wurde 2020 nach öffentlicher Kritik entschärft (anonymisiert), aber Audit Logs bleiben personenbezogen. Gruppe B · Claude (Anthropic Enterprise) Was technisch anfällt Admin Console: Usage per User, API-Calls, Token-Verbrauch. Audit Logs (im Enterprise Plan): Wer hat wann eine Anfrage gestellt, mit Zeitstempel. Inhalte der Prompts sind technisch verfügbar (über die API), aber standardmäßig nicht in der Admin-Übersicht aggregiert. Auswertbar? Ja, weniger granular als Microsoft, aber vorhanden. Verdict: Geeignet zur Überwachung, auch wenn Anthropic das nicht aktiv vermarktet. Reicht für § 87 Abs. 1 Nr. 6. Gruppe C · Langdock Was technisch anfällt Admin Dashboard: Usage-Statistiken pro User, pro Workspace, pro Agent. Audit Logs: Konversationsprotokolle technisch verfügbar (admin-konfigurierbar). Bei On-Premise: volle Kontrolle über Logs durch IT. Auswertbar? Ja, sogar tiefer als Cloud-Tools, weil ihr selber bestimmt. Verdict: Geeignet zur Überwachung. Eigentlich der „transparenteste" Fall – ihr seht selbst, was ihr alles sehen könntet. Drei häufige Fehlannahmen (Trainer-Korrekturen) „Wir nutzen die Logs gar nicht." Irrelevant. § 87 Abs. 1 Nr. 6 stellt auf die Eignung ab, nicht auf die Nutzung. Auch ungenutzte Logs sind logs. „Die Auswertung ist anonymisiert." Sobald ein User-Login zugeordnet werden kann, ist es personenbezogen – auch wenn der Manager-Report aggregiert aussieht. „Der BR ist informell informiert." Mitbestimmung ist formell. Eine E-Mail an den BR-Vorsitzenden ersetzt keine Betriebsvereinbarung. Pointen für die Diskussion BAG-Linie ist eindeutig:BAG-Linie ist eindeutig: Schon die technische Möglichkeit der Verhaltens- oder Leistungskontrolle löst § 87 Abs. 1 Nr. 6 aus. Ohne Aktenzeichen zitieren – die Fundstelle vor dem Termin nachschlagen, falls Betriebsräte in der Gruppe sitzen. Praxis-Empfehlung: Keine Einzelvereinbarung pro Tool, sondern eine KI-Rahmenbetriebsvereinbarung für die Plattform-Strategie. Das ist genau, wo die KI-Stabsstelle (Block 3) zum Tragen kommt. Audit-Befund:Audit-Befund: In vielen mittelständischen Unternehmen lief der Copilot-Rollout ohne Mitbestimmung – häufigste Begründung: „War Teil des M365-Updates, nicht als KI-Tool eingeführt.“ Als Praxisbeobachtung formulieren, nicht als Statistik. Übergang „Damit habt ihr die Antwort: Bei allen drei Tools muss der BR ran. Ihr werdet das im Workshop heute Nachmittag wieder treffen, wenn ihr eure eigene Richtlinie aufsetzt – Kapitel 'Verantwortlichkeiten' und 'Mitbestimmung' sind dann nicht mehr abstrakt."

Das ist die Auflösung der Frage von Folie 58 – bewusst erst hier, nach dem Workshop. Vorher hat die Gruppe gesehen, dass alle drei Tools geeignet sind, Verhalten zu erfassen. Jetzt kommt die Konsequenz. Zwei Minuten, nicht mehr. Die Tabelle nicht vorlesen – die beiden Spalten gegenüberstellen und den entscheidenden Unterschied benennen: Die Richtlinie sagt, was gilt. Die Betriebsvereinbarung sagt, was vereinbart ist. Wo § 87 greift, hilft nur die zweite. WICHTIGE PRÄZISIERUNG, falls jemand nachfragt: Mitbestimmung heißt zunächst nur, dass der Betriebsrat zustimmen muss. In welcher Form, steht in § 87 BetrVG nicht. Es gibt drei Wege: 1) Betriebsvereinbarung – schriftlich, beidseitig unterzeichnet, wirkt normativ und unmittelbar für alle Beschäftigten. Der Regelfall. 2) Regelungsabrede – formlose Absprache zwischen Arbeitgeber und Betriebsrat. Erfüllt die Mitbestimmung, wirkt aber nur zwischen den Betriebsparteien und begründet keine unmittelbaren Rechte der Beschäftigten. 3) Spruch der Einigungsstelle, wenn man sich nicht einigt – ersetzt die Einigung und wirkt wie eine Betriebsvereinbarung. Warum in der Praxis fast immer die Betriebsvereinbarung: Nur sie wirkt normativ, und nur sie taugt als Rechtsgrundlage für die Verarbeitung von Beschäftigtendaten (Art. 88 DSGVO i.V.m. § 26 BDSG). Bei einem Copilot-Rollout erschlägt sie Mitbestimmung und Datenschutzgrundlage in einem Dokument. Was NICHT geht: die Richtlinie. Der Arbeitgeber kann die Mitbestimmung nicht durch einseitige Anordnung erfüllen – auch nicht, wenn er den Betriebsrat vorher informiert. Ohne Beteiligung ist die Maßnahme mitbestimmungswidrig, der Betriebsrat kann Unterlassung verlangen, und das kann bis zum Abschalten des Tools führen. Häufigste Rückfrage: „Wir haben doch eine IT-Richtlinie, reicht die nicht?“ Antwort: Für den Alltag ja, für die Mitbestimmung nein. Eine Richtlinie kann eine Betriebsvereinbarung nicht ersetzen – umgekehrt schon eher. Zweithäufigste: „Und wenn wir gar keinen Betriebsrat haben?“ Dann entfällt die Mitbestimmung, aber nicht die DSGVO und nicht der AI Act. Die Richtlinie wird dann umso wichtiger, weil sie das einzige interne Regelwerk ist. Wenn jemand nach Musterklauseln fragt: bewusst nicht Teil des Kurses. Verweis auf Tag 16 – dort baut ihr das Change-Konzept, und die Nutzungsrichtlinie ist dessen schriftliche Form. Übergang zur Praxis: „Damit ist der Rechtsteil durch. Was ihr heute Vormittag gelernt habt, tragt ihr gleich in Feld 2 eures Canvas ein – Compliance und Datenschutz.“

Kapitelfolie Praxis. Ab hier arbeitet die Gruppe durchgehend am eigenen Material.

Weil es die Grundlagen Schulung eh braucht, die dann auch zu inkremetellen Effizienzegewinnen führt Big strategic Bets: Sicher sein bevor Geld ausgegeben wird. Denn die Umstzungskomplexität wird sinken. Hausaufgaben nicht vergessen. Jetzt brauche ich viel weniger Daten- die müssen dann aber trotzdem gut sein

Merksatz: Erst USE, dann CASE. Zuerst das Problem, dann die Lösung – nie mit dem Tool anfangen.

Echte Lösungen für echte Probleme – keine technischen Spielereien!

https://miro.com/app/board/uXjVLZYwces=/?share_link_id=340605864455

https://miro.com/app/board/uXjVLZYwces=/?share_link_id=340605864455

Vorstellungsrunde. Drei Minuten pro Person, harte Zeitbegrenzung. Zwei Fragen an die Gruppe nach jedem Pitch: Was ist der nächste Schritt? Was hält dich gerade auf?

Merksatz: Erst USE, dann CASE. Zuerst das Problem, dann die Lösung – nie mit dem Tool anfangen.

Use Case Canvas. Die Gruppe kennt ihn aus Tag 9 – nicht neu einführen, nur in Erinnerung rufen.

Feld für Feld mit Beispiel. Auf Feld 2 besonders zeigen: Compliance und Datenschutz. Genau dort landet, was heute Vormittag besprochen wurde – die drei AI-Act-Fragen und der AVV-Reflex. Das ist die Brücke zwischen den beiden Hälften des Tages, sie muss laut ausgesprochen werden.

Die Klammer für die Praxisphase: groß denken beim Canvas, klein anfangen beim Bauen.

Arbeitsauftrag für die Leuchttürme. Der Satz unten ist das Qualitätskriterium: Wer Feld 4 nicht ausfüllen kann, dessen Idee ist noch nicht fertig – und das ist in Ordnung. Zeitboxen ansagen und einhalten, sonst hängt die Hälfte der Gruppe am Ende noch bei Feld 1. Zwischendurch einmal umgehen und fragen, wer bei Feld 2 hängt – das ist erfahrungsgemäß die Stelle.

Zweite Vorstellungsrunde. Gleiche Schlussfrage wie vorhin: nächster Schritt, was hält dich auf? Dann sind beide Runden vergleichbar.

Kapitelfolie Abschluss.

Rückblick Phase 1. Im Erzählmodus halten, zwei Minuten. Nicht vorlesen – einen Punkt aufrufen und die Gruppe ergänzen lassen.

Rückblick Phase 2. Zwei Minuten. Der Punkt, der hängen bleiben soll: Das technische Grundverständnis ist der Grund, warum sie Ergebnisse einschätzen können statt ihnen zu glauben.

Rückblick Phase 3, das ist die Phase, die heute endet. Toolkompass, Use Cases, Quick Wins – hier den Bogen zu dem schlagen, was sie heute Nachmittag gebaut haben.

Übergang zu Phase 4. Den Bogen spannen: Bisher ging es um euch. Ab Tag 15 geht es darum, andere mitzunehmen.

Konkreter Ausblick auf Tag 15 bis 17: Tool-Evaluation und Stakeholder-Kommunikation, Change Management, Prompt-Bibliothek.

Der Perspektivwechsel von Modul 1 zu Modul 2. Kernsatz steht unten: Üben, üben, üben.

Modul 2 in drei Blöcken. Kurz halten – die Details kommen an Tag 20.

Abschlussfolie. Danken, Ausblick auf Tag 15, Startzeit für morgen ansagen.