Transparenzpflichten

Der Digital Omnibus, der am 27. Juli 2026 in der EU in Kraft trat, ergänzt den EU AI Act und zielt darauf ab, den regulatorischen Rahmen für Künstliche Intelligenz an aktuelle Entwicklungen anzupassen. Ab dem 2. August 2026 müssen Entwickler und Betreiber von KI-Systemen strengere Transparenzpflichten einhalten, um die Interaktion mit Endnutzern klar zu kennzeichnen. Am 2. Dezember 2026 treten zusätzliche Kennzeichnungspflichten und spezifische Verbote für bestimmte Anwendungen in Kraft, was Unternehmen vor Herausforderungen bei der Dokumentation und Risikobewertung ihrer Systeme stellt. Die Fristen für Hochrisiko-Anwendungen wurden verlängert, um Herstellern mehr Zeit zu geben, während kleinere Unternehmen von vereinfachten Compliance-Anforderungen profitieren. Das EU-KI-Büro erhält erweiterte Befugnisse zur Durchsetzung der Verordnung, einschließlich der Möglichkeit, hohe Bußgelder zu verhängen. Trotz des Inkrafttretens gibt es Bedenken hinsichtlich der praktischen Umsetzung, da harmonisierte Normen und Konformitätsbewertungen möglicherweise nicht rechtzeitig bereitgestellt werden können.

Am 20. Juli 2026 hat die EU-Kommission Leitlinien zur Umsetzung der Transparenzpflichten gemäß Artikel 50 der KI-Verordnung veröffentlicht, die ab dem 2. August 2026 in Kraft treten. Diese Leitlinien bieten Anbietern und Betreibern von KI-Systemen praktische Orientierung und fördern eine einheitliche Anwendung innerhalb der EU. Artikel 50 verpflichtet Anbieter, natürliche Personen darüber zu informieren, wenn sie mit einem KI-System interagieren, wobei die Informationen klar und verständlich sein müssen. Es gibt jedoch Ausnahmen von dieser Informationspflicht, insbesondere wenn offensichtlich ist, dass eine Interaktion mit einem KI-System stattfindet. Anbieter, die Inhalte erzeugen oder manipulieren, müssen sicherstellen, dass diese in einem maschinenlesbaren Format gekennzeichnet sind. Die Leitlinien betonen die Notwendigkeit technischer Maßnahmen zur Erkennbarkeit der Inhalte, auch nach deren Weiterverarbeitung. Zudem wird zwischen künstlichen Inhalten und unterstützenden KI-Funktionen unterschieden, wobei nicht jede Nutzung von KI kennzeichnungspflichtig ist.

Der EPGenAI Hub wird derzeit vom Europäischen Parlament getestet, um die Nutzung von KI-Tools unter den Mitarbeitern zu modernisieren und Datenschutzrisiken zu minimieren. Aktuell verwenden etwa 20 Prozent der Belegschaft KI-Tools ohne angemessene Kontrolle. Die neue Plattform soll einen sicheren Rahmen bieten, indem sie lokal gehostete Modelle für sensible Aufgaben mit kontrolliertem Zugang zu externen Systemen kombiniert. Dies ermöglicht die Nutzung amerikanischer Technologien, ohne die digitale Souveränität zu gefährden. Ein zentrales Ziel des Hubs ist es, KI-Halluzinationen zu bekämpfen, die in der Vergangenheit zu fehlerhaften Informationen in offiziellen Dokumenten führten. Ab August 2026 müssen alle KI-erstellten Dokumente gekennzeichnet werden, was Diskussionen über Transparenzpflichten für Abgeordnete auslöst. Langfristig plant das Parlament, unabhängiger von US-Technologien zu werden, indem europäische Alternativen entwickelt und integriert werden. Die Testphase ab September wird zeigen, ob der Hub Innovation und Kontrolle erfolgreich vereinen kann.

Ab dem 2. August 2026 treten die ersten Transparenzpflichten der EU-KI-Verordnung in Kraft, die Unternehmen zur Überwachung und Verwaltung ihrer KI-Agenten verpflichten. Verstöße können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, was den Druck auf Unternehmen erhöht, geeignete Governance-Richtlinien zu etablieren. Keeper Security und BeyondTrust haben neue Funktionen zur Überwachung von KI-Agenten vorgestellt, um Sicherheitslücken zu schließen und Risiken durch Schatten-KI zu minimieren. Gartner prognostiziert, dass bis 2028 über 150.000 KI-Agenten pro Fortune-500-Unternehmen aktiv sein werden, während viele Firmen noch keine Governance-Strukturen implementiert haben. Eine Studie zeigt, dass fast die Hälfte der Beschäftigten KI-Tools ohne Genehmigung der IT-Abteilung nutzt, was die Sicherheitslage weiter verschärft. In Deutschland wird die Bundesnetzagentur die zentrale Rolle in der KI-Marktüberwachung übernehmen, um die Einhaltung der neuen Vorschriften sicherzustellen. Experten empfehlen, insbesondere in regulierten Branchen, ein striktes Trennungsmodell für die Überwachung und Validierung von KI-Systemen zu implementieren.

Ab August 2026 tritt das EU-KI-Gesetz in Kraft, das Unternehmen strenge Transparenzpflichten auferlegt und bei Verstößen hohe Strafen von bis zu 35 Millionen Euro vorsieht. Die Justiz und das Bildungssystem zeigen sich besorgt über die Risiken von Künstlicher Intelligenz (KI), insbesondere nach Vorfällen wie der Verwendung gefälschter Gerichtsurteile und dramatischen Leistungsabfällen bei Prüfungen. In Singapur wurde ein Kläger bestraft, weil er falsche KI-generierte Rechtszitate eingereicht hatte, während Trinidad und Tobago den Einsatz von KI in der richterlichen Entscheidungsfindung verbietet. Die akademische Welt sieht sich ebenfalls Herausforderungen gegenüber, da KI in Prüfungen zu signifikanten Leistungsabfällen führt. Unternehmen müssen ihre KI-Systeme genau dokumentieren, um den neuen Anforderungen gerecht zu werden und Strafen zu vermeiden. Trotz der beeindruckenden Ergebnisse von KI-Anwendungen gibt es Widerstand in der Wirtschaft, da Mitarbeiter um ihre berufliche Identität fürchten. Die neuen EU-Regularien zielen darauf ab, den sicheren Einsatz von KI zu gewährleisten und die Verantwortung für deren Ergebnisse klar zu definieren.

Ab dem 2. August 2026 müssen Unternehmen in der EU neue Transparenzpflichten für bestimmte KI-Systeme einhalten und ihre KI-Kompetenz nachweisen, da die nationale Marktüberwachung die Einhaltung aktiv kontrolliert. Eine TÜV-Untersuchung zeigt, dass 56 Prozent der deutschen Unternehmen, insbesondere größere Firmen mit über 250 Mitarbeitern (74 Prozent), nicht ausreichend vorbereitet sind. Diese Zurückhaltung wird durch ein schwaches Investitionsklima verstärkt, da Deutschland weniger als ein Prozent seines BIP in Software investiert. Die Fristen für Hochrisiko-KI-Systeme wurden teilweise verschoben, doch die wesentlichen Transparenzpflichten treten bereits im August 2026 in Kraft. Unternehmen riskieren finanzielle Strafen von bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes, wenn sie die neuen Anforderungen ignorieren. Zudem wird das regulatorische Umfeld durch das Netzinformationssicherheitsgesetz und den Cyber Resilience Act verschärft. Branchenexperten fordern eine strategische Neuausrichtung, um die Produktivität durch neue KI-Modelle zu steigern und gleichzeitig die Anforderungen an Quellenvalidität und Systemsicherheit zu erfüllen. Die Verantwortung für eine rechtskonforme Implementierung bleibt jedoch bei den Unternehmen.

Ab August 2026 müssen Kanzleien gemäß der EU-KI-Verordnung neue Transparenzpflichten erfüllen, die sicherstellen, dass Nutzer erkennen können, wenn Inhalte von KI-Systemen, wie Chatbots, generiert wurden. Kanzleien, die eigene KI-Lösungen entwickeln, stehen vor umfangreichen Compliance-Anforderungen, einschließlich Risikoanalysen und dem Aufbau spezifischer KI-Kompetenzen. Bei Verstößen drohen hohe Bußgelder von bis zu 35 Millionen Euro. Gleichzeitig wird die digitale Souveränität der Branche durch Sicherheitslücken bei großen Plattformanbietern und die Abhängigkeit von US-Cloud-Diensten in Frage gestellt. Trotz dieser Herausforderungen zeigen sich Effizienzgewinne durch den Einsatz von Legal AI, insbesondere im Arbeitsrecht, wo der Arbeitsaufwand deutlich gesenkt werden kann. Viele Kanzleien sind jedoch anfällig für Cyberrisiken, da sie oft veraltete Software verwenden. Die Einführung von KI erfolgt häufig schneller als die Implementierung notwendiger Datenkontrollen, was zusätzliche Probleme mit sich bringt. Die menschliche Prüfung von Entscheidungen bleibt jedoch unerlässlich, um berufsrechtliche Verstöße zu vermeiden.

Anthropic warnt vor den potenziellen Gefahren der künstlichen Intelligenz und fordert strenge Sicherheitsvorkehrungen, um Risiken für Staaten, Arbeitsplätze und die allgemeine Sicherheit zu minimieren. Das Unternehmen hat politische Vorschläge veröffentlicht und drängt den US-Kongress, ein umfassendes Bundesgesetz zu erlassen, das die bestehenden Landesgesetze zur KI nicht außer Kraft setzt. CEO Dario Amodei betont, dass die aktuellen Transparenzpflichten unzureichend sind und fordert technische Tests für leistungsstarke KI-Modelle, die im Extremfall blockiert werden sollten, wenn sie erhebliche Risiken darstellen. Der Vorschlag sieht vor, dass besonders leistungsfähige Modelle von unabhängigen Dritten auf verschiedene Risikofelder getestet werden, um Cyberangriffe, biologische Risiken und Kontrollverluste zu verhindern. Zudem verlangt Anthropic die Schaffung einer staatlichen Regulierungsbehörde, die gefährliche Modelle blockieren kann, und fordert Unternehmen auf, ihre Sicherheitsmaßnahmen zu verbessern und kritische Vorfälle schnell zu melden. In einem politischen Umfeld, das eine einheitliche nationale KI-Politik anstrebt, positioniert sich Anthropic zwischen der Notwendigkeit klarer Regulierung und der Ablehnung einer pauschalen Deregulierung.

In der aktuellen Ausgabe des KI-Updates wird die Vorstellung von Google’s Gemini Intelligence auf der Android Show hervorgehoben. Dieser KI-Assistent kann komplexe Aufgaben wie das Buchen von Sportkursen und das Erstellen von Einkaufslisten übernehmen und wird ab Sommer auf ausgewählten Geräten, auch in Deutschland, eingeführt. Zudem hat Google ein lokales KI-Modell in Chrome integriert, das datenschutzfreundliche Funktionen bieten soll, jedoch Bedenken hinsichtlich der Datensicherheit aufwirft. Google hat außerdem einen KI-gestützten Cyberangriff abgewehrt, was die Diskussion über die Sicherheitsfähigkeiten moderner KI-Modelle anheizt. Die EU-Kommission plant neue Transparenzpflichten für KI-Tools zur Bekämpfung digitaler Täuschung. Microsoft sieht sich Herausforderungen gegenüber, darunter Unsicherheiten bei einem geplanten Rechenzentrum in Kenia und den Austausch seines Landeschefs nach einem Skandal mit dem israelischen Militär. In der Rechtsbranche gewinnt die KI Claude von Anthropic an Bedeutung, während Microsoft seine Überwachungsfunktionen für KI-Prompts ausweitet, was Fragen zur Privatsphäre aufwirft.

Ab August 2026 müssen Anbieter und Betreiber von KI-Systemen in der EU bestimmte Transparenzpflichten gemäß der KI-Verordnung (KI-VO) einhalten. Nutzer sollen klar erkennen können, wenn sie mit KI-Systemen interagieren oder KI-generierte Inhalte wie Texte, Bilder oder Videos konsumieren. Besonders relevant ist die Kennzeichnung von Deepfakes, die als manipulierte Inhalte gekennzeichnet werden müssen. Für kleine Unternehmen gelten erleichterte Dokumentationspflichten, jedoch bleibt die Kennzeichnung von Deepfakes und Emotionserkennung verpflichtend. Die genaue Art der Kennzeichnung ist nicht festgelegt, jedoch muss eine klare Information spätestens bei der ersten Interaktion bereitgestellt werden. Zudem entfällt die Kennzeichnungspflicht für KI-generierte Texte, wenn diese von Menschen überprüft wurden, was für Journalisten und Kanzleien von Bedeutung ist. Unternehmen sind gefordert, klare Richtlinien für die Prüfung und Veröffentlichung von KI-Inhalten zu entwickeln, insbesondere im Hinblick auf den Umgang mit personenbezogenen Daten.

Die Nutzung von Künstlicher Intelligenz (KI) im Recruiting bietet sowohl Chancen als auch Herausforderungen. Laut der Wirtschaftsprofessorin Claudia Bünte kann KI den Recruiting-Prozess erheblich beschleunigen und Personalabteilungen bei der Vorauswahl von Bewerbungen unterstützen. Besonders im Screening zeigt KI ihre Stärken, indem sie vielversprechende Kandidaten aus einer Vielzahl von Bewerbungen herausfiltert. Allerdings besteht die Gefahr der Diskriminierung, da KI-Systeme auf historischen Daten basieren und Vorurteile reproduzieren können. Um dies zu vermeiden, empfiehlt Bünte die Bildung diverser Teams und eine kontinuierliche Kontrolle der Ergebnisse. Zudem müssen Unternehmen den EU-AI-Act beachten, der strenge Dokumentations- und Transparenzpflichten für KI-Anwendungen im Personalwesen festlegt. Verstöße können hohe Strafen nach sich ziehen. Bünte rät dazu, verschiedene KI-Tools zu testen und sich intensiv mit den rechtlichen Rahmenbedingungen auseinanderzusetzen, um das volle Potenzial der Technologie auszuschöpfen.