Seit dem 2. Februar 2025 greifen erste Regelungen der KI-Verordnung in der EU. In Deutschland gibt es jedoch weiterhin offene Fragen zur praktischen Umsetzung, insbesondere in Bezug auf die Marktüberwachung. Die Bundesregierung hatte angekündigt, dass die Bundesnetzagentur diese Aufgabe übernehmen soll – allerdings fehlt bis heute die gesetzliche Grundlage dafür. Kritik kommt vor allem von Datenschützern und aus den Bundesländern.
Deutschland im zeitlichen Rahmen – aber die Zeit drängt
Die Umsetzung der Verordnung erfolgt schrittweise. Zwar sind einige Regelungen bereits gültig, doch die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, um eine zuständige Marktüberwachungsbehörde offiziell zu benennen. Dies ist durch Art. 113 Abs. 3 lit. b) in Verbindung mit Art. 70 Abs. 1 der KI-Verordnung geregelt.
Trotz dieses Spielraums gerät Deutschland ins Hintertreffen. Ein Referentenentwurf für das Durchführungsgesetz wurde bereits im Januar 2025 vorgestellt, doch in dieser Legislaturperiode wird keine endgültige Verabschiedung mehr erfolgen. Dadurch bleibt unklar, wie genau die Marktüberwachung strukturiert wird.
Keine gesetzliche Grundlage in dieser Legislaturperiode
Bereits im September 2024 kündigte die Bundesregierung an, die Bundesnetzagentur als zentrale Marktaufsichtsbehörde zu bestimmen. Ein entsprechendes Gesetz wurde allerdings noch nicht verabschiedet. Auf eine parlamentarische Anfrage im vergangenen Jahr antwortete die Regierung:
„Die Kabinettbefassung für ein Durchführungsgesetz zur Umsetzung der KI-Verordnung ist für das erste Quartal 2025 vorgesehen.“
Bis heute hat jedoch keine solche Befassung stattgefunden, was bedeutet, dass das Gesetzgebungsverfahren ins Stocken geraten ist. Damit bleibt die Umsetzung vorerst unklar.
Datenschutzbehörden üben scharfe Kritik
Besonders scharfe Kritik kommt von Thomas Fuchs, dem Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). In einem Statement auf LinkedIn erklärte er, dass der aktuelle Entwurf in mehreren Punkten verfassungs- und europarechtswidrig sei. Seine Hauptkritikpunkte:
- Ungeeignete Zuständigkeit der Bundesnetzagentur:
- Gemäß Art. 74 Abs. 8 KI-Verordnung sollten entweder Datenschutzbehörden oder speziell qualifizierte Aufsichtsbehörden für Hochrisiko-KI zuständig sein. Die Bundesnetzagentur erfüllt diese Voraussetzungen nur in begrenztem Maße.
- Eingriff in die Eigenständigkeit der Bundesländer:
- Nach Art. 30 des Grundgesetzes (GG) sind die Länder für ihre Verwaltungsangelegenheiten eigenständig verantwortlich. Die Überwachung durch eine Bundesbehörde könnte in einigen Bereichen, wie Hochschulen oder die Landespolizei, zu Konflikten führen.
Handlungsdruck für die nächste Bundesregierung
Nach den Bundestagswahlen muss die neue Bundesregierung eine schnelle Entscheidung zur Marktüberwachung treffen. Eine Verzögerung könnte dazu führen, dass Deutschland seinen Verpflichtungen nicht nachkommt. Die offene Frage bleibt, ob der bisherige Entwurf übernommen oder grundlegend überarbeitet wird.
Fazit
Deutschland hat noch etwas Zeit, um die gesetzliche Grundlage für die Marktüberwachung von KI-Systemen zu schaffen, doch der Spielraum wird zunehmend enger. Unternehmen und Behörden brauchen klare Regelungen, um sich auf die Anforderungen der KI-Verordnung einzustellen. Die kommende Bundesregierung wird gefordert sein, hier rasch nachzubessern und Rechtssicherheit zu schaffen.
