Die Bundesregierung stellt die Weichen für strengere Regeln im Umgang mit Künstlicher Intelligenz, das berichtet der Deutsche Bundestag in einer Pressemitteilung. Mit einem neuen Gesetzesentwurf soll die europäische KI-Verordnung nun auch in Deutschland umgesetzt werden und damit festgelegt werden, wer künftig über die Kontrolle, der Zulassung und die Überwachung von KI-Systemen wacht.
Kernstück des geplanten Gesetzes ist eine zentrale Rolle für die Bundesnetzagentur. Die Behörde soll künftig als zentrale Marktüberwachungsstelle sicherstellen, dass KI-Anwendungen den europäischen Vorgaben entsprechen. Grundlage dafür ist die EU-Verordnung 2024/1689, die bereits im August 2024 in Kraft getreten ist und europaweit verbindliche Regeln für KI-Systeme festlegt.
Nach dem Willen der Bundesregierung soll bei der Bundesnetzagentur außerdem ein Koordinierungs- und Kompetenzzentrum entstehen. Dieses soll die Zusammenarbeit verschiedener Behörden bündeln, Fachwissen bereitstellen und als Ansprechpartner für europäische Institutionen fungieren. Zusätzlich ist eine unabhängige Marktüberwachungskammer geplant, die besonders risikoreiche KI-Systeme genauer unter die Lupe nimmt.
Auch Bürgerinnen und Bürger sollen stärker eingebunden werden. Die Bundesnetzagentur soll als zentrale Beschwerdestelle fungieren. Wer Verstöße gegen KI-Regeln vermutet, kann sich künftig direkt an die Behörde wenden. Die Hinweise würden anschließend an die zuständigen Aufsichtsstellen weitergeleitet.
Neben Kontrolle setzt die Bundesregierung auch auf Förderung. Geplant sind Beratungsangebote, Informationsprogramme und sogenannte KI-Reallabore. In diesen Testumgebungen sollen Unternehmen neue Anwendungen unter Aufsicht entwickeln und erproben können. Besonders Start-ups und kleine sowie mittlere Unternehmen sollen so leichter Zugang zu KI-Technologien bekommen.
Gleichzeitig sieht der Gesetzentwurf klare Sanktionen vor. Wer bestimmte Mitwirkungs- oder Auskunftspflichten gegenüber Behörden verletzt, muss mit empfindlichen Bußgeldern rechnen. Geldstrafen von bis zu 50.000 Euro sind vorgesehen.
Der Aufbau der neuen Strukturen hat allerdings seinen Preis. Laut Berechnungen des Nationalen Normenkontrollrats entstehen dem Bund einmalige Kosten von rund vier Millionen Euro. Der jährliche Aufwand für Bund und Länder könnte zusammen fast 50 Millionen Euro erreichen.
Mit dem Gesetz will die Bundesregierung einen Spagat schaffen: strengere Kontrolle für risikoreiche KI und gleichzeitig mehr Raum für Innovationen in einer Schlüsseltechnologie der Zukunft.