Jonas Botta berät den Landtag NRW zu KI

Die Enquetekommission „Künstliche Intelligenz“ des Landtags NRW hat Dr. Jonas Botta um eine schriftliche Stellungnahme zum Thema „Innere Sicherheit“ gebeten. Der Experte vertritt an der FernUniversität in Hagen die Juniorprofessur für Öffentliches Recht mit Schwerpunkt Datenschutzrecht und Recht der Digitalisierung. Enquetekommissionen sind besondere Gremien der Landtage, die komplizierte und weitreichende Zukunftsfragen ausloten – unter Einbezug wissenschaftlicher Stimmen. 2025 hat der nordrhein-westfälische Landtag die Kommission IV „Künstliche Intelligenz – Für einen smarten Staat in der digitalen Gesellschaft“ eingesetzt. Das Thema „Innere Sicherheit“ nimmt hierin einen wichtigen Platz ein. „Es geht darum, der Politik Handlungsempfehlungen aufzuzeigen“, ordnet Botta seine juristische Expertise ein. „Ich setze mich schon länger mit dem polizeilichen KI-Einsatz auseinander – und habe nun meine öffentlich-rechtliche Perspektive auf KI als Mittel zur Gefahrenabwehr in die Kommission einfließen lassen.“

„Nicht alles, was technisch möglich erscheint, ist auch aus verfassungsrechtlicher Sicht erstrebenswert“, gibt Botta mit Blick auf das Grundgesetz zu Bedenken. Der Experte stellt klar, dass es hier oftmals keine einfachen Schwarz-Weiß-Antworten gibt. „KI ist immer nur ein Werkzeug – und das kann genauso für gemeinwohlförderliche wie -schädliche Zwecke verwendet werden.“ Das gilt auch für die polizeiliche Arbeit. „KI verursacht neue Gefahren, zum Beispiel mit Blick auf Deep Fakes“, so Botta, „man kann sie aber genauso nutzen, um Fake-Inhalte zu enttarnen.“ Ein anderes aktuelles Beispiel ist der umstrittene polizeiliche Einsatz der Software Gotham des US-amerikanischen Unternehmens Palantir. „Das Programm kann zwar Daten auf eine ganz neue Weise miteinander verknüpfen und damit Ermittlungsarbeiten vereinfachen“, erklärt der Jurist.

Der enorme Datenhunger solcher Systeme bringe es jedoch mit sich, dass Informationen in großem Umfang auch über Geschädigte, Zeuginnen und Zeugen sowie Unbeteiligte zusammengeführt und ausgewertet werden – oft ohne deren Wissen. „Hinzu kommen strukturelle Schwachstellen von KI, wie Halluzinationen oder Intransparenz, weshalb der Einsatz intelligenter Analysetools die Polizeiarbeit auch verschlechtern und den Grundrechtsschutz erheblich schmälern kann. Polizeiliche Maßnahmen müssen immer nachvollziehbar und begründbar sein. Damit verträgt sich keine KI-Blackbox.“

Das Beispiel Palantir lege zudem nahe, wie entscheidend inzwischen der Aspekt „Digitale Souveränität“ sei: „Europa ist beim Thema KI eindeutig im Hintertreffen. Wir haben einfach ein anderes Rechts- und Wertesystem, das wir aber nicht als Schwäche, sondern vielmehr als Stärke begreifen sollten.“ Jetzt gehe es darum eigene Systeme zu entwickeln – als grundrechtsschonende Lösungen. „Sich von anderen abhängig zu machen, das ist gefährlich“, unterstreicht Botta. „Die Garantien, die uns das Grundgesetz gibt, dürfen von KI nicht unterwandert werden.“

Als Sachverständiger spricht er sich deshalb klar dafür aus, europäische Eigeninnovationen stärker zu fördern – staatliche wie private. Im besten Falle sollten KI-Reallabore als gemeinsame, digitale Experimentierräume dienen, um neue Technik zu erproben und sie fit für den rechtskonformen Einsatz zu machen.

Faktor Mensch

Außerdem entscheidend: der Faktor Mensch. „Die letzte Entscheidung muss immer beim Menschen liegen“, fordert Jonas Botta fürs Bedienen von Sicherheitssoftware. Künftig müssen Fachkräfte im Umgang mit KI geschult werden – umgekehrt kann die neue Technik helfen, die Ausbildung zu verbessern. Zum Beispiel, durch realitätsnahe Trainings-Simulationen. Zudem gelte es alle Bürgerinnen und Bürger mitzunehmen. „Hier braucht es Transparenz und Vertrauen. Das könnte das Land NRW zum Beispiel mit einem Transparenzregister für behördliche KI-Systeme erreichen, in das alle Einblick haben.“