Die Grünen-Innenpolitikerin Misbah Khan hält im Bundesrat diskutierte Vorschläge für den Einsatz von Künstlicher Intelligenz (KI) in der Verwaltung für problematisch. „Künstliche Intelligenz kann richtig eingesetzt ein nützliches und effizientes Tool sein, um Prozesse zu vereinfachen und zu beschleunigen“, sagte sie der Deutschen Presse-Agentur. Entscheidungen, die das Schicksal von Menschen beträfen, dürften jedoch nicht Algorithmen überlassen werden.
Anlass für die Warnung der Bundestagsabgeordneten sind Empfehlungen zum Entwurf für die Reform des Onlinezugangsgesetzes und weiterer Vorschriften zur Digitalisierung der Verwaltung, über die an diesem Freitag im Bundesrat beraten werden soll. In den Empfehlungen der Ausschüsse des Bundesrats heißt es, mit dem Gesetzentwurf sollten die rechtlichen Grundlagen der datenbasierten Verwaltung geschaffen werden. Dazu zähle unter anderem, „die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren“. Ein Warten auf den europäischen Prozess würde den Einsatz künstlicher Intelligenz im öffentlichen Sektor in Deutschland ausbremsen.
„Entscheidungen der Verwaltung müssen transparent und nachvollziehbar sein“
Bis das geplante Regelwerk der Europäischen Union, der sogenannte Artificial Intelligence Act, in Kraft tritt, dürften wohl noch mindestens zwei Jahre vergehen. In den Empfehlungen der Länder an die Bundesregierung heißt es: „Die Hebung der Potenziale dieser Technologie, Verwaltungsprozesse effizienter zu gestalten und Beschäftigten der öffentlichen Verwaltung moderne Arbeitsinstrumente zur Verfügung zu stellen“, würden verhindert, sollte man tatsächlich auf die EU-Regeln zu KI warten.
Khan warnte, Entscheidungen der öffentlichen Verwaltung müssten transparent und nachvollziehbar sein, außerdem seien selbstlernende Systeme nicht diskriminierungsfrei. Wer beispielsweise einen Antrag auf Wohngeld stelle und dann eine Absage erhalte, müsse nachvollziehen können, warum der Antrag abgelehnt wurde. „Wir sind gut beraten, nicht in einen technologieoffenen Blindflug einzusteigen“, mahnte die Grünen-Politikerin. Verfahren der öffentlichen Verwaltung könnten auch ohne den Einsatz von KI deutlich beschleunigt und vereinfacht werden.
