Senatskanzlei

Digitalisierung Künstliche Intelligenz in der Verwaltung

Diskussion über digitale Zukunftsfragen im Hamburger Rathaus

Am heutigen Freitag fand im Hamburger Rathaus eine interdisziplinäre Veranstaltung mit hochrangigen Experten zum Thema „Algorithmen und Künstliche Intelligenz in der Verwaltung – Chancen und Risiken, demokratische Legitimation und rechtsstaatliche Kontrolle“ statt. Veranstalter waren unter anderem die Hamburger Senatskanzlei, der Rechtstandort Hamburg e.V. sowie das Hans-Bredow-Institut für Medienforschung. Einer Fachtagung am Vormittag schloss sich am Nachmittag ein Senatsempfang mit Podiumsdiskussion an, in der die Ergebnisse des Vormittags reflektiert wurden. Bürgermeister Tschentscher sprach zur Eröffnung ein Grußwort.

Künstliche Intelligenz in der Verwaltung

Digitalisierung führt in Wirtschaft, Staat und Gesellschaft dazu, dass technische Systeme in Entscheidungsprozesse einbezogen werden oder sogar autonom entscheiden. Sofern Algorithmen und Systeme künstlicher Intelligenz (KI) in die Steuerungs- und Entscheidungsprozesse der öffentlichen Verwaltung einbezogen werden, wirft dies grundlegende Fragen in Bezug auf die demokratische Legitimation ihres Einsatzes, den Grundrechtsschutz, das Rechtsstaatprinzip und den effektiven Rechtsschutz durch die Verwaltungsgerichte auf. 

Hamburgs Erster Bürgermeister Dr. Peter Tschentscher: „Der Senat hat eine Strategie für eine „Digitale Stadt“ entwickelt, die nahezu alle Bereiche erfasst und eine Vernetzung der öffentlichen Verwaltung mit dem privaten, wirtschaftlichen und wissenschaftlichen Sektor erreichen soll. Um nicht den Anschluss zu verlieren, müssen wir uns auch heute schon mit Künstlicher Intelligenz befassen und erste eigene Erfahrungen sammeln. Dazu trägt diese Veranstaltung bei. Für den Einsatz automatisierter Systeme und künstlicher Intelligenz müssen klare Rahmenbedingungen gelten, insbesondere dort, wo Algorithmen Entscheidungen der Verwaltung beeinflussen. Am Ende sollte immer der Mensch die Möglichkeit behalten, die letzte Entscheidung zu treffen.” 

Staatsrätin der Justizbehörde, Katja Günther: „Algorithmen und Künstliche Intelligenz können der Verwaltung und damit den Bürgerinnen und Bürgern große Vorteile bringen. Dafür müssen aber bestimmte Regeln beachtet werden. Wir brauchen Transparenz, um sicherzustellen, dass niemand durch den Einsatz von KI diskriminiert wird. Der Mensch in der Verwaltung muss Entscheidungen von Maschinen korrigieren können. Schließlich müssen wir verhindern, dass die Verwaltung in eine Abhängigkeit von Dienstleistern gerät. In der Wirtschaft erfüllt KI selten diese Kriterien. Für die Verwaltung sollte daher die Nutzung von Open Source Lösungen bevorzugt werden.“ 

Im Rahmen der Veranstaltung erarbeiteten 40 hochrangige Expertinnen und Experten verschiedener Fachrichtungen (z.B. Rechtswissenschaften, Mathematik, Informatik) und Verwaltungspraktiker aus der gesamten Bundesrepublik in vier Workshops gemeinsame Thesen über die zukünftige Rolle von Künstlicher Intelligenz in der öffentlichen Verwaltung und Gerichtsbarkeit. Ziel ist es, alle Fachrichtungen einzubinden und frühzeitig verschiedene Erfahrungen und Lösungsansätze einzubringen. 

Am Nachmittag eröffnete Bürgermeister Tschentscher den öffentlichen Teil der Tagung mit einem Grußwort. Bei der Podiumsdiskussion stand u.a. die Frage im Vordergrund, wie demokratische und rechtsstaatliche Grundprinzipien beim Einsatz von künstlicher Intelligenz gesichert werden können. Teilnehmende an der Podiumsdiskussion waren unter anderem Katja Günther (Staatsrätin der Hamburger Justizbehörde), Prof. Dr. Judith Simon (Universität Hamburg, Mitglied der Datenethikkommission der Bundesregierung) sowie Paul Nemitz (Principal Adviser Europäische Kommission, Mitglied der Datenethikkommission der Bundesregierung). Die während der Tagung gewonnenen Erkenntnisse sollen wissenschaftlich aufbereitet und „Hamburger Thesen“ abgeleitet werden.