Einsatz von KI in der Stadtverwaltung

Eine abschließende Auswahl geeigneter KI-Modelle liegt derzeit nicht vor. Vor einem möglichen Einsatz werden neben der funktionalen Eignung immer auch datenschutzrechtliche, sicherheitsrelevante und rechtliche Aspekte geprüft. Der Einsatz von KI kann in der Stadtverwaltung vielfältige Potenziale erschließen, unter anderem: Effizienzsteigerung in standardisierten Arbeitsabläufen, Unterstützung bei der Analyse großer Datenmengen, Assistenzsysteme für Mitarbeitende, automatisierte Übersetzungen (Fremdsprachen, leichte Sprache, Gebärdensprache), Verbesserung von Bürger:innenservices (z. B. Chatbots, barrierefreie Aufbereitung, erweiterte Erreichbarkeit), datenbasierte Entscheidungsunterstützung, Kosteneinsparungen und Ressourcenschonung. Darüber hinaus kann eine gezielte Nutzung von KI dazu beitragen, die Handlungsfähigkeit der Stadterwaltung angesichts des demografischen Wandels zu sichern. Künstliche Intelligenz kann in nahezu allen Bereichen der Verwaltung unterstützend eingesetzt werden - etwa bei der Textgenerierung, Plausibilitätsprüfung, Recherche oder der Durchführung von Wissensabfragen. Im Rahmen digitaler Bürger:innenservices kann der Einsatz von Chatbots die Zugänglichkeit und Verfügbarkeit verwaltungsbezogener Leistungen deutlich verbessern. Bei hoheitlichen Aufgaben ist der Einsatz von KI aus rechtlichen Gründen eingeschränkt: Sie darf keine Verwaltungsakte erzeugen, kann jedoch vorbereitend oder beratend tätig werden. Für einen fachlich korrekten und verantwortungsvollen Einsatz sind qualitätsgesicherte Informationsbestände entscheidend. Diese sollten bevorzugt auch für Trainingszwecke genutzt werden. Eine vollständige zentrale Übersicht über bereits produktiv eingesetzte KI-Anwendungen liegt derzeit nicht vor. Aufgrund der dezentralen Zuständigkeiten können Fachämter Lösungen eigenständig in Pilot- oder Testumgebungen erproben. Eine zentrale Übersicht zu bisherigen oder geplanten Ausgaben, die eine entsprechende Auswertung ermöglichen würden, liegt aktuell nicht vor. Zu den wesentlichen Herausforderungen zählen: Datenschutz und Informationssicherheit, Urheberrechtsfragen, mögliche Verzerrungen (Bias) in den Modellen, Abhängigkeiten von einzelnen Anbietern, Datensouveränität und ethische Fragestellungen, Nachvollziehbarkeit und Transparenz von Entscheidungsprozessen. Alle vom Magistrat beschaffenen KI-Lösungen müssen den geltenden rechtlichen Vorgaben entsprechen. Die Umsetzung richtet sich nach den verbindlichen Standards zur Informationssicherheit sowie den technischen Richtlinien des Amts für Informations- und Kommunikationstechnik. Personenbezogene Daten werden ausschließlich in lokal betriebenen Systemen verarbeitet. Die Verarbeitung von Geschäftsgeheimnissen oder sensiblen Daten (z. B. aus Sozial-, Gesundheits- oder Statistikbereichen) unterliegen besonderen gesetzlichen Vorschriften. Eine Nutzung außerhalb der zulässigen Rechtsgrundlagen ist ausgeschlossen. Der AI Act der EU verpflichtet zudem zu Schulungen für Mitarbeitende, die mit KI-Systemen arbeiten. Derzeit gibt es keine flächendeckenden, zentral organisierten Fortbildungsprogramme zum Einsatz von KI in der Stadtverwaltung. Über die Inanspruchnahme externer Fortbildungen durch die Ämter und Betriebe liegen an zentraler Stelle keine Informationen vor. Schulungen finden bisher dezentral in einzelnen Fachämtern oder in Kooperation mit externen Anbietern statt. Erste Aktivitäten wurden angestoßen, etwa: Mitarbeit in der Arbeitsgruppe "Chancen und Risiken des Einsatzes von Künstlicher Intelligenz in der Stadtverwaltung" des IT-Strategierats, Ableitung erster Grundlagen für künftige Schulungsangebote, thematische Veranstaltungen wie der "Digital Friday" und "KI ist weiblich" zum Thema KI.