Richtlinien zum Umgang mit Systemen künstlicher Intelligenz erarbeiten

Drs. IX-1150

Das Bezirksamt wird ersucht, bis spätestens Juli 2025 Richtlinien für die Anwendung von Systemen künstlicher Intelligenz im Verwaltungshandeln, bei nachgeordneten Einrichtungen, Organisationseinheiten und bei freien Trägern, die Leistungen für den Bezirk erbringen, zu erarbeiten. Die Richtlinien sind mit regelmäßig und aktiv beworbenen bzw. selbst organisierten Weiterbildungs- und Schulungsangeboten

• zur Risikoeinschätzung der jeweiligen Systeme und Plattformen,
• zum Umgang mit Desinformationen, Fehlinformationen und erfundenen Informationen,
• zu ethischen Grundsätzen und gesetzlichen Vorgaben bei Anwendung von künstlicher Intelligenz und ihren Produkten, insbesondere in Hinblick auf Datenschutz, Urheberschaft und Kinderschutz sowie Informations- und Transparenzpflichten sowie
• einem grundlegend umsichtigen, nachhaltigen und effizienten Einsatz

zu flankieren.

Einreichende: BV Maria Bigos, BV Maximilian Schirmer

Begründung:

Systeme künstlicher Intelligenz erfahren einen enormen Aufschwung in Forschungsfinanzierung und gesellschaftlichem Diskurs. In der breiteren Bevölkerung sind KI-basierte Systeme insbesondere durch Large Language Models (LLM) wie ChatGPT angekommen und im Alltag etabliert. Weil man sich durch KI-basierte Technologien Entlastung und Effizienzsteigerung erhofft, werden sie seit geraumer Zeit nicht nur für den rein privaten Zweck, sondern auch für den Einsatz in unterschiedlichen Bereichen debattiert und punktuell bereits eingesetzt, so auch in der Verwaltung.

Bildungsträger haben darauf reagiert und bieten Fort- und Weiterbildungsmaßnahmen in einem weiten Spektrum von Sachbearbeitung über Beteiligungsverfahren bis hin zur Jugendhilfe an. Auch wurde ein Leitfaden explizit zum Einsatz von LLM in Kommunalverwaltungen durch VITAKO (Bundesarbeitsgemeinschaft von IT-Dienstleistern) und die KGSt (Verband für kommunales Management) veröffentlicht, der Handlungsempfehlungen und praktische Anwendungsgebiete als Fallbeispiele zur verantwortungsvollen Integration von KI ins Verwaltungshandeln gibt. Bindend ist diese Leitlinie allerdings nicht und sie gibt auch nur einen groben Orientierungsrahmen, wenngleich sie explizit die Qualifizierung von Mitarbeitenden in der Kommunalverwaltung empfiehlt. Die besondere Form der Bezirksverwaltung in Berlin können solche Leitlinien logischerweise genauso wenig abdecken, wie eine fehlende Kennzeichnungspflicht bei von KI-Systemen generierten Inhalten ersetzen, die öffentlich zugänglich gemacht oder zumindest nicht rein privater Natur sind. Auch bleiben die Leitlinien auf Anwendungen innerhalb der Verwaltung beschränkt und benennen nicht den teilweise hohen Energieverbrauch einzelner KI-Tools, der in Relation zum ausgeworfenen Produkt stehen muss. Sie umfassen auch nicht den Umgang mit KI-betriebenen Plattformen wie X, Meta und TikTok.

Wesentliche Fragen zum konkreten Kosten-Nutzen-Verhältnis sowie Chancen und Grenzen insbesondere auch außerhalb, aber im Auftrag der Bezirksverwaltung, bleiben demnach unbeantwortet. Das kann zu einem ineffizienten Arbeiten und vor allem auch zu Verunsicherung in Arbeitsfeldern führen, die mit besonders schützenswerten Personengruppen wie Kindern und Jugendlichen und mit sensiblen Daten arbeiten. Deshalb ist es geboten, sich in der bezirklichen Verwaltung Pankows darüber zu verständigen, ob, wie und zu welchem Zweck KI-basierte Systeme angewendet werden können, über ihre Risiken aufzuklären und Schulungen zielgerichtet und aktiv anzubieten sowie bestehende Fort- und Weiterbildungsmöglichkeiten bekannter zu machen - für Mitarbeitende der Verwaltung und für Leistungserbringer; insbesondere dann, wenn sie eine Multiplikator:innenfunktion haben.