BSI-Empfehlungen für generative KI in Behörden: 11 Regeln

Warum der BSI-Kriterienkatalog für die kommunale Verwaltung entscheidend ist

Die Digitalisierung kommunaler Geschäftsprozesse schreitet zügig voran, doch der Einsatz generativer Künstlicher Intelligenz bringt spezifische Anforderungen an den Datenschutz und die IT-Sicherheit mit sich. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat einen praxisnahen Kriterienkatalog veröffentlicht, der öffentlichen Stellen als verlässlicher Orientierungsrahmen dient. Für Städte, Gemeinden und Landkreise schafft dieser Standard die notwendige Handlungssicherheit, um innovative KI-Lösungen ohne langwierige Risikoanalysen im Arbeitsalltag zu etablieren.

Sicherheit als Fundament für Bürgervertrauen und Entlastung

Wenn Bürger:innen mit ihrer Kommunalverwaltung in Kontakt treten, erwarten sie höchste Sorgfalt beim Umgang mit ihren Daten. Die Einhaltung der BSI-Vorgaben stellt sicher, dass neuartige Angriffsvektoren wie Prompt Injections wirksam unterbunden werden und sensitive Informationen geschützt bleiben. Wenn eine Lösung wie der KI-Telefonassistent Charly vollständig DSGVO-konform arbeitet und auf europäischen Servern gehostet wird, entsteht ein vertrauensvoller Rahmen. Das Entlastungspotenzial für Ihre Mitarbeitenden ist dabei enorm: Routinefragen werden zuverlässig beantwortet, während das Kollegium wieder mehr Zeit und Ruhe für komplexe Einzelfälle gewinnt.

• Verlässliche Orientierung: Klare Kriterien vereinfachen die IT-Prüfung in Hauptamt und EDV-Abteilung.
• Schutz sensibler Bürgerdaten: Konsequente Vorgaben zur Vermeidung von Datenabflüssen und Manipulationen.
• Erhöhte Bürgerakzeptanz: Transparente Sicherheitsstandards stärken das Vertrauen in digitale Verwaltungsangebote.
• Pragmatische Umsetzung: Standardisierte Vorgaben ermöglichen die schnelle Integration moderner Software-as-a-Service-Systeme.

Der BSI-Kriterienkatalog fungiert somit nicht als bürokratische Hürde, sondern als Beschleuniger für die administrative Modernisierung. Er erlaubt es Führungskräften in Kommunen, Digitalisierungsprojekte mit hohem Sicherheitsanspruch voranzutreiben.

Governance und Rollenverteilung: Verantwortung klar definieren

Ein wesentlicher Eckpfeiler des vom Bundesamt für Sicherheit in der Informationstechnik (BSI) vorgelegten Kriterienkatalogs für die öffentliche Verwaltung ist die Festlegung einer transparenten Governance. In vielen Rathäusern und Landratsämtern entsteht das Risiko für Schatten-IT meist schleichend: Wenn praxistaugliche und verlässliche Werkzeuge im Verwaltungsalltag fehlen, greifen Mitarbeitende in bester Absicht auf ungeprüfte private KI-Tools zurück. Das BSI fordert daher eine eindeutige Abgrenzung von Verantwortlichkeiten, Anwendungsbereichen und Freigabeprozessen. Für Bürgermeister:innen, Hauptamtsleitungen sowie die IT-Leitung bedeutet dies, bereits im Vorfeld klare organisatorische Leitplanken zu etablieren, um die administrative Integrität und den Datenschutz vollumfänglich zu wahren.

Drei Maßnahmen für Transparenz und Verlässlichkeit im Kollegium

• Zentrale Freigabeprozesse etablieren: Sämtliche Softwareanwendungen werden vorab durch die IT-Leitung und den Datenschutzbeauftragten geprüft und für den Dienstgebrauch offiziell freigegeben.
• Verbindliche Einsatzbereiche definieren: Für jeden Fachbereich wird präzise vorgegeben, welche Routineaufgaben ein digitaler Assistent wie ein KI-Telefonassistent eigenständig übernehmen darf und wo die menschliche Sachbearbeitung zwingend erforderlich bleibt.
• Transparente Tool-Verzeichnisse führen: Ein zentral einsehbares Verzeichnis schafft Orientierung im gesamten Kollegium und stellt sicher, dass ausschließlich DSGVO-konforme Lösungen mit Serverstandort in Deutschland eingesetzt werden.

Durch diese systematische Governance stellen Sie sicher, dass technologische Innovation geordnet und sicher Einzug in Ihre Verwaltung hält. Ein verankertes System wie der Charly KI-Mitarbeiter wird so von Anfang an als kompetenter und entlastender Kollege im Team wahrgenommen. Dies nimmt den Beschäftigten jegliche Unsicherheit, verhindert Schatten-IT wirksam und schafft verlässliche Entlastung sowie mehr Zeit und Ruhe für das Wesentliche in der täglichen Verwaltungsarbeit.

Datenschutz und Hosting: EU-Server und Privacy by Design als Pflicht

Für kommunale Entscheidungsträger:innen steht bei der Einführung digitaler Assistenzsysteme der Schutz sensibler Bürgerdaten an erster Stelle. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) betont in seinen IT-Sicherheitsempfehlungen klar, dass der Einsatz generativer Künstlicher Intelligenz in der öffentlichen Verwaltung strenge Vorgaben an Datensouveränität und Vertraulichkeit erfüllen muss. Für Kommunen und Landkreise bedeutet dies: Eine KI-Lösung darf niemals als unkontrollierte Blackbox agieren, sondern muss von Grund auf nach dem Prinzip „Privacy by Design“ konzipiert sein.

Die Kernanforderungen an datenschutzkonforme KI-Infrastrukturen

Um den Anforderungen der Datenschutz-Grundverordnung (DSGVO) gerecht zu werden, müssen moderne SaaS-Lösungen ohne lokale Serverinstallationen auskommen und den Betrieb vollständig auf europäischem Boden garantieren. Der Einsatz von Charly als KI-Telefonassistent zeigt, wie sich verlässliche Bürgerkommunikation und höchste Sicherheitsstandards vereinen lassen:

• Exklusives Hosting in der EU: Die Datenverarbeitung erfolgt ausschließlich auf zertifizierten Servern in Deutschland und der Europäischen Union, wodurch der Zugriff drittstaatlicher Stellen konsequent ausgeschlossen wird.
• Privacy by Design: Es werden standardmäßig keine personenbezogenen Daten der Bürger:innen dauerhaft gespeichert, sodass der Schutz der Privatsphäre bei jeder Interaktion automatisch gewahrt bleibt.
• Transparente Vorgangserfassung: Routineanfragen wie Terminbuchungen oder Mängelmeldungen werden direkt verarbeitet und in strukturierter Form an das jeweilige Fachamt übergeben, ohne dass sensible Datenspuren verbleiben.

Durch diesen kompromisslosen Fokus auf Datenschutz schaffen Sie im Kollegium und bei Bürger:innen volles Vertrauen. So gewinnt Ihre Verwaltung spürbare Entlastung sowie mehr Zeit und Ruhe für das Wesentliche, während sämtliche BSI-Kriterien verlässlich eingehalten werden.

Schutz vor Prompt Injection und gezielter Inhaltsmanipulation

Generative Modelle eröffnen neue Handlungsspielräume für den Bürgerservice, bringen jedoch neuartige Sicherheitsrisiken mit sich. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) warnt in seinem Kriterienkatalog ausdrücklich vor sogenannten Prompt Injections. Dabei versuchen Angreifer, die Anweisungen des Sprachmodells durch gezielte Eingaben zu überschreiben. Während bei der direkten Prompt Injection schädliche Befehle direkt in das Eingabefeld eingegeben werden, gelangen bei der indirekten Prompt Injection manipulative Inhalte über externe Quellen, etwa verlinkte Websites oder hochgeladene Dokumente, in das System. Ohne Schutzmaßnahmen könnte die KI unerwünschte Aktionen ausführen oder vertrauliche Daten preisgeben.

Um solchen Manipulationsversuchen in kommunalen Anwendungen wirksam zu begegnen, fordert das BSI eine klare technische Trennung der Systemarchitektur. Die grundlegende Handlungsanweisung der KI (System-Prompt) muss strikt von den Eingaben der Bürger:innen getrennt sein. Zudem stellt die Bereitstellung als Software-as-a-Service sicher, dass sämtliche Verarbeitungsprozesse in einer geschützten Umgebung ablaufen. Ergänzt wird dieses Schutzkonzept durch ein feingliedriges Rechtesystem, das verhindert, dass das Modell eigenmächtig auf sensible Fachverfahren oder nicht freigegebene Daten zugreift.

• Strikte Kapselung von System-Prompts: Verhindert zuverlässig, dass externe Eingaben die zentralen Verhaltensregeln der KI überschreiben.
• Dynamische Eingabe- und Ausgabefilterung: Prüft eingehende Nachrichten und generierte Antworten in Echtzeit auf verdächtige Muster.
• Rollen- und rechtebasierter Zugriff: Garantiert, dass die KI ausschließlich auf explizit freigegebene Informationsquellen der Verwaltung zugreift.
• Isolierte Laufzeitumgebung: Trennt die Dialogführung mit Bürger:innen konsequent von internen IT-Infrastrukturen und Fachanwendungen.

Für Kommunen und Landkreise bedeutet dies: IT-Sicherheit muss nicht in langwierigen Eigenprojekten entwickelt werden. Ein spezialisierter KI-Telefonassistent wie Charly bringt diese Sicherheitsarchitektur bereits ab dem ersten Arbeitstag mit. So wird Ihr Kollegium spürbar entlastet, während die Bürgerkommunikation verlässlich und geschützt bleibt.

Input- und Output-Validierung: Halluzinationen in Fachauskünften verhindern

In Kommunalverwaltungen hat die Verlässlichkeit behördlicher Auskünfte oberste Priorität, da fehlerhafte Informationen zu Rechtsunsicherheiten oder Unmut bei Bürger:innen führen können. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) fordert daher im Kriterienkatalog für generative KI eine konsequente Absicherung gegen freie Erfindungen des Modells, sogenannte Halluzinationen. Für eine rechtssichere Bürgerkommunikation setzen moderne Systeme wie ein KI-Telefonassistent auf eine streng begrenzte Wissensbasis. Statt auf ungeprüfte Daten im Internet zuzugreifen, beantwortet die KI Anfragen ausschließlich auf der Grundlage verifizierter Satzungen, Verwaltungsportale und freigegebener Dokumente der Kommune.

• Eingabekontrolle (Input-Filtering): Eingehende Bürgerfragen werden vor der Bearbeitung gefiltert, um unzulässige Themen, Schadcode oder Manipulationsversuche (Prompt Injections) sofort zu blockieren.
• Kontextgebundene Antwortgenerierung: Der KI-Agent greift strukturiert auf die kommunalspezifische Wissensdatenbank zurück und verwendet ausschließlich dort hinterlegte Fakten für die Antwort.
• Ausgabekontrolle (Output-Filtering): Vor der Auslieferung an Bürger:innen prüft ein automatisierter Filter die erzeugte Antwort auf Konsistenz mit den Quelltexten und unterbindet spekulative Inhalte.
• Transparenter Auskunftsstopp: Fehlen relevante Daten in der Wissensbasis, gibt das System keine Vermutungen ab, sondern leitet das Anliegen strukturiert an das Kollegium weiter.

Diese mehrstufige Validierung gibt Ihrer Verwaltung die Gewissheit, dass Bürger:innen jederzeit korrekte Details zu Öffnungszeiten, Gebühren oder Antragsunterlagen erhalten. Sollte ein komplexes Anliegen außerhalb des hinterlegten Wissens liegen, kommuniziert die KI dies vollkommen transparent und nimmt eine strukturierte Rückrufbitte für die zuständigen Mitarbeitenden auf. So bleibt die Steuerung stets in den Händen Ihrer Fachbereiche, während Routineauskünfte sicher und entlastend automatisiert werden.

Menschliche Kontrolle und strukturierte Schnittstellen zur Sachbearbeitung

Ein zentrales Prinzip der BSI-Empfehlungen für den Einsatz generativer Systeme ist die konsequente menschliche Kontrolle (Human-in-the-Loop). Künstliche Intelligenz darf in öffentlichen Verwaltungen hoheitliche Entscheidungen oder komplexe Verwaltungsakte keinesfalls autonom vollziehen. Für rechtssichere Urteile und sensible Einzelfälle bleibt die fachliche Letztentscheidung stets beim erfahrenen Kollegium der Verwaltung.

Nahtlose Übergabe unerledigter Anliegen an das Kollegium

Damit der Praxiseinsatz im Rathaus sicher gelingt, benötigt ein digitaler Assistent wie der Charly KI-Mitarbeiter klare Weiterleitungsregeln. Kann eine Bürgeranfrage aufgrund ihrer Komplexität oder spezifischer Rahmenbedingungen nicht direkt im Erstkontakt beantwortet werden, bricht das System den Dialog keineswegs ab. Stattdessen nimmt es alle relevanten Angaben strukturiert auf und übergibt den Vorgang verlässlich an die zuständige Fachbereichsleitung.

• Strukturierte Erfassung: Der Assistent erfragt den konkreten Sachverhalt, Kontaktdaten und wichtige Vorinformationen im Dialog.
• Automatische Rückrufbitten: Unerledigte Anliegen werden umgehend als übersichtliche E-Mail-Notiz an den zuständigen Arbeitsplatz übermittelt.
• Akkurate Weiterleitung: Komplexe Anrufe gelangen ohne Medienbruch direkt an das passende Referat.
• Volle Transparenz: Mitarbeitende sehen genau, welche Daten vorliegen, bevor sie das Gespräch mit den Bürger:innen fortführen.

Durch diese gezielte Entlastung von repetitiven Abläufen bleiben anspruchsvolle Einzelfälle fest in den Händen Ihrer Expert:innen. Das Kollegium gewinnt dadurch mehr Zeit und Ruhe für das Wesentliche, während Ihre Kommunalverwaltung höchste Sicherheitsstandards erfüllt und gleichzeitig einen modernen KI-Telefonassistent für die Verwaltung bereitstellt. Wie diese Qualitätssicherung im Alltag aussieht, zeigt die Gemeinde Petersberg. Dort wurden alle hinterlegten Informationen vorab gründlich geprüft, damit Charly ausschließlich präzise und öffentlich zugängliche Auskünfte erteilt. Über den sogenannten Denkzettel halten Mitarbeitende Rückfragen, Unklarheiten und notwendige Korrekturen strukturiert fest und stimmen sie gemeinsam ab, sodass sich Inhalte schneller präzisieren und Fehlerquellen vermeiden lassen.

Praxisgerechte Umsetzung: In wenigen Tagen BSI-konform im Bürgerservice starten

Die Einhaltung des BSI-Kriterienkatalogs für generative Künstliche Intelligenz stellt Kommunen oft vor personelle und technische Hürden. Viele Verwaltungen befürchten langwierige IT-Projekte und hohe Aufwände bei der Bereitstellung eigener Serverinfrastrukturen. Dabei erfordert die praxistaugliche Umsetzung keine aufwendige Eigenentwicklung im eigenen Rechenzentrum. Spezialisierte Software-as-a-Service-Lösungen ermöglichen es Ihnen, sämtliche Vorgaben zu Informationssicherheit und Datenschutz ohne zusätzlichen Aufwand für Ihr Kollegium im Haus zu erfüllen.

Vom Beschluss zum ersten Arbeitstag ohne IT-Last

Mit dem Charly KI-Telefonassistent setzen Sie BSI-Konformität und DSGVO-Vorgaben ab dem ersten Tag nahtlos um. Als vollständig DSGVO-konforme SaaS-Lösung setzt Charly auf einen konsequenten Privacy-by-Design-Ansatz und wird ausschließlich auf europäischen Servern gehostet. Das entlastet Ihre IT-Abteilung vollständig, da weder lokale Softwareinstallationen noch komplexe Systemumstellungen nötig sind. Die Anbindung erfolgt unkompliziert per Rufweiterleitung auf Ihre bestehende Rufnummer.

• Tag 1: Beauftragung und Bereitstellung der DSGVO-konformen SaaS-Infrastruktur auf europäischen Servern.
• Tag 2: Einbindung der kommunalen Wissensbasis sowie interner Testbetrieb über eine temporäre Rufnummer.
• Tag 3: Aktivierung der Rufweiterleitung und Charlys erster Arbeitstag für den Live-Bürgerkontakt.

In 3 Tagen vom Auftrag bis zu Charlys erstem Arbeitstag gelingt der Einstieg in einen modernen Bürgerservice damit risikofrei und pragmatisch. Der freundliche digitale Kollege übernimmt Routineanfragen rund um die Uhr, erfasst Rückrufbitten sowie Mängelmeldungen und verschafft Ihren Mitarbeitenden wieder mehr Zeit und Ruhe für das Wesentliche sowie für komplexe Einzelfälle. Verwaltungen profitieren so von höchster IT-Sicherheit und nachhaltiger Entlastung.