Wer haftet, wenn die KI eine falsche Auskunft gibt?

Was eine verbindliche Auskunft im Verwaltungsrecht ist

Wenn das Telefon im Bürgerbüro oder der Zentrale ununterbrochen klingelt, suchen Hauptamtsleitungen nach spürbarer Entlastung für ihr Kollegium. Gleichzeitig steht bei der Automatisierung telefonischer Bürgeranfragen sofort die Rechtsfrage im Raum: Was geschieht, wenn ein System ein Detail unpräzise wiedergibt? Der Einsatz einer künstlichen Intelligenz wird der betreffenden Person zu Beginn des Austauschs mitgeteilt. Der Deutsche Städte- und Gemeindebund bündelt in seinem Themenbereich Digitalisierung laufend Informationen zur Digitalisierung in Städten und Gemeinden, unter anderem zu eGovernment und Smart Cities^[1]. Dieser Beitrag zeigt, wo die Haftungsgrenze bei telefonischen Auskünften verläuft und wie der Charly KI-Telefonassistent so eingerichtet wird, dass sie eingehalten bleibt.

Reine Wissenserklärung oder vertrauensbegründende Zusage

Im Verwaltungsrecht ist strikt zwischen einer schlichten Tatsacheninformation und einer rechtsverbindlichen Auskunft zu unterscheiden. Unverbindliche Wissenserklärungen betreffen allgemeine Angaben wie Öffnungszeiten, Gebührensätze, behördliche Zuständigkeiten oder mitzubringende Unterlagen für die Passbeantragung. Solche Routineauskünfte begründen keinen Vertrauensschutz im Sinne einer behördlichen Zusicherung nach dem Verwaltungsverfahrensgesetz. Eine verbindliche Auskunft oder Vorabentscheidung hingegen greift gestaltend in Rechtspositionen ein, erfordert in aller Regel die Schriftform und bleibt zwingend der zuständigen Sachbearbeitung vorbehalten.

Weil digitale Sprachassistenten den rechtlichen Ermessensspielraum verbindlicher Verwaltungsentscheidungen weder prüfen noch rechtswirksam erklären können, müssen sie organisatorisch auf die Bereitstellung geprüfter Sachinformationen begrenzt bleiben. Entsteht durch eine Auskunft dennoch ein Schaden, greift das Instrumentarium der Amtshaftung nach § 839 BGB, der die Haftung bei Amtspflichtverletzung regelt^[2] und dessen rechtliche Zuordnung im nächsten Schritt betrachtet wird.

Wie Amtshaftung nach Artikel 34 Grundgesetz greift

Wenn eine kommunale Verwaltung Auskünfte an Bürger:innen erteilt, bewegt sie sich im Bereich hoheitlichen Handelns. Das Bürgerliche Gesetzbuch regelt in § 839 Abs. 1 Satz 1 BGB unmissverständlich: Verletzt ein Beamter vorsätzlich oder fahrlässig die ihm einem Dritten gegenüber obliegende Amtspflicht, so hat er dem Dritten den daraus entstehenden Schaden zu ersetzen^[2]. Während diese Vorschrift historisch auf Amtsträger abstellt, vollzieht Artikel 34 Satz 1 des Grundgesetzes (GG) den entscheidenden Schritt für die Praxis: Verletzt jemand in Ausübung eines ihm anvertrauten öffentlichen Amtes die Amtspflicht, trifft die Verantwortlichkeit im Außenverhältnis grundsätzlich den Staat oder die Körperschaft, in deren Dienst er steht.

Die Technik als Werkzeug der Verwaltung

Für die kommunale Praxis bedeutet dieses Zusammenspiel zweier Kernnormen ein klares Prinzip: Die Amtshaftung bleibt eine originär staatliche Aufgabe. Setzt Ihre Verwaltung ein digitales Werkzeug oder einen Sprachassistenten zur Beantwortung von Bürgeranfragen ein, entbindet dieser Technikeinsatz die Körperschaft nicht von ihrer rechtlichen Verantwortung. Die Auskunft, die ein System im Namen der Verwaltung am Telefon oder im Web erteilt, wird juristisch der zuständigen Kommune als Verwaltungsträger zugerechnet.

• Hoheitlicher Bezug: Jede behördliche Auskunft zu Fristen, Zuständigkeiten oder Gebühren unterliegt der Pflicht zur sorgfältigen und wahrheitsgemäßen Information.
• Verlagerung auf die Körperschaft: Nach Art. 34 GG haftet gegenüber geschädigten Bürger:innen stets die Körperschaft des öffentlichen Rechts, nicht das eingesetzte IT-System.
• Keine Befreiung durch Hinweistexte: Ein pauschaler Haftungsausschluss im Ansagetext beseitigt die gesetzliche Amtshaftung der Kommune nicht.

Die Verantwortung für die Richtigkeit der ausgegebenen Informationen verbleibt somit beim Verwaltungsträger. Für Hauptamtsleitungen und Digitalisierungsverantwortliche folgt daraus, dass automatisierte Systeme von vornherein so aufgestellt sein müssen, dass komplexe Sachverhalte oder rechtlich bindende Einzelfallprüfungen zuverlässig an die zuständigen Fachbereiche übergeben werden.

Wer einsteht: die Kommune oder der Anbieter

In der rechtlichen Bewertung eines KI-Einsatzes im Bürgerservice ist die strikte Trennung zwischen dem Außenverhältnis zu den Bürger:innen und dem Innenverhältnis zum Softwareanbieter die zentrale Orientierungslinie. Tritt ein Fehler bei einer Auskunft auf, richtet sich der Anspruch der Bürger:innen stets direkt gegen die Körperschaft. Da die Erfüllung öffentlicher Aufgaben verfassungsrechtlich an den jeweiligen Verwaltungsträger gebunden ist, kann kein externer Softwareanbieter die hoheitliche Verantwortung im Außenverhältnis vollständig übernehmen.

Außenhaftung und Innenverhältnis im Überblick

Für die kommunale Praxis bedeutet das: Ein vorgeschalteter Hinweis im Begrüßungstext, wonach alle Angaben ohne Gewähr erfolgen, beseitigt die Amtshaftung gegenüber Bürger:innen nicht. Sofern eine Auskunft fehlerhaft erteilt wird und daraus ein nachweisbarer Schaden entsteht, haftet im ersten Schritt die Gebietskörperschaft. Erst im zweiten Schritt greift das Innenverhältnis, in dem die Kommune prüfen kann, ob der Anbieter wegen eines Systemfehlers oder einer Pflichtverletzung in Regress genommen werden kann.

Weil Softwareanbieter ihre Haftung im Innenverhältnis typischerweise auf Vorsatz, grobe Fahrlässigkeit oder bestimmte Deckungssummen begrenzen, lässt sich das Haftungsrisiko nicht allein über Vertragsklauseln delegieren. Die wirksamste Absicherung für Hauptamtsleitungen besteht daher in einer sauberen fachlichen Konfiguration: Die Telefon-KI beantwortet verlässliche Routineinformationen, während verbindliche Einzelfallprüfungen und Ermessensentscheidungen konsequent an die zuständigen Mitarbeitenden in den Fachbereichen weitergeleitet werden.

Was der Vertrag zur Haftung regeln muss

Auch wenn die hoheitliche Amtshaftung gegenüber Bürger:innen stets bei der Körperschaft verbleibt, schützt ein präziser privatrechtlicher Vertrag Ihre Verwaltung vor technischen und organisatorischen Risiken. Der B2G-Vertrag zwischen Kommune und Anbieter regelt nicht die staatliche Haftungsverlagerung nach außen, sondern die interne Pflichtenverteilung, Leistungsgarantien und Gewährleistungsansprüche bei Systemfehlern. Die Kommunale Gemeinschaftsstelle für Verwaltungsmanagement (KGSt) begleitet solche Vorhaben fachlich und zeigt in ihren Berichten, wie Kommunen Prozessautomatisierung einführen, skalieren und mit KI weiterentwickeln^[3].

Zentrale Bausteine für rechtssichere B2G-Verträge

• Sicherheitsanforderungen und Robustheit: Die vertragliche Verpflichtung auf anerkannte IT-Sicherheitsstandards orientiert sich an den Vorgaben des BSI für den sicheren, robusten und nachvollziehbaren Einsatz von KI-Systemen.
• Pflegeprozesse und Fehlerkorrektur: Vereinbarte Fristen und Schnittstellen ermöglichen es Ihrem Kollegium, geänderte Verwaltungsvorschriften oder fehlerhafte Auskunftsbausteine unverzüglich im System anzupassen.

Ein transparenter Vertrag nimmt dem Hauptamt zwar nicht die grundgesetzliche Verantwortung für das Verwaltungshandeln ab, schafft jedoch verlässliche Leitplanken. Er definiert die technische Sorgfaltspflicht des Anbieters eindeutig und stellt sicher, dass Ihre Mitarbeitenden bei der täglichen Bürgerkommunikation auf eine rechtssichere digitale Infrastruktur vertrauen können.

Welche Auskünfte der Assistent nicht geben darf

Um jedes Haftungsrisiko für Ihre Kommune von vornherein auszuschließen, legt die Leitung des Hauptamtes die thematischen Leitplanken für den telefonischen Erstkontakt verbindlich fest. Die Faustregel für die kommunale Praxis lautet: Rein verfahrensbezogene Standardinformationen und organisatorische Fakten dürfen automatisiert beantwortet werden, während jede individuelle Ermessensentscheidung, rechtliche Würdigung oder Auskunft zu laufenden Streitverfahren ausnahmslos dem Fachpersonal vorbehalten bleibt.

Trennlinie zwischen Wissensvermittlung und Rechtsberatung

Ein digitaler Assistent fungiert als verlässliche Orientierungshilfe für Bürger:innen, trifft jedoch keine Verwaltungsentscheidungen. Die Differenzierung lässt sich anhand klarer Kriterien steuern:

• Zulässig: Auskünfte zu Öffnungszeiten, Gebührenordnungen, Zuständigkeiten, Fristen, erforderlichen Antragsunterlagen sowie die Buchung von Vorspracheterminen.
• Zulässig: Allgemeine Verfahrensbeschreibungen und Hinweise auf Zuständigkeiten nach kommunaler Satzungslage oder bundesweiten Standards.
• Unzulässig: Auskünfte über konkrete Erfolgsaussichten eines Baugesuchs, Wohngeldantrags oder Widerspruchs.
• Unzulässig: Vorwegnahme behördlicher Ermessensausübungen oder Zusicherungen zu Fristverlängerungen und Bewilligungen am Telefon.

Sobald ein Anruf diese Grenzen berührt oder eine individuelle Sachverhaltsprüfung erfordert, verweigert das System eine eigenständige materielle Bewertung. Stattdessen erfolgt eine gezielte Weiterleitung an das zuständige Kollegium oder die strukturierte Aufnahme einer Rückrufbitte. Dieses gestufte Vorgehen stellt sicher, dass keine unbefugten Auskünfte erteilt werden, die einen Amtshaftungsanspruch begründen könnten, und folgt dem Grundsatz eines sicheren, robusten und nachvollziehbaren Einsatzes von KI, zu dem das BSI ein Überblicksdokument mit Problemen, Maßnahmen und Handlungsbedarfen veröffentlicht hat^[4].

Hinweis und Gesprächsprotokoll als Absicherung

Ein transparenter Dialog bildet das rechtliche Fundament für den vertrauensvollen KI-Einsatz im Bürgerservice. Der Einsatz einer künstlichen Intelligenz wird der betreffenden Person zu Beginn des Austauschs mitgeteilt. Zwar beseitigt ein einleitender Hinweis im Ansagetext nicht die gesetzliche Amtshaftung der Verwaltung, doch er schafft unverzichtbare Klarheit über den unverbindlichen Charakter des Gesprächs. Bürger:innen erkennen unmittelbar, dass es sich um eine automatisierte Information oder standardisierte Vorprüfung handelt. Das Kompetenzzentrum Künstliche Intelligenz des BSI berücksichtigt bei der Bewertung von KI-Systemen unter anderem Robustheit, Sicherheit, Verlässlichkeit, Integrität, Transparenz, Erklärbarkeit, Interpretierbarkeit und Fairness^[4].

Beweissicherung im Einklang mit dem Datenschutz

Sollte es nach einem Telefonat zu Unstimmigkeiten über den Inhalt einer erteilten Information kommen, entscheiden verlässliche Nachweise über die Klärung. Eine strukturierte, DSGVO-konforme Protokollierung des Gesprächsverlaufs verbessert die Beweislage Ihrer Verwaltung erheblich, da sie den exakten Verlauf der automatisierten Wissensvermittlung dokumentiert. Entscheidend ist hierbei der datenschutzrechtliche Vorbehalt: Im Sinne von Privacy by Design werden keine unnötigen personenbezogenen Daten der Anrufenden dauerhaft gespeichert, während der technische Betrieb strikt auf deutschen und europäischen Servern erfolgt. Die Zuständigkeit der Aufsicht richtet sich nach der Verwaltungsebene: Die oder der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit ist nach § 9 Abs. 1 BDSG für die öffentlichen Stellen des Bundes zuständig^[5], für Kommunen und Landkreise ist dagegen die jeweilige Landesdatenschutzaufsicht Ansprechpartnerin.

• Transparenter Gesprächseinstieg: Ein klarer Hinweis zu Beginn verhindert Missverständnisse über den automatisierten Charakter der telefonischen Erstinformation.
• Revisionssichere Dialogdokumentation: Strukturierte Systemprotokolle belegen im Zweifel präzise, welche Auskünfte, Hinweise und Fristvorbehalte mitgeteilt wurden.
• Datenschutzkonforme Umsetzung: Die Erfassung erfolgt streng zweckgebunden und datensparsam im Rahmen einer sauberen AVV nach Art. 28 DSGVO für KI.

Durch diese Kombination aus offener Kennzeichnung und rechtssicherer Protokollierung schützen Sie Ihr Kollegium wirksam vor unberechtigten Vorwürfen und bewahren bei jedem Bürgerkontakt die volle Kontrolle über Ihre Verwaltungsprozesse.

Was im Schadensfall zu tun ist und wie Sie vorbeugen

Sollte ein:e Bürger:in trotz aller Sicherheitsvorkehrungen geltend machen, durch eine unzutreffende telefonische Auskunft einen Schaden erlitten zu haben, greift ein klar geregelter Prüfprozess. Für die Hauptamtsleitung gilt es zunächst, den Sachverhalt unverzüglich anhand der dokumentierten Systemdaten aufzuklären und zu prüfen, ob überhaupt eine Amtspflichtverletzung vorliegt, an die § 839 BGB die Ersatzpflicht knüpft.

Vier Schritte zur internen Klärung und Absicherung

1. Sachverhalt anhand des datenschutzkonformen Verlaufsprotokolls rekonstruieren und den genauen Wortlaut der Auskunft prüfen.
2. Kausalität und Schadenseintritt bewerten: Handelte es sich um eine bloße Wissenserklärung oder wurde fälschlich ein rechtlicher Vertrauenstatbestand geschaffen?
3. Kommuneigene Haftpflichtversicherung beziehungsweise den kommunalen Schadenausgleich frühzeitig informieren.
4. Wissensbasis über die Feedback-Funktion („Denkzettel“) unmittelbar korrigieren, um Wiederholungen für nachfolgende Anrufe technisch auszuschließen.

Der beste Schutz vor Schadensfällen bleibt jedoch die präventive Begrenzung des KI-Einsatzes auf reine Standardinformationen. Genau hier setzt der Charly KI-Telefonassistent an: Durch klare Schutzplanken beantwortet das System ausschließlich freigegebene Routinefragen und leitet verbindliche Einzelfallprüfungen zuverlässig an Ihr zuständiges Kollegium weiter. Der Betrieb erfolgt dabei durchgängig DSGVO-konform auf europäischen Servern.

Lassen Sie im Gespräch klären, welche Auskünfte in Ihrer Kommune automatisiert werden dürfen, um Ihr Bürgerbüro spürbar zu entlasten und gleichzeitig volle Rechtssicherheit zu wahren.