Künstliche Intelligenz (KI) hat das Potenzial, die Abläufe und das Entscheiden in der öffentlichen Verwaltung grundlegend zu verändern. Dies hilft bei der Bewältigung fachlicher Herausforderungen und insbesondere auch bei der Bewältigung des sich bereits vollziehenden demographischen Wandels. In Verbindung mit der Automatisierung von Prozessen und der intelligenten Vernetzung von Daten(-räumen) kann KI zudem dazu beitragen, die Effizienz der Verwaltung zu erhöhen, Freiräume für Mitarbeitende zu schaffen und neue Wege der Kommunikation und Interaktion zu ebnen. Durch die Vereinfachungen, Automatisierungen und Beschleunigungen von Verwaltungsleistungen entstehen Mehrwerte für Bürger:innen und Unternehmen. Dabei ist der ethisch und rechtlich verantwortungsvolle Umgang mit der KI zu gewährleisten. Dieses gilt ebenso für Datenschutz und Datensicherheit.
Chancen von KI in der öffentlichen Verwaltung
KI bedeutet heute, dass Menschen das erste Mal in der Geschichte in der Lage sind, in einer Alltagssprache mit Maschinen zu kommunizieren. Mit dem Einsatz von KI ergeben sich aber nicht nur Erleichterungen, sondern auch vielfältige Chancen für Verwaltungen und ihre Zusammenarbeit mit den Bürger:innen und Unternehmen:
- Verbesserung des Bürger:innenservices: KI kann genutzt werden, um schnell und präzise auf Bürger:innenanfragen und -bedürfnisse zu reagieren, Lastspitzen zu reduzieren, Standardanfragen schnell, kundengerecht und effizient zu beantworten (z. B. Chatbots, Auskunftssysteme, Informationsbereitstellung).
- Produkte und Dienstleistungen: KI kann dabei helfen, neue Dienstleistungen zu entwickeln, bestehende zu verbessern und zu beschleunigen (Bürgerservices, Antragsstrecken, eAkte). Eine effiziente Verwaltungsarbeit leistet einen wichtigen Beitrag, das Vertrauen in die Arbeit des Staates zu stabilisieren oder gar zu stärken.
- Steuerungs- und Entscheidungsunterstützung: KI kann die Beschäftigten der öffentlichen Verwaltung bei der Auswertung komplexer Informationen bzw. Daten aus verschiedenen Quellen und Datenräumen unterstützen. So kann die Qualität von Entscheidungen erheblich verbessert werden (z. B. zielgerichtete Förderung, zweckgemäße Mittelverwendung, Überwachung von Steuern und Abgaben, Infrastrukturmonitoring, Risikovorsorge etc.).
- Bewältigung großer gesellschaftlicher Herausforderungen: Mittels KI können aktuelle Lagebilder sowie Prognosen oder leichtverständliche Informationen bereitgestellt werden (z. B. in den Bereichen: Klimaschutz, Nachhaltigkeit, Land- und Forstwirtschaft, intelligente Lebensräume, Krisenmanagement).
- Prozessautomatisierung: KI kann bestimmte Aufgaben automatisch erledigen, wie z. B. die Verarbeitung von Daten oder die Durchführung von Routineaufgaben (inkl. der Prozessunterstützung in Verbindung mit Dokumentinhalten und elektronischer Akten).
- Produktivitätserhöhung: KI kann dabei helfen, schneller und präziser Entscheidungen zu treffen, indem sie große Mengen an Daten schnell analysiert, Muster erkennt oder Auswertungen wie auch Zusammenfassungen generiert, für die ein Mensch aufwändig recherchieren müsste.
- Entlastung der Beschäftigten: Diese Aspekte zeigen vor allem auf, dass auch die Beschäftigten in den Behörden vom KI-Einsatz maßgeblich profitieren sowie entlastet werden und sich auf ihre Kernaufgaben und Kompetenzen konzentrieren können. Entscheidungen liegen bei den Beschäftigten.
Herausforderungen des Einsatzes von KI
Neben den Chancen birgt die Nutzung von KI in der öffentlichen Verwaltung auch Herausforderungen, die es zu antizipieren, bewerten, bewältigen und zu steuern gilt. Dazu gehören:
- Sorge vor Arbeitsplatzverlust: KI kann Sorgen um den eigenen Arbeitsplatz auslösen. Der demographische Wandel wie auch der Fachkräftemangel begrenzen heute schon die personellen Ressourcen in der öffentlichen Verwaltung so sehr, dass es viel wahrscheinlicher ist, dass KI Verwaltungsmitarbeitende nicht ersetzt, sondern in Routinetätigkeiten unterstützt und ihnen mehr Freiräume für die Aufgabenwahrnehmung und Entscheidungsfindung gibt.
- Fehlerhafte Ergebnisse: KI ist nur so gut, wie die Algorithmen, die sie verwendet. Fehlerhafte oder unvollständige Daten können dazu führen, dass die Ergebnisse, die KI liefert, ebenso unpräzise oder fehlerhaft sind.
- Ethische Fragestellungen: Die Nutzung von KI-Systemen wirft ethische Fragestellungen auf, wie z. B. die Verantwortung für Entscheidungen, die von KI-Systemen vorbereitet und z. B. im Rahmen der Steuerung von Prozessen getroffen werden. Die abschließende Entscheidung verbleibt in der Regel bei einem Menschen.
- Datenschutz und Datensicherheit: KI kann, wenn geboten und zulässig, mit persönlichen Daten arbeiten. Insofern sind im Rahmen der Verarbeitung sensibler Daten immer die Vorgaben des Datenschutzes zu beachten. Gleiches gilt mit Blick auf Datenhaltung und -verarbeitung.
- Souveränität: Die Verwaltung kann mit der Nutzung und Einbindung von KI in Arbeitsabläufe zunehmend abhängig werden, um bestimmte Aufgaben oder Prozesse auszuführen. Zugleich muss sie die Hoheit über die Daten bewahren.
Die digitale Evolution der Aktenverwaltung
Thomas Diefenbach erklärt im Video, wie Künstliche Intelligenz die E-Akte revolutioniert und effizientes Datenmanagement sowie nahtlose Prozessabläufe ermöglicht.
Unsere Leistungen
Strategie- und Governance-Beratung
Fach- und Technologieberatung
Organisationsberatung inkl. Changemanagement
Compliance- und Ethik-Beratung
Strategie- und Governance-Beratung
Wir unterstützen die öffentliche Verwaltung im Rahmen unserer strategischen Beratung zum Einsatz von KI, um diese Technologie wertstiftend und zielgerichtet einzusetzen und zu gestalten, um Potenziale erfolgreich zu realisieren und entsprechende Risiken zu minimieren. Basierend auf unseren verschiedenen Dimensionen von Strategie erarbeiten wir zielgerichtete Leistungen.
- Management: Wir definieren gemeinsam, welche Strategie Ihre Behörde wählen sollte, um KI effizient, skalierbar, nachhaltig und sicher nutzen zu können. Bestehende Strategien (IT-, Digitalisierungsstrategie, IT-Rahmenkonzept, Behördenstrategie etc.) fließen in die Strategieerstellung ein. Hinzu kommt ein strategisches Portfoliomanagement, damit alle Beteiligten wissen, was in welcher Reihenfolge und vor allem auch warum zukünftig mit KI angegangen wird – und was nicht.
- Governance und Organisation: Wir definieren und erstellen gemeinsam mit Ihnen grundlegende Rollen und Verantwortlichkeiten, die bei der Nutzung von KI zu definieren sind (RACI-Matrix, Prozesse).
- Compliance: Wir schaffen den Rahmen für eine datenschutz- bzw. ethikkonforme und kontrollierte Nutzung von KI. Der Schutz des geistigen Eigentums wird gewahrt. Hierzu entwickeln wir Prozesse und entsprechende Mechanismen. Um sicherzustellen, dass die Resultate der KI ethisch vertretbar und fachlich korrekt sind, trainieren wir KI, sodass entsprechend definierte Qualitätsmaßstäbe eingehalten werden.
- Wirkungsmonitoring: Wir bewerten gemeinsam mit Ihnen die Qualität vorhandener Daten sowie die Ergebnisse der KI und entwickeln praktische Maßnahmen, um diese wirkungsvoll zu optimieren.
- Kompetenzen: Der Einsatz von und der Umgang mit KI erfordern spezifische Kompetenzen. Wir helfen, entsprechende Bedarfe zu identifizieren, zu konkretisieren und in Maßnahmen der Personalentwicklung zu überführen.
- Kultur- und Veränderung: Die Nutzung von KI beruht auf dem Umgang mit Daten. Wir unterstützen Sie, eine Datenkultur im Haus zu etablieren, die den Einsatz von KI unterstützt. Begleitet wird unser Vorgehen von einem aktiven Changemanagement.
Fach- und Technologieberatung
Gemeinsam ermitteln wir Ziele und Anforderungen, identifizieren Datenräume, die für Ihren Einsatz von KI relevant sind. Basierend auf der Anforderungsanalyse und ersten Anwendungsfällen (Use Cases) zeigen wir Ihnen Lösungsszenarien für den Einsatz von KI-Technologien auf. Die nachfolgenden Leistungen erbringen wir im Verbund der Materna-Gruppe.
- Inspiration: Anhand von Best-Practices und einer Analyse der bestehenden IT-Anwendungen und Fachaufgaben Ihrer Behörde schlagen wir erste Anwendungsszenarien vor.
- Fachliche Anforderungsanalyse und Use Case-Entwicklung: Gemeinsam mit Ihren Fachkolleg:innen führen wir eine Anforderungsanalyse für verschiedene Einsatzszenarien von KI durch und leiten daraus praktisch umsetzbare Use Cases ab (Funktionalität, Datenquellen, Semantik etc.). Dabei greifen wir auf eine Palette bereits erprobter Anwendungsfälle zurück und entwickeln gleichermaßen spezifische und neue Anwendungsfälle basierend auf Ihren Gegebenheiten
- Pilotierung: Basierend auf den gemeinsam erstellten Use Cases erstellen wir einen Nachweis der technologischen Machbarkeit und leiten zur Pilotierung erster Anwendungsszenarien über.
- Evaluierung oder Proof of Concept: Gemeinsam mit Ihnen und Ihren Fachkolleg:innen evaluieren wir die Nutzung von KI in den konkreten Pilotanwendungsfällen. Anwendungsoptionen werden validiert, angepasst und für die weitere Umsetzung bewertet.
- Architektur- und Betriebskonzeption: Parallel erstellen wir ein Architektur- und Betriebskonzept, entwickeln eine nutzerfreundliche Anwendungsoberfläche und binden Ihre Datenräume sicher an.
- Gemeinsam entwickeln wir mit Blick auf die Ergebnisse den weiteren Entwicklungspfad für den Einsatz von KI (Roadmap).
Organisations- und Prozessberatung
Künstliche Intelligenz bedeutet nicht nur die Einführung neuer Technologien, sondern kann organisatorische und insbesondere prozessuale Veränderungen nach sich ziehen. Um KI-Projekte nachhaltig erfolgreich in den Wirkbetrieb zu überführen, bieten wir eine intelligente Rollen- und Prozessgestaltung sowie eine Einführungsbegleitung von KI-Anwendungen an. Dabei berücksichtigen wir Ihre Organisationsstrukturen und bieten ein umfassendes Akzeptanz- und Transformationsmanagement, z. B. mit der Einrichtung und Begleitung von Erfahrungsräumen, geeigneten Workshops oder spezifischen Schulungen an.
- Intelligente Prozessgestaltung: Einbindung von KI in nutzendenzentrierte Prozesse oder evidenzbasierte Entscheidungsvorgänge bis hin zum Routing von Anträgen im Rahmen der Vorgangsbearbeitung und -steuerung.
- Akzeptanz- und Transformationsmanagement: Einführungsbegleitung von KI-Anwendungen mittels Schulungen, einem für Mitarbeitende und Nutzendengruppen partizipativen Einführungsprozess sowie zielgruppenspezifische Kommunikationsformate.
- Erfahrungsaustausch und Community-Bildung: Einrichtung und Begleitung von Erfahrungsräumen, um den Austausch der Mitarbeitenden zu stärken, KI erlebbar zu machen, Erfolgserlebnisse zu teilen und Barrieren abzubauen.
Compliance- und Ethik-Beratung
Beim Einsatz von KI sind neben den zuvor genannten rechtlichen Aspekten immer auch ethische Aspekte (Vielfalt, Transparenz, Gleichberechtigung, Nachvollziehbarkeit etc.) zu beachten. Deshalb besteht ein wichtiger Teil unseres holistischen Ansatzes zum Einsatz von KI aus der Klärung essenzieller Ethik- und Compliance-Fragen. Ein besonderes Augenmerk bei all diesen Fragen liegt stets auf Multi-Stakeholder-basierten, offenen und responsiven Entwicklungs- und Beteiligungsprozessen, die sich gerade in frühen Einsatzszenarien von Technologien empfehlen.
- Entwicklung und Umsetzungsbegleitung eines Ethik-Codes für KI: Um ethische Fragestellungen angemessen einzubinden, empfehlen wir die Entwicklung eines organisationsspezifischen Ethik-Codes für KI. Dieser kann eigenständig, vorbereitend oder aber integrativ innerhalb der Entwicklung einer umfassenden KI-Strategie, bestenfalls inklusiv und dialogorientiert erstellt werden.
- Ethical Impact Assessment: Wir können Sie außerdem bei der Auswahl und Ausgestaltung von geeigneten Instrumenten, wie dem Ethical Impact Assessment, das agil Vor- und Nachteile von KI-Systemen ermittelt und sie in verschiedene Risikostufen einordnet, oder etwa der internen oder externen Bestellung eines KI-Ethik-Beauftragten unterstützen.
- Risikoanalyse: Durchführung von Analysen und Berichten über den Einsatz von KI und die eingesetzten Tools zur Bewertung von Risiken insbesondere mit Blick auf gesetzliche Vorgaben und den Ethik-Code.
- Beteiligungsmanagement: Offene und responsive Entwicklungsprozesse beim Einsatz neuer Technologien wie KI berücksichtigen die Sichtweisen der verschiedensten Stakeholdergruppen und deren Anforderungen an den ethischen Einsatz von KI.
Rechtliche Vorgaben und ethische Leitlinien
Richtlinien und Gesetze zum Einsatz von KI
Der Einsatz von KI stellt gerade den öffentlichen Sektor vor vielfältige rechtliche Anforderungen. Zahlreiche rechtlichen Regelungen determinieren schon heute den Einsatz und werden daher zu Beginn eines Projektes bereits von uns berücksichtigt:
- Das Datenschutzrecht, insbesondere die EU-Datenschutzgrundverordnung (DSGVO), regelt, dass KI-Systeme nur personenbezogene Daten verarbeiten dürfen, wenn die Nutzenden ihre Einwilligung erteilt haben. Die Daten müssen sicher und vertraulich verarbeitet werden.
- Das Allgemeine Gleichbehandlungsgesetz (AGG) stellt fest, dass KI-Systeme keine diskriminierenden Entscheidungen treffen dürfen. Entscheidungen, die auf der Grundlage von KI-Systemen getroffen werden, müssen überprüfbar und nachvollziehbar sein.
- Das Produkthaftungsgesetz (ProdHaftG) legt fest, dass Anbieter von KI-Systemen dafür verantwortlich sind, dass ihre Systeme sicher sind und keine Schäden verursachen.
- Dem Beschäftigtendatenschutzgesetz (BDSG) zufolge dürfen Arbeitgeber nur dann personenbezogene Daten von Beschäftigten verarbeiten, wenn dies für die Erfüllung des Arbeitsvertrages oder zur Wahrung berechtigter Interessen des Arbeitgebers erforderlich ist. Unter entsprechenden Bedingungen können KI-Systeme auch zur Verarbeitung von Arbeitnehmerdaten eingesetzt werden.
Weiterhin wird der Einsatz von Künstlicher Intelligenz in der EU zeitnah durch eine entsprechende EU-Verordnung geregelt werden, dem weltweit ersten umfassenden Rechtsrahmen („AI Act“). So wird die Verordnung u. a. unterschiedliche Regeln für unterschiedliche Risikostufen beinhalten, die Entwickler, Anbieter und Anwender von KI bereits jetzt beachten sollten.
Ethik-Leitlinien
„Noch haben wir als Menschheit die Möglichkeit, die künftige Entwicklung von KI zu lenken und in einer humanistischen, menschenrechtlichen Perspektive ethisch einzuhegen.“
Prof. Dr. Maria Böhmer, Präsidentin der Deutschen UNESCO-Kommission
Mit dem Einsatz von KI wird heute entschieden, wie die Welt aussehen soll, in der wir künftig mit Künstlicher Intelligenz leben werden. Bei sämtlichen Projekten orientieren wir uns schon heute an der Empfehlung der UNESCO zur Ethik Künstlicher Intelligenz als erstem global und holistisch konzipierten Handlungsrahmen mit konkreten, auf Deutschland bezogenen Impulsen.
- KI und Menschenrechte: Wir bewerten jede Entscheidung zu KI als kontingenter Technologie auf der Grundlage von ethischen Werten.
- KI-Ethik im gesamten Lebenszyklus: Wir beachten ethische Anforderungen an den Einsatz von KI über deren gesamten Lebenszyklus und beginnen damit von Anfang an bei der Formulierung der Anforderungen und der Zusammenstellung der Projektteams.
- KI und Datenschutz: Wir sorgen dafür, dass unsere KI-Anwendungen konsequent datenschutzwahrend gestaltet sind und so der besonderen Verantwortung öffentlicher Verwaltungen und ihrer sensiblen Daten gerecht werden.
- KI und Vielfalt: Wir beugen dem Risiko von Diskriminierung vor und achten darauf, dass die Inhalte von Trainingsdaten frei von Stereotypen und Verzerrungen sind.
- KI und Transparenz: Wir stellen sicher, dass Ergebnisse von KI-Entscheidungsprozessen verständlich, erklärbar und rechtfertigbar sind und sich niemand der KI ausgeliefert fühlt.
- KI und Nachhaltigkeit: Wir orientieren uns an den Zielen für nachhaltige Entwicklung (SDGs) und ordnen KI-Anwendungen auch in Bezug auf ökologische Nachhaltigkeitskriterien ein.
- KI und Beteiligung: Wir achten darauf, dass unsere KI-Projekte dialog-, beteiligungsorientiert und inklusiv gestaltet sind.
Ihre Experten für KI in der Verwaltung
Sie haben Fragen oder benötigen Unterstützung in diesem Bereich?
Unser Team ist gerne für Sie da!