Künstliche Intelligenz im Gesundheitsamt: Wohin geht die Reise?
Das Thema Künstliche Intelligenz (KI) ist in aller Munde. KI in Form von großen Sprachmodellen wie ChatGPT verbreitet sich schnell und wird bereits in zahlreichen Branchen eingesetzt. Mit Blick auf die angestrebte Digitalisierung der deutschen Gesundheitsämter und den Pakt für den Öffentlichen Gesundheitsdienst (ÖGD), der sie antreiben soll, widmete sich ein Online-Format der Akademie für Öffentliches Gesundheitswesen (AÖGW) nun der Frage: Wie kann KI im ÖGD eingesetzt werden?
Über 170 Teilnehmer:innen nutzten am 12. April 2024 das Fachforum „Künstliche Intelligenz im ÖGD“, um sich darüber zu informieren, was KI genau kann, welche Perspektiven sich für den Einsatz im Gesundheitsamt eröffnen und wo KI vielleicht sogar schon genutzt wird.
Lange Historie und freie Sprachmodelle
Das Online-Forum wurde von zwei AÖGW-Mitarbeitern eingeleitet: Informatiker Holger Wallraven und IT-Manager Ralf Naundorf aus dem Team „Digitales und Kommunikation“ referierten über die Entstehung von KI, deren theoretische Grundlagen bis in die 1950er Jahre reichen. Sie gaben Beispiele für praktische Anwendungsbereiche aus dem Gesundheitswesen, etwa in der Diagnostik und medizinischen Bildgebung, und informierten über verschiedene angesagte und weniger bekannte KI-Lösungen zur Erstellung von Texten oder Bildern.
IT-Fachmann Naundorf klärte in seinem Beitrag darüber auf, dass es verschiedene freie KI-Modelle gibt, die als Open-Source-Anwendungen kostenfrei auch auf lokalen Rechnern installiert werden können. Der Vorteil: Hochentwickelte Sprachmodelle, sogenannte Large Language Models (LLM), die eigenständig betrieben werden, können mit eigenen Daten trainiert werden. Die redaktionelle Hoheit verbleibt damit im Amt und die Quellen sind nachvollziehbar.
Chat- und Voicebots
Herz des Fachforums „Künstliche Intelligenz im ÖGD“ waren die Präsentationen von drei KI-Anbietern, die bereits Erfahrung mit der Öffentlichen Verwaltung und dem ÖGD sammeln konnten. Gemeinsam war allen, dass sie über Chat- und Voicebots berichteten, die auf Basis sogenannter Generative Pre-trained Transformers (GPT) arbeiten – hochentwickelte Sprachmodelle, die mit Texten „gefüttert“ werden und auf dieser Datenbasis ähnlich wie ein Mensch neuartige Texte und Gespräche generieren können. Während der Corona-Pandemie hatten erste Gesundheitsämter Chatbots eingesetzt, um den plötzlichen extrem hohen Beratungsbedarf in der Bevölkerung bewältigen zu können.
Marcus Dombois, der als Berater für die Öffentliche Hand mit der Umsetzung von Digitalisierungsstrategien im Kontext des Reifegradmodells tätig ist, erörterte die Vorteile von Chatbots und Voicebots (Sprachassistenten) sowohl für die Mitarbeiter:innen in den Gesundheitsämtern als auch für die Büger:innen. Als Beispiele nannte er unter anderem DSGVO-konforme Übersetzungen von Impfausweisen und Arztbriefen oder die Erstellung von Gesprächsberichten, die durch eine entsprechend trainierte KI angefertigt werden können. Aus dem Plenum wurde dazu angemerkt, dass bestimmte Gesprächssituationen menschliche Sensibilität erfordern und ein Dolmetscher daher nicht unüberlegt durch einen KI-Übersetzer ausgetauscht werden sollte, um Kosten einzusparen.
Spezifisches (Fach-)Wissen als Grundlage
Beim Stichwort KI denken viele Menschen an ChatGPT – und die häufig diskutierte Anfälligkeit des Sprachmodells, veraltete oder falsche Informationen zu generieren und sogenannte Halluzinationen zu erzeugen. Referent Paul Rentsch von Nortal begleitet digitale Transformationsprozesse in der Öffentlichen Verwaltung und arbeitet mit dem Niedersächsischen Landesgesundheitsamt (NLGA) an einem Chatbot, der auf valide Daten zurückgreift. Grundlage dafür sind nicht Internet-Quellen, sondern eine eigene Datenbank, die über ein parallel entwickeltes Redaktionssystem gefüllt wird – mit passendem Datenmanagement.
Für das Gesundheitsamt ergeben sich daraus mehrere Vorteile. Die Ämter behalten die Verantwortung über genutzte Informationsquellen in ihrer Hand und können die Daten, auf deren Grundlage der Chatbot arbeiten soll, selbst erstellen, aktualisieren und auf fachliche Stimmigkeit hin prüfen. Für Gespräche und Chats notwendige Übersetzungen erstellt das Sprachmodell automatisch. Auf die Frage, ob der Chatbot auch Informationen auf Befehl vergessen kann – etwa, wenn Gesetze überarbeitet wurden und dadurch geänderte Informationen für die Bevölkerung resultieren – antwortete Rentsch ganz eindeutig: ja. Die Daten müssen dafür nur entsprechend angepasst und der Chatbot aktualisiert werden, was nur wenige Minuten dauern soll.
Externe und interne Bots
Bei der Frage nach den jeweiligen Aufgaben und Datenquellen von Chatbots für den ÖGD unterschied Bernd Maurer von Conventic zwischen intern und extern. Die Daten, auf dessen Grundlage ein Bot mit der Bevölkerung kommuniziert, benötigen unbedingt klare Regulierungen – also geprüfte und definierte Quellen –, damit der Bot fachlich und rechtlich korrekt antworten kann. Für den internen Gebrauch könnten Chatbots dagegen durchaus auf Daten aus dem Internet zugreifen, um die tägliche Arbeit zu erleichtern. Grundsätzlich gilt allerdings: Die Quellen des Bots orientieren sich am jeweiligen Einsatzbereich.
Ethik und Akzeptanz
Obwohl ethische Überlegungen nicht im Zentrum der Veranstaltung standen, waren sich die Referenten einig: Der Faktor Mensch ist in vielen Einsatzbereichen von KI noch unabdingbar. KI benötigt ethische Leitlinien, die nur der Mensch vorgeben kann. AÖGW-Informatiker Holger Wallraven sprach in diesem Kontext von einer „KI-Awareness“. Gemeint ist, dass die menschlichen Betreiber:innen einschätzen können müssen, wie sie KI verantwortungsvoll einsetzen. Damit Chatbots effektiv genutzt werden, braucht es aber auch Akzeptanz – auf Seiten der Bevölkerung ebenso wie unter den ÖGD-Mitarbeiter:innen. Aus dem Plenum kam dazu der einfache Tipp: Einfach mal ausprobieren. Denn nur, wer selbst erlebt, was KI leistet und was nicht, der kann sich ein Bild von der neuen Technologie machen, das weniger von unberechtigten Vorbehalten oder falschen Erwartungen geprägt ist.
Eine erste Gelegenheit zum Ausprobieren einer KI bietet die (leider bisher nicht auf Deutsch verfügbare) virtuelle Gesundheitsberaterin S.A.R.A.H. der Weltgesundheitsorganisation (WHO).