Der ConfIAnce-Chatbot, ein Jahr später

Vor etwas weniger als einem Jahr haben wir den ConfIAnce-Chatbot vorgestellt. Im Auftrag der Genfer Universitätskliniken (HUG) haben wir diesen Conversational Agent entwickelt, um einen einfachen und interaktiven Zugang zu medizinischen Informationen über häufige chronische Krankheiten zu ermöglichen. Die Inhalte werden von der medizinischen Institution selbst erstellt und validiert.

Ein Artikel der Initiator*innen dieses Projekts, veröffentlicht in der neuesten Ausgabe der renommierten Revue Médicale Suisse, zieht nun eine erste Bilanz ein Jahr nach der öffentlichen Lancierung.

Ein offizieller Chatbot statt fehlerhafter Antworten online

Die medizinische Grundversorgung, ein zentraler Pfeiler eines funktionierenden Gesundheitssystems, steht zunehmend unter Druck, selbst in Städten. Wenn Patient*innen ihre Hausärzt*innen nicht schnell erreichen können, suchen sie oft im Internet nach Antworten. Die Informationen, die sie dort finden, sind jedoch häufig ungenau oder sogar potenziell gefährlich.

In diesem Kontext kann eine gut konzipierte KI-Lösung helfen, die richtige Information zur richtigen Zeit bereitzustellen.

Deshalb haben wir die HUG bei der Entwicklung eines RAG-basierten Chatbots (Retrieval Augmented Generation) unterstützt. ConfIAnce ist nicht der erste Chatbot für Patient*innen. Er unterscheidet sich jedoch durch seine institutionelle Verankerung, die Nutzung lokal validierter medizinischer Inhalte sowie durch Kontrollmechanismen, die die Zuverlässigkeit der Antworten sicherstellen.

Um Sicherheit zu gewährleisten, integriert das System mehrere Kontrollmechanismen, darunter Matching, Groundedness-Prüfungen, Harmfulness-Checks, automatisierte Tests und semantisches Routing.

Qualitätssicherung durch Kontrolle des Systems

Eine zentrale Herausforderung besteht darin, die Kontrolle über das System zu behalten. Dafür braucht es geeignete Monitoring-Funktionen.

Automatisierte Tests prüfen sämtliche Antworten des Chatbots auf ihre faktische Übereinstimmung mit der Wissensbasis (Faithfulness).

Zusätzlich sorgt ein von Administrator*innen anpassbares Routing dafür, dass Fragen gefiltert und bei Bedarf unter menschlicher Aufsicht weitergeleitet werden. Sie können den Chatbot zudem sofort offline nehmen, falls ein Fehlverhalten vermutet wird.

Themen, über die häufig gefragt wird, aber in den Ausgangsdokumenten noch wenig behandelt werden, werden identifiziert und weiter ausgebaut. So wird die Wissensbasis im Rahmen eines kontinuierlichen Verbesserungsprozesses erweitert.

Selbst das beste Tool bringt nur etwas, wenn es genutzt wird

Damit Patient*innen den Chatbot tatsächlich verwenden, haben die HUG eine öffentliche Informationskampagne gestartet. Ziel war es, das Tool bekannt zu machen und gleichzeitig realistische Erwartungen zu setzen.

ConfIAnce ist kein medizinisches Gerät und ersetzt keinen Arztbesuch. Vielmehr ist er ein Informationsangebot, das Fragen zu den häufigsten chronischen Erkrankungen bei Erwachsenen beantwortet.

Im Februar 2025 ging ConfIAnce in der Beta-Version online. Zwischen Anfang Februar und Ende Oktober 2025 haben *3’823 Nutzerinnen mit dem Chatbot interagiert. Daraus entstanden 5’969 Gespräche und 11’781 Fragen**, im Durchschnitt etwa zwei Fragen pro Gespräch.

Die direkt im Chatbot abgegebenen Rückmeldungen sind zu 75 % positiv.

Hohe Akzeptanz für einen etwas anderen Chatbot

Chatbots im Gesundheitsbereich werden von Patient*innen meist gut angenommen, vor allem wegen ihrer ständigen Verfügbarkeit und der einfachen Nutzung. Studien zeigen jedoch auch wiederkehrende Probleme: eine uneinheitliche Qualität der Antworten sowie mangelnde Transparenz bei den verwendeten Quellen.

Genau hier unterscheidet sich ConfIAnce von vielen anderen medizinischen Chatbots.
Der Chatbot wurde entwickelt, um die Beziehung zwischen Patientinnen und Ärzt\innen zu unterstützen, nicht zu ersetzen. ConfIAnce entlastet Ärzt*innen in der Grundversorgung und schafft ihnen mehr Zeit für die menschliche Seite ihres Berufs.

Die Autor*innen des Artikels in der Revue Médicale Suisse betonen zudem, dass ein Chatbot, der im spezifischen Kontext der HUG und ihrer Informationsbasis entwickelt wurde, auch in anderen institutionellen Umgebungen eingesetzt werden könnte.

Damit ein solches Projekt erfolgreich ist, braucht es zunächst hochwertige Daten, wie sie hier zur Verfügung standen. Darüber hinaus ermöglichen Kontrollmechanismen, automatisierte Tests und Nutzer*innen-Feedback eine kontinuierliche Verbesserung – und sorgen für Sicherheit und Relevanz, die Vertrauen schaffen.