Jens Volkmann: Der Chatbot jAImes, der Parkinson-Patienten beraten soll

Der Assistent namens jAImes soll Betroffenen rund um die Uhr Fragen zu ihrer Erkrankung beantworten und wurde seit seinem Start bereits in über 6.000 Nachrichten genutzt.

Finanziert wird das Projekt von der Parkinson Stiftung, die die Plattform auch hostet.

Wie die Idee funktioniert

jAImes ist konzeptionell so angelegt, dass er keine konkreten Medikamentenempfehlungen ausspricht, sondern lediglich auflistet, welche Wirkstoffe für bestimmte Beschwerden existieren. Nutzer vertrauen dem System dabei auch heikle Themen an: Fragen zu kognitiven Einschränkungen, sexuellen Funktionsstörungen, Schlafproblemen, Halluzinationen und psychiatrischen Problemen gehören laut Lange zu den häufigen Anliegen.

Um problematische Antworten zu erkennen, entwickelte das Team um Volkmann und Lange ein eigenes Überwachungsverfahren namens CARE-LLM. Es prüft automatisiert, ob die Antworten des Chatbots angemessen sind.

Der Weg dorthin

Die Grundidee für jAImes entstand bereits 2023, also drei Jahre vor der aktuellen Auswertung. Volkmann und Lange wollten damit eine Lücke schließen: Parkinson-Patienten haben oft viele Alltagsfragen, für die im Klinikalltag wenig Zeit bleibt. Mit der Auswertung der ersten 129 Tage nach dem Start liegt nun erstmals eine belastbare Datenbasis zur Sicherheit des Systems vor.

Was Zahlen und Fachleute dazu sagen

Mehr als 90 % der Nutzer bewerteten den Chatbot positiv. Das automatisierte Bewertungssystem stufte 88,6 % der Antworten als gut ein, rund jeder neunte Fall wurde als teilweise angemessen eingestuft, und nur 0,4 % galten als unangemessen.

Was als Nächstes kommt

Die identifizierten Sicherheitslücken sollen nach Angaben von Lange in der kommenden Version jAImes 2.0 geschlossen werden. Damit soll der Chatbot insbesondere bei kritischen psychischen Situationen zuverlässiger reagieren als bisher.

Bild: Symbolbild, KI-erzeugt.