„Noch sehr viel Luft nach oben“ – Dr. Aleksandar Ćirković über Selbstdiagnose-Apps und KI in der Ophthalmologie
Vor kurzem veröffentlichte Dr. Aleksandar Ćirković im Journal of Medical Internet Research eine Studie, für die er vier KI-unterstützte Selbstdiagnose-Apps zu drei ophthalmologischen Diagnosen – Glaukom, Netzhautriss, Trockenes Auges – getestet hat. EYEFOX spricht mit ihm über die Qualität dieser Apps, ihre gesetzliche Regulierung und die Rolle von KI in der Augenheilkunde – aktuell und in der Zukunft.
Dr. Aleksandar Ćirković
studierte Medizin und Medizinische Informatik. Seine Masterarbeit schrieb er im Bereich Künstliche Intelligenz. Seit 2013 ist er Europäischer Facharzt für Augenheilkunde, den deutschen Facharzttitel trägt er seit 2014. Ćirković ist seit Februar 2018 freiberuflich als Spezialist der refraktiven Chirurgie bei CARE Vision tätig. Er ist Mitglied in der Deutschen Physikalischen Gesellschaft und bei Mensa in Deutschland e.V.
EYEFOX: Herr Dr. Ćirković, Sie haben vier KI-unterstützte Selbstdiagnose-Apps getestet. Was war das Ergebnis Ihrer Studie?
Dr. Aleksandar Ćirković: In der Studie wurden vier aus anderen Studien bekannte Selbstdiagnose-Apps mit "virtuellen Patienten" mit den drei genannten Diagnosen zwei Mal im Abstand von zwei Jahren – 2018 und 2020 – geprüft. Analysiert wurden sowohl die Ergebnisse an sich – die gestellte Diagnose und der Therapievorschlag – als auch der zeitliche Verlauf der Ergebnisse.
Die Apps unterschieden sich deutlich in ihrer Treffsicherheit: Zwei der vier Apps erreichten im Durchschnitt 71% der zu vergebenden Punkte für Diagnose und Therapie, während die beiden anderen nur bei 17% und 25% lagen.
Der zeitliche Verlauf zeigte, dass sich die Ergebnisse im Laufe der zwei Jahre zwar änderten, sich aber bei keiner der vier Apps verbesserten, was ich persönlich für bemerkenswert halte. Ein weiterer interessanter Aspekt: Es gab keinen Zusammenhang zwischen der Anzahl der Fragen, die die Apps dem Benutzer stellen, und der Richtigkeit der Ergebnisse – manche Apps waren in dieser Hinsicht einfach weitaus "effizienter" als andere.
Können diese Apps den Patienten in Bezug auf Erkrankungen des Auges valide Informationen liefern? Und können sie fachärztliche Diagnosen unterstützen?
Ich denke, dass dies ganz von den Erwartungen des Benutzers abhängt. Man darf heutzutage als Patient sicher nicht erwarten, dass solche Apps eine ärztliche, geschweige denn fachärztliche Einschätzung ersetzen können – dafür gibt es zumindest von wissenschaftlicher Seite noch keinerlei Evidenz. Zumindest für den kleinen augenärztlichen Bereich, für den meine Studie so etwas wie eine "Pilotstudie" ist, kann man sagen, dass die besseren der Apps einen "Trend" der Diagnose zeigen können, den man aber als Benutzer stets mit Vorsicht genießen sollte. Man beachte dazu immer den Haftungsausschluss der Hersteller für die gestellten Diagnosen und Therapievorschläge – alleine das wird sie noch lange von "richtigen" Ärzten unterscheiden.
Wenn man die Apps aber rein als "zusätzlichen Denkanstoß" ansieht, ohne sich von manchen Ergebnissen beunruhigen zu lassen, könnte man sie gut zur Unterstützung heranziehen. Gewissermaßen als "Brainstorming", das dann aber noch weiter ausgearbeitet werden muss. Leider kennt man ja aus dem Praxisalltag, dass sich viele Patienten von einer Fülle an widersprüchlichen Informationen – siehe "Dr. Google" – eher verunsichern lassen. Daher sehe ich den derzeitigen Nutzen im Bereich der Augenheilkunde eher kritisch.
Als Arzt kann das jedoch anders aussehen, denn Ärzte können sicherer zwischen sinnvollen "Tipps" und Unsinn unterscheiden – hier würde ich einen möglichen Zusatznutzen durchaus sehen. Und zwar vor allem in dem Bereich, der für "menschliche" Gehirne schwieriger zugänglich ist – bei sehr seltenen Erkrankungen, die nur wenige Ärzte im Laufe ihrer Karriere jemals zu Gesicht bekommen. Hier könnte eine Software, die aus ganz großen Datensätzen Muster herauslesen kann, tatsächlich die Erfahrungen Vieler vereinigen und möglicherweise bei der Diagnose helfen. Allerdings ist dies schon Spekulation und müsste erst objektiv eruiert werden! Die Relevanz solcher Apps steigt aber umgekehrt zur Verfügbarkeit von echten Ärzten in der Umgebung – in Entwicklungsländern könnten solche Apps zuerst zum Einsatz kommen.
Sind denn KI-basierte Systeme derzeit bereits gesetzlich reguliert?
Teilweise! Für die weltweite Regulierung auf dem Markt rechtsstaatlich orientierter Länder, in denen Haftungsfragen sowohl für Hersteller als auch für Anwender eine Rolle spielen, sind wesentlich die amerikanische FDA (Food and Drug Administration) und in Europa das EDQM (European Directorate for the Quality of Medicines) zuständig.
Die FDA hat bereits vor zwei Jahren angekündigt, sie wolle Richtlinien erlassen, die eine strengere Regulierung ähnlich wie bei klassischen Medizinprodukten vorsehen, wenn die Software KI-Algorithmen nutzt. Das Stichwort hier lautet „Software as a medical device“ oder SaMD. Dies wird nicht leicht durchzusetzen sein, da dann kaum ein Hersteller freiwillig zugeben wird, tatsächlich KI im Kern einzusetzen. Und auch eine Offenlegung von Codes ist – auch aus Wettbewerbsgründen – zumindest bisher nicht geplant.
In Europa gibt es seit 2017 eine relativ strenge Regulierung vom SaMDs. Sie müssen einen Zulassungsprozess durchlaufen und laufende Audits bestehen, ähnlich wie klassische Medizinprodukte. Jedoch gibt es auch hier keine spezielle Regelung für KI-basierte Algorithmen, die sich von klassischen dadurch unterscheiden, dass sich die Ergebnisse im Lauf der Zeit ständig ändern können.
Dieser Tatsache müsste man bei der Zulassung Rechnung tragen. Hier kollidieren ganz klassisch wirtschaftliche und gesellschaftlich-gesundheitliche Interessen und in den Regulierungsbehörden haben zurzeit die Lobbyisten ihren Einsatz. Die Hersteller stecken derweil die Claims im Markt schon einmal ab.
Es bleibt zu hoffen, dass von politischer Seite im Sinne von Patienten, Ärzten und Transparenz entschieden wird. Dabei spielt unabhängige Forschung eine große Rolle – sie kann durch belastbare Ergebnisse der Politik den Weg weisen. Davon gibt es im Bereich KI im Gesundheitswesen leider noch viel zu wenig, Hier sind private und öffentliche Initiativen gefragt, sonst wird es auch bei KI-Software laufen wie so oft: Benefits werden privatisiert, Risiken sozialisiert.
Um auf die Selbstdiagnose-Apps aus meiner Studie zurückzukommen: Diese sind tatsächlich bislang kaum reguliert. Der Grund: In den AGBs steht klar und deutlich, dass sie keine Diagnosen stellen und keine Gesundheitsberatung darstellen. Nach dem Motto: Selbst schuld, wer sie benutzt. Dagegen ist derzeit rechtlich wohl nichts einzuwenden. Ich kann nur raten, sich die jeweiligen AGBs bei der Nutzung von Apps und Software immer durchzulesen, wie zeitraubend das auch sein mag!
Auf welchen Gebieten spielt KI in der Ophthalmologie bereits heute eine Rolle?
Bisher sind KIs in der Augenheilkunde noch eher Forschungs- als Alltagsgegenstand. Etabliert haben sich bereits verschiedene Ansätze, um Fundusbilder korrekt zu klassifizieren – zumindest für die bekannten, häufigen Erkrankungen wie Glaukom, AMD und diabetische Retinopathie. Schwierigkeiten gibt es derzeit noch, die guten Ansätze von KI-basierten Fundusbildauswertungen in die Praxis überzuführen, da unter Realbedingungen weitaus größere Störfaktoren toleriert werden müssen. Doch auch dazu gab es 2020 bereits vielversprechende Studien, allerdings noch kaum unabhängige – die meisten sind weiterhin herstellerfinanziert. Als Mediziner sollten wir weiterhin Wert auf möglichst unabhängige Forschungsergebnisse legen, da diese am wahrscheinlichsten einen langfristigen Nutzen bringen werden.
Und wie sieht es in Ihrer persönlichen augenärztlichen Arbeit aus? Kommt KI hier bereits zum Einsatz?
In meinem persönlichen Umfeld – der refraktiven Chirurgie – ist KI bisher noch nicht großflächig zum Einsatz gekommen, hat aber durchaus Potential. Beispielsweise könnte eine auf großen Datensätzen basierende Auswertung refraktiver Ergebnisse zur besseren Vorhersage einer geplanten Behandlung führen, hierzu gibt es beispielsweise im Bereich der IOL-Kalkulation bereits Arbeiten. Ebenso könnte KI-Unterstützung bei der Vorauswahl von Kandidaten für refraktive Hornhautchirurgie künftig eine Rolle spielen. Aber hier ist noch sehr viel Luft nach oben, wobei ich mir aber sicher bin, dass sich bei der derzeitigen Dynamik bereits viele Arbeitsgruppen damit beschäftigen.
Wo liegen Ihrer Meinung nach die wichtigsten Potentiale von KI für die Ophthalmologie?
KIs, die Bilder analysieren, sind gewissermaßen der „natürliche Kern" der modernen KI-Entwicklung und wurden bereits früh genutzt, beispielsweise von Google. Google, bzw. Alphabet selbst betreibt mit seiner Tochter Verily ein Unternehmen, das versucht, vor allem die KI-Bildanalyse in vielen Fachrichtungen zu etablieren. Wer bei der letzten Präsenz-DOG 2019 in Berlin dabei war, hat vielleicht den Keynote Speaker Dr. Azar aus San Francisco gehört, der von seiner Zusammenarbeit mit Alphabet in der Fundusbildauswertung berichtete.
Eigentlich ist alles, was massenhaft Bilddaten produziert und bisher von Menschen „mustererkennend" kategorisiert wird, prinzipiell für KI-Auswertungen geeignet. Bei uns wären das Fundusbilder – man denke an Glaukome, Netzhautkrankheiten aller Art, AMD-Klassifikationen, OCTs oder Pentacambilder, z.B. für die verbesserte Erkennung des Keratokonus und anderer Hornhauterkrankungen.
Die größte Herausforderung ist dabei der Transfer von Labor- zu Praxisbedingungen, da hierbei allerlei Störungen auftreten, die Menschen sehr leicht, Maschinen dagegen viel schwerer kompensieren können. Es ist durchaus möglich, dass es gerade aus diesem Grund zu einer Beschleunigung der Entwicklung herstellerübergreifender Standardisierungen und Schnittstellen kommen wird. Oder dass, wie so oft, diejenigen, die zuerst kamen, groß werden und die anderen Wettbewerber verdrängen. Jedenfalls dürfen Augenärzte darauf hoffen, dass zunehmend KI-basierte Auswertungen in neuen Ausgaben typischer bildgebender Praxistechnik zum Einsatz kommen werden.
Hin und wieder hört man ja, dass der Computer in Zukunft den Augenarzt mehr und mehr ersetzen könnte. Teilen Sie zu solchen Befürchtungen?
Ganz klar: Nein. Wir reden hier von „kleinen KIs“, die Lichtjahre von tatsächlicher Intelligenz entfernt sind. Jedenfalls, wenn wir Intelligenz als etwas ansehen, das komplex mit seiner Umgebung interagieren kann, größere Zusammenhänge versteht und vielleicht sogar ein Bewusstsein entwickelt. Aber KIs können uns helfen, die bisherige Expertise zu „skalieren“, also auf größere Menschenmengen anzuwenden. Dies wird vor allem für Regionen hilfreich sein, in denen (augen-)ärztliche Hilfe bisher Mangelware war, etwa in Entwicklungsländern oder sehr ländlichen Regionen hierzulande. In diesem Setting ist der Einsatz von KIs derzeit am effizientesten vorstellbar.
Ebenso können KIs die Arbeitsabläufe im klinischen Alltag optimieren, indem dröge und auf ständiger Wiederholung basierte Arbeitsabläufe auf diese ausgelagert werden, beispielsweise Eingangsfragen vor ärztlichen Untersuchungen, Vorklassifizierungen von Standardmessungen usw. Hierbei sollte nur wie immer nicht vergessen werden, dass wir uns als Ärzte nie nur nach reinen wirtschaftlichen Effizienzprinzipien leiten lassen dürfen. Wir müssen im Blick behalten, dass Patienten auch weiterhin einen Anspruch darauf haben müssen, einem Menschen zu begegnen, der sie mit Empathie behandelt. Dies wird eine Maschine in meiner Lebenszeit wohl nicht mehr hinbekommen.