Künstliche Intelligenz in der Vor-Ort-Apotheke – noch ein weiter Weg

„Künstliche Intelligenz“ und „Apotheke“: Diese beiden Begriffe werden aktuell eher selten zusammen im Mund geführt. Dennoch könnte die KI auch bei der Arbeit in der Offizin Einzug halten. Einen Blick in die Glaskugel wagte der Stuttgarter Rechtsanwalt Professor Heinz-Uwe Dettling. Beim ApothekenRechtTag der Interpharm online hängte er das Thema an drei konkreten Testfragen auf: „Kann KI konkret-individuelle Medikationspläne?“, „Kann KI Empathie?“ und „Kann KI ,Troubleshooting‘?“.

Man stehe bei der Künstlichen Intelligenz (KI) allgemein noch ganz am Anfang der Entwicklung, stellte Dettling eingangs fest. Es gebe bislang auch noch keine rechtlich verbindliche Definition dafür. Vorhandene Versuche helfen für ihn wegen der mangelnden Praxistauglichkeit nicht recht weiter. Um sich rechtlich zu nähern, erläuterte er kurz, wie klassische Software eigentlich aufgebaut ist.

„Digitization“ und „Algorithmization“

In der ersten Welle der „Digitization“ sei es nur um den digitalen Einsatz menschlicher Intelligenz mit der sturen Anwendung menschlicher „Wenn-Dann-Regeln“ gegangen, die auf konkrete Beobachtungen und logischen Schlussregeln basieren. Die so entwickelte Software habe keine Spielräume und arbeite lediglich vom Menschen Vorgegebenes ab. Die zweite Welle habe dann die „Algorithmization“, das heißt die Künstliche Intelligenz (KI) eingeführt. Dabei würden Daten nach maschinellen „Wenn-Dann-Regeln“ verarbeitet. Ursprünglich seien diese zwar ebenfalls vom Menschen geschaffen, aber die Software entwickle sie auf der Basis neuer Situationen als selbstlernendes System weiter. „KI ist eine Kombination von menschlicher Logik, menschlicher Stochastik und technischer Informatik“, fasste Dettling zusammen. „Sie errechnet durch maschinelles Lernen eigene Wenn-Dann-Regeln.“

Parallelen zum Arzneimittel

Die Herausforderung bei der Anwendung bestehe nun darin, wie der Mensch kontrollieren kann, welche „Wenn-Dann-Regeln“ die KI entwickelt, und welche Fehlerquellen dabei entstehen könnten. In diesem Zusammenhang spreche man auch von KI als „Blackbox“. Als Ansatz für die Kontrolle sieht er Parallelen zur Arzneimittelentwicklung. Er glaubt, dass KI genauso geprüft werden muss wie Arzneimittel. Beide seien Produkte besonderer Art, allerdings wissenschaftlich erklärbar und berechenbar mit den Prädikaten Wirksamkeit als Wahrscheinlichkeit, Unbedenklichkeit und Qualität, zum Beispiel im Hinblick auf die Cybersicherheit. 

Medizinische Software ist Medizinprodukt

In der Arzneimittelversorgung könnte medizinische Software in Zukunft eine größere Rolle spielen. Software, die als Grundlage für medizinischen Entscheidungen dienen soll, ist rechtlich ein Medizinprodukt. Für dieses muss laut Dettling die Wiederholbarkeit, Zuverlässigkeit und Leistung entsprechend der bestimmungsgemäßen Verwendung nachwiesen werden. Wie das beim Einsatz Künstlicher Intelligenz für solche Apps gewährleistet werden könne (Stichwort „Blackbox“), sei jedoch bislang nicht geklärt. Hier stehe man noch völlig am Anfang.

Trotzdem habe die US-Arzneimittelbehörde bereits solche Software zugelassen. Als Beispiel führte Dettling ein KI-gestütztes Diagnosesystem für diabetische Retinopathie an, dessen Vermarktung die FDA im April 2018 genehmigte. Es analysiert den Augenhintergrund auf frühe, diskrete Anzeichen von Gefäßveränderungen in weniger als einer Minute, und zwar ohne notwendige Präsenz eines Augenarztes und mit einer hohen Sensitivität und Spezifität.

Quelle: Den ganzen Artikel lesen