Eine neue Google-Studie zeigt auf den ersten Blick vielversprechende Gesundheitschancen, die AI bietet. In der Tat zeigt es eine drohende Bedrohung.
Forscher von Google
sorgten Anfang 2020 mit ihrer Studie für
Schlagzeilen. Sie stellten fest, dass ihr System der künstlichen Intelligenz (KI) besser geeignet ist, Brustkrebs mithilfe von
Mammographien zu finden als Experten. Es klang nach einem großen Sieg und einem weiteren Beispiel dafür, wie KI
unser Gesundheitswesen bald
verändern wird : Finden Sie mehr Tumore! Weniger Fehlalarme! Eine verbesserte und kostengünstigere Möglichkeit, qualitativ hochwertige medizinische Dienstleistungen zu erbringen!
Aber achten Sie auf Ausrufezeichen. Computergestützte Gesundheitsfürsorge kann uns in Zukunft viele Vorteile bringen, aber alles hängt davon ab, wie wir sie nutzen. Wenn der Arzt zunächst die falsche Frage stellt - wenn er AI sendet, um nach Informationen zu suchen, die auf falschen Annahmen beruhen -, hilft uns all diese Technologie nicht weiter. Es kann sogar als Verstärker für unsere früheren Fehler dienen.
In gewisser Weise geschah dies mit den jüngsten Arbeiten von Google. Sie versucht, die Effektivität einer Person in einer Aufgabe zu reproduzieren und zu übertreffen, was im Wesentlichen eine zutiefst bösartige medizinische Praxis ist. Wenn Sie
jahrzehntelange Kontroversen über die Suche nach Tumoren nicht verfolgt haben, lautet das Fazit: Wenn Sie sich mammografischen Untersuchungen von Menschen unterziehen, die keine Symptome aufweisen, werden Sie viele Dinge finden, die wie Krebs aussehen, aber das Leben des Patienten nicht gefährden. Mit der Entwicklung der biologischen Krebsforschung und der Verbreitung von medizinischen Massenuntersuchungen der Bevölkerung haben Forscher herausgefunden, dass nicht jeder Tumor notwendigerweise tödlich sein wird. Viele Menschen haben schmerzlose oder träge Formen von Krebs, die keine Gefahr für ihre Gesundheit darstellen. Leider finden Standarduntersuchungen in der Regel genau die neuesten Krebsarten - langsam wachsende Tumoren, die am besten ignoriert werden.
Theoretisch ist das nicht so schlimm. Wenn beim Screening harmloser Krebs entdeckt wird, kann er einfach ignoriert werden, oder? Das Problem ist jedoch, dass es zum Zeitpunkt des Screenings fast unmöglich ist, herauszufinden, ob eine bestimmte Läsion gefährlich oder unsinnig ist. In der Praxis neigen die meisten Ärzte dazu, jeden erkannten Krebs als potenzielle Bedrohung zu betrachten, und die Frage, ob Mammografien Leben retten oder nicht, bleibt Gegenstand heftiger Debatten. Einige Studien sagen, dass dies der Fall ist, andere sagen es nicht, aber selbst wenn wir die rosigsten Interpretationen der Literatur für selbstverständlich halten, wird die Anzahl der Leben, die durch dieses massive Screening gerettet werden, gering sein. Einige Forscher haben sogar geschätzt, dass die Mammographie als Ganzes die Gesundheit der Patienten beeinträchtigt - das heißt, eine übermäßige Behandlung und das Auftreten von Tumoren, die durch therapeutische Bestrahlung hervorgerufen werden, überwiegen den Nutzen.
Mit anderen Worten, KI-Systeme wie das von Google bieten das Versprechen, Menschen und Maschinen zusammenzubringen, um Diagnosen zu vereinfachen. Sie können jedoch auch bestehende Probleme wie Überprüfungen, zu pessimistische Diagnosen und unverhältnismäßige Behandlungen verschlimmern. Es ist nicht einmal klar, ob die von den Entwicklern in der realen Welt gemeldeten Verbesserungen bei der Eliminierung von falsch-positiven und falsch-negativen Diagnosen funktionieren werden. Die Studie ergab, dass sich AI als besser erwies als Radiologen, die nicht für das Studium von Mammographien ausgebildet wurden. Wird es das Team spezialisierter Experten übertreffen? Es ist schwer zu sagen, ohne zu testen. Darüber hinaus wurden die meisten in der Studie verwendeten Bilder mit Geräten eines Unternehmens erstellt. Es bleibt unklar, ob es möglich sein wird, diese Ergebnisse auf Bilder zu übertragen, die mit anderen Maschinen aufgenommen wurden.
Und dieses Problem ist mehr als nur Brustkrebsvorsorge. Ein Teil der Attraktivität der KI liegt in der Tatsache, dass sie riesige Mengen vertrauter Daten durchsuchen und aus diesen Variablen auswählen kann, die uns nicht wichtig erschienen. Im Prinzip kann uns diese Fähigkeit helfen, jede Krankheit in einem frühen Stadium zu diagnostizieren, genauso wie kleine Vibrationen eines Seismographen uns vor einem Erdbeben warnen können (AI hilft übrigens an dieser Front). Aber manchmal sind diese versteckten Variablen nicht so wichtig. Beispielsweise könnte Ihr Datensatz in einer Krebsvorsorgeklinik gesammelt werden, die sich nur freitags mit Lungenkrebs befasst. Infolgedessen kann der AI-Algorithmus entscheiden, dass freitags aufgenommene Bilder mit größerer Wahrscheinlichkeit Lungenkrebs erkennen. Und diese triviale Verbindung kann dann in die Formel fallen, die für zukünftige Diagnosen verantwortlich ist.
Auch eine genaue Früherkennung der Krankheit ist nicht immer ein Segen. Andere kürzlich durchgeführte medizinische AI-Projekte haben sich auf die Früherkennung von Alzheimer und Autismus konzentriert, zwei Krankheiten, bei denen eine schnellere Diagnose das Ergebnis ohnehin nicht ändert. Dies sind Gelegenheiten, Hype zu erzeugen, um zu demonstrieren, wie ein Algorithmus lernen kann, die Eigenschaften zu bestimmen, nach denen wir ihn suchen lehren, aber sie stellen keine Fortschritte in der Medizin dar, die etwas im Leben von Patienten verändern werden.
Einige Anwendungsfälle von Algorithmen und maschinellem Lernen (MO) können sogar zu neuen komplexen Problemen für Ärzte führen. Betrachten Sie Apple Feature
Watch, mit
dem Vorhofflimmern erkannt werden kann - eine Form von Arrhythmie, ein Risikofaktor für Schlaganfall. Vorhofflimmern wird mit Blutverdünnern behandelt, aber ihre Nebenwirkung kann dazu führen, dass ein kleiner Tropfen zu einer lebensbedrohlichen Verletzung führt. Wenn Sie wirklich einem Herzinfarktrisiko ausgesetzt sind, ist dieses Risiko gerechtfertigt. Was ist mit Menschen, deren Vorhofflimmern von einer Smartwatch entdeckt wurde? Normalerweise wird diese Krankheit diagnostiziert, wenn der Patient mit Beschwerden über Symptome zum Arzt kommt; und jetzt überwacht Apple den Zustand gesunder Menschen ohne Symptome, und es gibt neue Fälle, die in der Klinik möglicherweise nie gefunden wurden. Es ist unklar, ob diese Patientengruppe von der Behandlung profitieren wird.
"Wir wissen nicht, ob die beiden Populationen übereinstimmen", sagt Venkatesh Murty, Kardiologe am Frankel Cardiovascular Center in Ann Harbor, Michigan. Ein sinnvollerer Ansatz wäre die Verwendung von KI, um Personen zu identifizieren, die am meisten von bestehenden Behandlungen profitieren.
Wenn KI wirklich ein revolutionärer Ansatz werden soll, muss nicht nur der Status Quo in der Medizin wiederhergestellt werden. Bevor Sie sich für einen solchen Ansatz entscheiden, müssen Sie einige grundlegende Fragen beantworten: Welches Problem versucht diese Technologie zu lösen und wie kann sie die Ergebnisse der Arbeit mit Patienten verbessern? Das Finden von Antworten kann eine Weile dauern.
Daher ist das berühmte Motto von Mark Zuckerberg, „Bewege dich schnell, brich die Grundlagen“, vielleicht für Facebook geeignet, aber nicht für die Medizin, es hilft der KI oder auch nicht. Laut Vinay Prasad, Autor von
Preventing Medical Failures , einem Hämatologen und Onkologen an der Gesundheits- und Wissenschaftsuniversität der Oregon Medical University, kann die Denkweise der Bewohner des Silicon Valley für Praktiker gefährlich sein. Es war ein solcher Ansatz - wenn das Leben in Gefahr ist, müssen wir so bald wie möglich neue vielversprechende Ideen in Umlauf bringen - und führte uns heute zu der Verwirrung mit der Krebsvorsorge. Die Mammographie sei bereits vor dem Erscheinen aller Beweise eingeführt worden, und nachdem die medizinische Praxis zum Standard geworden sei, sei es sehr schwierig, sie einzuschränken. "In einer Kultur, die an dringende Maßnahmen und Hype gewöhnt ist, ist es schwierig, demütig und geduldig zu sein."