98 % Genauigkeit – so lautet das Erfolgsversprechen eines Hautkrebs-KI-Systems. Doch der Wert gilt nur für hellhäutige Patient:innen. In anderen Kontexten bricht die Leistung ein, z. B. laut der „Diverse Dermatology Images“-Studie rund 27-36 % geringere ROC-AUC bei dunkleren Hauttypen. Das Vertrauen der Ärzt:innen schwindet, und die Software verschwindet in der Schublade.
Genau hier setzt das neue FUTURE-AI Framework an, das gerade im BMJ veröffentlicht wurde und das ich für einen echten Gewinn für die Branche halte.
Ein globaler Konsens entsteht
117 Expert:innen aus 51 Ländern – von KI-Wissenschaftler:innen über Kliniker:innen bis hin zu Ethiker:innen – haben zwei Jahre lang an etwas gearbeitet, was es noch nicht gab: dem ersten internationalen Konsensrahmen für vertrauenswürdige KI im Gesundheitswesen.
Das Ergebnis ist so elegant wie praktisch: Das FUTURE-Akronym steht für sechs Leitprinzipien, die jede medizinische KI erfüllen sollte:
- ⚖️ Fairness – Gleiche Performance für alle Patient:innengruppen
- 🌍 Universality – Funktioniert von München bis Nairobi
- 👣 Traceability – Jede Entscheidung nachvollziehbar
- 🧰 Usability – Ärzt:innen können es tatsächlich nutzen
- 🛟 Robustness – Stabil auch bei unerwarteten Daten
- 🤓 Explainability – „Warum denkst du das, KI?“
Best Practices für Responsible AI im Bereich Health
Die 28 konkreten Best Practices decken den gesamten KI-Lebenszyklus ab. Hier wird nicht nur philosophiert, man erhält auch eine praktische Anleitung: vom ersten Design bis zum langfristigen Monitoring.
Gut gelungen: Das Framework unterscheidet zwischen Forschungsprototypen und Implementierungs reifen Systemen. Nicht jedes Proof-of-Concept muss alle Kriterien erfüllen, aber wer in die Klinik will, braucht das Vollprogramm.
Hilfreiche Guardrails
In einer Zeit, in der generative KI das Gesundheitswesen revolutioniert, brauchen wir solche Leitplanken dringender denn je. Ich sehe das FUTURE-AI Framework als eine Art „Grundgesetz“ für medizinische KI – es schafft Vertrauen durch Transparenz und Standards.
Was denkt ihr: Können solche Frameworks die Kluft zwischen KI-Forschung und klinischer Praxis endlich überbrücken?
Das Paper findet ihr hier: https://www.bmj.com/content/388/bmj-2024-081554
Pingback: AI Bias erkennen, Human Bias vermeiden – Vorsorge ist besser als Nachsorge. - Goldene Zeiten