In ihrem Beitrag "Measuring fairness preferences is important for artificial intelligence in health care" für das Fachmagazin The Lancet Digital Health plädieren HPI-Postdoc Dr. med. Anatol-Fiete Näher und seine Co-Autor:innen Ivar Krumpal, Esther-Maria Antao, Erika Ong, Marina Rojo, Fred Kaggwa, Felix Balzer, Leo Anthony Celi, Katarina Braune, Lothar H. Wieler und Louis Agha-Mir-Salim deshalb dafür, sich Fairnesspräferenzen und -metriken bei der Nutzung von maschinellem Lernen im Gesundheitswesen genauer anzusehen und zu erforschen. Wir haben mit Fiete über den Ansatz gesprochen.
HPI: Was reizt Dich an diesem Thema?
Dr. med. Anatol-Fiete Näher: Das Thema zeigt in bester Weise, dass die Digitalisierung der Medizin ein interdisziplinäres Unterfangen ist, das der kombinierten Expertise aus Informatik, Sozialwissenschaften und Medizin bedarf. Darüber hinaus leistet die Auseinandersetzung mit der Frage, unter welchen Voraussetzungen die Nutzung von Algorithmen in der Medizin als fair, gerecht und damit als akzeptabel angesehen wird, einen zentralen Beitrag zur Umsetzung digitaler Innovationen in die Praxis.
HPI: Warum brauchen wir mehr Forschung zu Fairnesspräferenzen bei KI in der Medizin?
Fiete: Dass eingesetzte Algorithmen von allen Beteiligten so weit wie möglich akzeptiert werden, ist Voraussetzung, um das Potential von KI in der Medizin vollumfänglich zu nutzen. Erkenntnisse darüber, welche KI-basierten Ergebnisse oder Empfehlungen von Beteiligten als fair und gerecht angesehen werden, sind wiederum der Schlüssel, um eine hohe Akzeptanz von KI in der Medizin zu schaffen. Dabei muss auch berücksichtigt werden, dass Fairnesspräferenzen durchaus von Standards abweichen können, die im Vorfeld von Ethikern definiert werden, um einen möglichst ethischen KI-Einsatz in der Medizin zu gewährleisten.
HPI: Was willst Du mit diesem Artikel anstoßen?
Fiete: Der Artikel soll zunächst dazu anregen, sich gründlicher als bislang mit Fairnessmetriken einerseits und Algorithmen andererseits auseinanderzusetzen, deren Einsatz von Beteiligten als nicht fair oder gerecht angesehen wird. Beides ist von unmittelbarer praktischer Bedeutung, da KI in der Medizin weltweit in kulturell stark variierenden Settings zum Einsatz kommen wird. Der Einsatz ein- und desselben Algorithmus wird nicht überall gleichermaßen akzeptiert werden, ohne dass dieser an den jeweiligen lokalen Kontext angepasst ist. Im Artikel werden deshalb auch Mittel und Wege aufgezeigt, wie lokal variierende Fairnesspräferenzen erfasst und gewonnene Erkenntnisse angewendet werden können, um die Akzeptanz von Algorithmen in der Medizin zu erhöhen und ihre Vorteile nutzen zu können.
Der Artikel in „The Lancet Digital Health“ ist hier abrufbar: https://www.thelancet.com/journals/landig/article/PIIS2589-7500(24)00059-1/fulltext
