Ethik und künstliche Intelligenz
Tóm tắt
Die Einführung von Systemen mit künstlicher Intelligenz (KI) in die Radiologie verspricht, die Effizienz zu steigern sowie die Diagnosegenauigkeit zu verbessern, ist jedoch gleichzeitig mit ethischen Fragestellungen verbunden. Diese umfassen u. a. den Umgang mit Datenschutz, die zukünftige Rolle von Radiologen, die Verantwortlichkeit im Umgang mit KI-Systemen, sowie die Vermeidung von Bias in KI-Systemen. Zur Vermeidung von Datenbias ist es nötig, die zum Training verwendeten Datensätze sehr sorgfältig und repräsentativ zusammenzustellen. Entsprechend stellt der bald in Kraft tretende Europäische AI Act hier besonders hohe Anforderungen an die zum Training von medizinischer KI verwendeten Datensätze. Kognitives Bias tritt auf, wenn Radiologen bei der Verwendung von KI-Systemen ein zu hohes Vertrauen in die von der KI gelieferten Ergebnisse setzen („overreliance“). Bislang werden diagnostische KI-Systeme fast ausschließlich als Second-look-Systeme eingesetzt. Falls diagnostische KI-Systeme in der Radiologie zukünftig im Sinne einer Effizienzsteigerung als First-look-Systeme oder sogar als autonome Systeme eingesetzt werden, stellt sich die Frage nach der Verantwortlichkeit, vergleichbar mit dem autonomen Fahren. Auch würde ein solcher Einsatz von KI die Rolle der Radiologen stark verändern.
Từ khóa
Tài liệu tham khảo
Geis JR, Brady A, Wu CC, Spencer J, Ranschaert E, Jaremko JL et al (2019) Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement. Insights Imaging 10(1):101
Brady AP, Allen B, Chong J, Kotter E, Kottler N, Mongan J et al (2024) Developing, purchasing, implementing and monitoring AI tools in radiology: practical considerations. A multisociety statement from the ACR, CAR, ESR, RANZCR & RSNA. Insights Imaging 15(1):16
Gichoya JW, Banerjee I, Bhimireddy AR, Burns JL, Celi LA, Chen LC et al (2022) AI recognition of patient race in medical imaging: a modelling study. Lancet Digit Health 4(6):e406–14
Glocker B, Jones C, Bernhardt M, Winzeck S (2023) Algorithmic encoding of protected characteristics in chest X‑ray disease detection models. eBioMedicine 89:104467
Harvey H, Topol EJ (2020) More than meets the AI: refining image acquisition and resolution. Lancet 396(10261):1479
Knoll F, Murrell T, Sriram A, Yakubova N, Zbontar J, Rabbat M et al (2020) Advancing machine learning for MR image reconstruction with an open competition: Overview of the 2019 fastMRI challenge. Magn Reson Med 84(6):3054–3070
Dratsch T, Chen X, Rezazade Mehrizi M, Kloeckner R, Mähringer-Kunz A, Püsken M et al (2023) Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology 307(4):e222176
Gaube S, Suresh H, Raue M, Merritt A, Berkowitz SJ, Lermer E et al (2021) Do as AI say: susceptibility in deployment of clinical decision-aids. Npj Digit Med 4(1):1–8
European Commission Artificial Intelligence Act. 2021/0106 (COD). https://artificialintelligenceact.eu/
Bitterman DS, Aerts HJWL, Mak RH (2020) Approaching autonomy in medical artificial intelligence. Lancet Digit Health 2(9):e447–9
Oxipit ChestLink—automated chest x‑ray reporting. https://oxipit.ai/products/chestlink/. Zugegriffen: 20. Dez. 2023
Tadavarthi Y, Makeeva V, Wagstaff W, Zhan H, Podlasek A, Bhatia N et al (2022) Overview of noninterpretive artificial intelligence models for safety, quality, workflow, and education applications in radiology practice. Radiol Artif Intell 4(2):e210114