Abstract
En este artículo exploramos la naturaleza relacional de la confianza en los sistemas de inteligencia artificial aplicados al ámbito médico. Frente a los enfoques que tienden a localizar la confianza en propiedades individuales —ya sea del sujeto que confía o del objeto en quien se confía—, proponemos comprenderla como un fenómeno emergente que solo puede desplegarse plenamente en la interacción entre humanos y tecnologías. Analizamos críticamente algunos de los conceptos clave del debate actual —como la responsabilidad, la rendición de cuentas, el antropomorfismo y la alineación de valores—, mostrando que todos ellos resisten ser atribuidos unívocamente a uno de los polos de la relación. Sostenemos que una comprensión adecuada de estos constructos exige situarlos en una perspectiva relacional, donde la confianza no se deriva simplemente de cualidades técnicas o actitudes subjetivas, sino de estructuras compartidas de sentido, prácticas de corresponsabilidad y marcos institucionales adecuados. Este enfoque permite afrontar con mayor precisión los desafíos éticos de la IA médica y orienta el diseño de sistemas que no solo sean eficientes, sino también dignos de confianza en un sentido robusto.
Literaturhinweise
Choung, H., David, P., & Ross, A. (2022). Trust in AI and its role in the acceptance of AI technologies. International Journal of Human–Computer Interaction, 1–13. https://doi.org/10.1080/10447318.2022.2050543
Floridi, L. (2019). Translating principles into practices of digital ethics: five risks of being unethical. Philos. Technol. 32, 185–193
Hatherley, J. J. (2020). Limits of trust in medical AI. Journal of Medical Ethics, 46(7), 478–481. https://doi.org/10.1136/medethics-2019-105935
London AJ, (2019). Artificial intelligence and black-box medical decisions: accuracy versus Explainability. Hastings Cent Rep;49(1):15–21
Malle, B. F., and Ullman, D. (2021). “A multidimensional conception and measure of human-robot trust” in Trust in human-robot interaction. (Cambridge, MA: Academic Press), 3–25.
Shin, D., and Park, Y. J. (2019). Role of fairness, accountability, and transparency in algorithmic affordance. Comput. Hum. Behav. 98, 277–284. doi: 10.1016/j.chb.2019.04.019
Sparrow, R., & Hatherley, J. (2019). The Promise and Perils of AI in Medicine. International Journal of Chinese & Amp; Comparative Philosophy of Medicine, 17(2), 79–109. https://doi.org/10.24112/ijccpm.171678
Thiebes, S., Lins, S., Sunyaev, A.: Trustworthy artificial intelligence. Electron. Mark. (2020). https:// doi. org/ 10. 1007/s12525- 020- 00441-4
Topol EJ. Deep medicine: how artificial intelligence can make healthcare human again. New York, NY: Basic Books, 2019.
Vereschak, O., Bailly, G., & Caramiaux, B. (2021). How to Evaluate Trust in AI-Assisted Decision Making? A Survey of Empirical Methodologies. CSCW 2021 - The 24th ACM Conference on Computer-Supported Cooperative Work and Social Computing, 5(CSCW2), 1–39. https://doi.org/10.1145/3476068
Dieses Werk steht unter der Lizenz Creative Commons Namensnennung - Nicht-kommerziell - Keine Bearbeitungen 4.0 International.