Kecerdasan buatan (AI) dapat mengubah praktik perawatan kesehatan dengan kemampuannya yang semakin meningkat untuk menerjemahkan ketidakpastian dan kompleksitas data menjadi keputusan atau saran klinis yang dapat ditindaklanjuti—meskipun tidak sempurna. Dalam hubungan yang berkembang antara manusia dan AI, kepercayaan adalah satu-satunya mekanisme yang membentuk penggunaan dan adopsi AI oleh dokter.
Kepercayaan adalah mekanisme psikologis untuk menghadapi ketidakpastian antara apa yang diketahui dan tidak diketahui. Beberapa studi penelitian telah menyoroti kebutuhan untuk meningkatkan sistem berbasis AI dan meningkatkan kemampuan mereka untuk membantu dokter. Namun, menilai besarnya dan dampak kepercayaan manusia pada teknologi AI menuntut perhatian besar.
Akankah seorang dokter mempercayai sistem berbasis AI? Apa saja faktor yang mempengaruhi kepercayaan manusia terhadap AI? Bisakah kepercayaan pada AI dioptimalkan untuk meningkatkan proses pengambilan keputusan?
Dalam makalah ini, kami fokus pada dokter sebagai pengguna utama sistem AI dalam perawatan kesehatan dan menyajikan faktor-faktor yang membentuk kepercayaan antara dokter dan AI.
Peneliti menyoroti tantangan kritis terkait kepercayaan yang harus dipertimbangkan selama pengembangan sistem AI apa pun untuk penggunaan klinis. Artikel ini dipublikasikan pada 2020 di Journal of Medical Internet Research.