osipenko1_ Pedro VilelaGetty Images_health tech Pedro Vilela/Getty Images

Tukang Obat pada Industri Teknologi Informasi-Kesehatan

LONDON – Dalam sebuah wawancara dengan Wall Street Journal pada awal tahun ini, David Feinberg, kepala Google Health dan seseorang yang mengaku sebagai penggemar astrologi, dengan semangat mengatakan, “Kalau Anda berpikir yang kami lakukan adalah hanya menyusun informasi untuk memudahkan dokter Anda, saya akan menjadi sedikit menggurui: saya tidak akan membiarkan orang-orang untuk melarang atau mengabaikan itu.” Dengan kata lain, pasien tidak akan punya pilihan selain menerima horoskop klinis yang dikhususkan kepada pasien berdasarkan sejarah medis dan kesimpulan yang didapat dari kumpulan data pasien-pasien yang semakin besar jumlahnya dalam waktu dekat.  

Dalam beberapa tahun terakhir, sebagian besar perusahaan teknologi raksasa AS – dan juga banyak perusahaan startup, perusahaan farmasi raksasa, dan lainnya – sudah memasuki sektor teknologi kesehatan. Dengan analisis big data, kecerdasan buatan (AI), dan metode-metode baru, perusahaan-perusahaan tersebut berjanji akan mengurangi biaya sistem layanan kesehatan yang sedang kesulitan, merevolusionerkan cara dokter mengambil keputusan medis, dan menjadikan kita lebih baik. Pasti semua akan baik-baik saja kan?

Ternyata tidak. Dalam Weapons of Math Destruction, ilmuwan data Cathy O’Neil menjabarkan banyak contoh bagaimana algoritma dan data bisa menimbulkan dampak negatif dengan cara yang tidak disangka-sangka. Ketika transparent data-feedback algorithm (algoritma umpan balik data transparan) diterapkan pada olah raga bisbol, hal ini bekerja dengan baik; tapi ketika model serupa digunakan dalam bidang keuangan, asuransi, penegakan hukum, dan pendidikan, algoritma ini bisa sangat diskriminatif dan destruktif.

https://prosyn.org/PunWEIDid