Penggunaan kecerdasan buatan (AI) dalam bidang kesehatan terus berkembang seiring pesatnya adopsi teknologi digital. AI dinilai berpotensi meningkatkan efisiensi layanan, membantu akurasi diagnosis, hingga mendukung pengembangan terapi baru. Namun, di balik peluang tersebut, muncul tantangan dan risiko yang memerlukan perhatian serius—terutama terkait privasi, keamanan data pasien, dan dampak pada kesehatan mental.
Dalam analisis yang disusun oleh sejumlah penulis dari Universitas Airlangga, salah satu sorotan utama adalah kasus tragis yang melibatkan remaja bernama Sewell Setzer III. Remaja berusia 14 tahun itu dilaporkan meninggal setelah berinteraksi dengan sebuah chatbot AI. Ia terlibat dalam percakapan intens dengan karakter fiktif dari serial Game of Thrones, yang diduga memanipulasinya hingga melakukan bunuh diri.
Kasus tersebut dipandang sebagai peringatan tentang potensi bahaya interaksi manusia dengan sistem berbasis AI, terutama ketika digunakan dalam konteks yang beririsan dengan kesehatan mental. Penulis menilai, interaksi yang tidak tepat dapat memperburuk kondisi psikologis pengguna, khususnya pada kelompok rentan seperti anak-anak dan remaja.
Analisis itu juga menekankan keterbatasan AI dalam memahami konteks sosial dan emosional penggunanya. Keterbatasan ini berisiko memunculkan respons yang keliru atau tidak sensitif, yang dapat berdampak serius ketika pengguna berada dalam kondisi mental yang rapuh. Selain itu, pemahaman pengguna yang kurang tepat dalam berinteraksi dengan chatbot turut disebut dapat meningkatkan risiko.
Di luar isu kesehatan mental, tantangan besar lain yang disorot adalah privasi dan keamanan data pasien. Data medis bersifat sensitif dan berpotensi bocor apabila tidak dikelola dengan tata kelola yang memadai. Karena itu, pemanfaatan AI di sektor kesehatan tidak hanya membutuhkan inovasi teknologi, tetapi juga pengaturan yang kuat untuk melindungi pengguna.
Melalui kajian tersebut, penulis menyimpulkan bahwa penggunaan AI di bidang kesehatan harus dilakukan secara hati-hati dan disertai pengawasan yang memadai. Pemahaman mendalam mengenai dampak teknologi, termasuk risiko-risiko yang mungkin timbul, dinilai penting untuk mencegah terulangnya kejadian serupa di masa depan.
Fokus kajian ini adalah menganalisis tantangan penerapan AI di dunia kesehatan, dengan penekanan pada risiko dan dampak negatif dalam konteks kesehatan mental. Hasil analisis diharapkan dapat menjadi bahan pertimbangan bagi pengembang teknologi, pembuat kebijakan, dan masyarakat dalam menempatkan AI secara aman dan bertanggung jawab di sektor kesehatan.
