Penggunaan ChatGPT Health untuk mendiagnosis kondisi medis seseorang berpotensi meremehkan masalah kesehatan yang sebenarnya. Studi dari Icahn School of Medicine di Mount Sinai menemukan bahwa alat ini kurang akurat dalam menilai tingkat keparahan penyakit.
Evaluasi keamanan independen terhadap asisten ChatGPT Health dari OpenAI ini dilakukan sejak peluncurannya pada Januari 2026. Penelitian ini berupaya menjawab pertanyaan mendasar mengenai kemampuan ChatGPT Health dalam memberikan saran yang tepat saat keadaan darurat medis.
Ashwin Ramaswamy, penulis utama studi dan ahli urologi, menyatakan bahwa mereka ingin mengetahui apakah ChatGPT Health akan secara jelas menyarankan penggunanya untuk segera pergi ke ruang gawat darurat jika mereka mengalami keadaan darurat medis yang sebenarnya.
Hasilnya menunjukkan bahwa dalam banyak kasus, ChatGPT Health tidak memberikan saran yang tepat. Dalam studi terkontrol, para peneliti menguji kemampuan ChatGPT Health dalam menilai tingkat keparahan kondisi pasien, sebuah proses yang disebut triase dalam dunia kedokteran. Hasilnya, ChatGPT Health kurang tepat dalam melakukan triase pada 52% kasus darurat.
"Mengarahkan pasien dengan ketoasidosis diabetik dan gagal napas yang akan segera terjadi ke evaluasi 24-48 jam daripada ke unit gawat darurat," terang mereka, dikutip detikINET dari Gizmodo.
Dalam kasus gagal napas, AI tersebut dapat mengidentifikasi gejala sebagai tanda peringatan dini. Namun, ChatGPT Health justru meyakinkan pasien untuk menunggu dan memantau kondisi mereka, alih-alih mendesak mereka untuk segera mencari bantuan darurat.
Meskipun demikian, sistem tersebut menunjukkan hasil yang lebih akurat dalam melakukan triase untuk kasus darurat standar seperti stroke dan anafilaksis. Para peneliti menekankan bahwa justru pada situasi-situasi rumit yang gagal ditangani oleh ChatGPT Health, penilaian klinis menjadi sangat penting.
OpenAI meluncurkan ChatGPT Health setelah merilis laporan yang menyatakan bahwa lebih dari 40 juta orang di seluruh dunia telah menggunakan chatbot perusahaan tersebut setiap hari untuk mendapatkan nasihat kesehatan.
Studi OpenAI juga menemukan bahwa 7 dari 10 percakapan terkait perawatan kesehatan terjadi di luar jam kerja klinik normal. Selain itu, rata-rata lebih dari 580.000 pertanyaan perawatan kesehatan di AS dikirim dari daerah tanpa rumah sakit, yaitu tempat-tempat yang berjarak lebih dari 30 menit berkendara dari rumah sakit umum atau rumah sakit anak.
Sebelumnya, OpenAI juga telah menerima kecaman atas cara chatbot-nya menangani kasus kesehatan mental. Keluarga yang berduka menggugat perusahaan tersebut atas perilaku lalai dan kurangnya pengamanan yang memicu ide bunuh diri pada kerabat mereka.
Sebagai tanggapan, OpenAI menyatakan akan mengambil tindakan atas masalah ini, dengan fokus pada memastikan keamanan dengan mengeluarkan kontrol orang tua untuk anak di bawah umur atau mendorong pengguna untuk beristirahat. ChatGPT Health, misalnya, mengarahkan pengguna ke bantuan profesional dalam kasus berisiko tinggi. Namun, studi Mount Sinai menemukan bahwa peringatan risiko bunuh diri 'tampak tidak konsisten'.
Girish Nadkarni, kepala petugas AI Mount Sinai Health System, mengatakan, "Peringatan sistem tersebut terbalik relatif terhadap risiko klinis, muncul lebih andal untuk skenario risiko rendah daripada untuk kasus ketika seseorang berbagi bagaimana mereka bermaksud untuk menyakiti diri sendiri. Dalam kehidupan nyata, ketika seseorang berbicara tentang bagaimana tepatnya mereka akan menyakiti diri sendiri, itu adalah tanda bahaya yang lebih mendesak dan serius, bukan sebaliknya."
"Ini adalah temuan yang sangat mengejutkan dan mengkhawatirkan," pungkasnya.
