ChatGPT menyebarkan ketidakakuratan pada pertanyaan tentang informasi obat, demikian temuan penelitian

ChatGPT diketahui telah membagikan informasi yang tidak akurat tentang penggunaan narkoba, menurut penelitian baru.

Dalam sebuah penelitian yang dipimpin oleh Long Island University (LIU) di Brooklyn, New York, ditemukan bahwa hampir 75% tanggapan yang ditinjau oleh apoteker terkait obat dari chatbot AI generatif tidak lengkap atau salah.

Dalam beberapa kasus, ChatGPT, yang dikembangkan oleh OpenAI di San Francisco dan dirilis pada akhir tahun 2022, “memberikan respons yang tidak akurat yang dapat membahayakan pasien,” kata American Society of Health System Pharmacists (ASHP), yang berkantor pusat di Bethesda, Maryland, dalam siaran persnya.

APA ITU KECERDASAN BUATAN?

ChatGPT juga menghasilkan “kutipan palsu” ketika diminta mengutip referensi untuk mendukung beberapa jawaban, demikian temuan penelitian yang sama.

Bersama timnya, penulis utama studi Sara Grossman, PharmD, profesor praktik farmasi di LIU, mengajukan pertanyaan nyata kepada chatbot AI yang awalnya diajukan ke layanan informasi obat Sekolah Tinggi Farmasi LIU antara tahun 2022 dan 2023.

Dari 39 pertanyaan yang diajukan ke ChatGPT, hanya 10 jawaban yang dinilai “memuaskan” menurut kriteria tim peneliti.

Temuan penelitian ini dipresentasikan pada Pertemuan Klinis Tengah Tahun ASHP dari tanggal 3 hingga 7 Desember di Anaheim, California.

Grossman, penulis utama, membagikan reaksi awalnya terhadap temuan penelitian tersebut kepada Fox News Digital.

TEROBOSAN KANKER PAYUDARA: AI MEMPREDIKSI KETIGA KASUS SEBELUM DIAGNOSIS DALAM STUDI MAMMOGRAFI

Karena “kami belum pernah menggunakan ChatGPT sebelumnya, kami terkejut dengan kemampuan ChatGPT dalam memberikan banyak informasi latar belakang tentang pengobatan dan/atau kondisi penyakit yang relevan dengan pertanyaan dalam hitungan detik,” katanya melalui email.

“Meskipun demikian, ChatGPT tidak menghasilkan jawaban yang akurat dan/atau lengkap yang secara langsung menjawab sebagian besar pertanyaan.”

Grossman juga menyatakan keterkejutannya bahwa ChatGPT mampu “menghasilkan referensi palsu untuk mendukung informasi yang diberikan.”

Dalam salah satu contoh yang dia kutip dari penelitian tersebut, ChatGPT ditanya apakah “ada interaksi obat antara Paxlovid, obat antivirus yang digunakan sebagai pengobatan untuk COVID-19, dan verapamil, obat yang digunakan untuk menurunkan tekanan darah.”

KEPALA GOOGLE BARD PERCAYA AI DAPAT MEMBANTU MENINGKATKAN KOMUNIKASI DAN BERBAGI: ‘SANGAT TERLIHAT’

Model AI menjawab bahwa tidak ada interaksi yang dilaporkan dengan kombinasi ini.

Namun kenyataannya, kata Grossman, kedua obat tersebut berpotensi menimbulkan ancaman “penurunan tekanan darah secara berlebihan” jika digabungkan.

“Tanpa mengetahui interaksi ini, pasien mungkin menderita efek samping yang tidak diinginkan dan dapat dicegah,” dia memperingatkan.

“Penting untuk selalu berkonsultasi dengan profesional kesehatan sebelum menggunakan informasi yang dihasilkan oleh komputer.”

ChatGPT tidak boleh dianggap sebagai “sumber resmi informasi terkait pengobatan,” tegas Grossman.

“Siapa pun yang menggunakan ChatGPT harus memastikan untuk memverifikasi informasi yang diperoleh dari sumber tepercaya – yaitu apoteker, dokter, atau penyedia layanan kesehatan lainnya,” tambah Grossman.

KESEHATAN MENTAL MILITER DALAM FOKUS SEBAGAI PELATIHAN AI SIMULASI PERCAKAPAN NYATA UNTUK MEMBANTU MENCEGAH Bunuh Diri VETERAN

Studi LIU tidak mengevaluasi respons platform AI generatif lainnya, kata Grossman – jadi tidak ada data tentang bagaimana kinerja model AI lain dalam kondisi yang sama.

“Bagaimanapun, penting untuk selalu berkonsultasi dengan profesional kesehatan sebelum menggunakan informasi yang dihasilkan komputer yang tidak sesuai dengan kebutuhan spesifik pasien,” katanya.

Kebijakan Penggunaan oleh ChatGPT

Fox News Digital menghubungi OpenAI, pengembang ChatGPT, untuk mengomentari studi baru ini.

OpenAI memiliki kebijakan penggunaan yang melarang penggunaan untuk pendidikan kedokteran, kata juru bicara perusahaan sebelumnya kepada Fox News Digital dalam sebuah pernyataan.

Paxlovid, obat antivirus Pfizer untuk mengobati COVID-19, ditampilkan dalam ilustrasi gambar yang diambil pada 7 Oktober 2022. Ketika ChatGPT ditanya apakah ada interaksi obat antara Paxlovid dan verapamil, chatbot menjawab salah, sebuah studi baru melaporkan. (REUTERS/Wolfgang Rattay/Ilustrasi)

“Model OpenAI tidak disesuaikan untuk memberikan informasi medis. Anda tidak boleh menggunakan model kami untuk memberikan layanan diagnostik atau perawatan untuk kondisi medis yang serius,” kata juru bicara perusahaan pada awal tahun ini.

“Platform OpenAI tidak boleh digunakan untuk menyelidiki atau mengelola masalah yang mengancam jiwa yang memerlukan perhatian segera.”

Penyedia layanan kesehatan “harus memberikan penafian kepada pengguna yang memberi tahu mereka bahwa AI sedang digunakan dan beberapa potensi keterbatasannya.”

Perusahaan juga mewajibkan, ketika menggunakan ChatGPT untuk terhubung dengan pasien, penyedia layanan kesehatan “memberikan penafian kepada pengguna yang memberi tahu mereka bahwa AI sedang digunakan dan beberapa potensi keterbatasannya.”

Selain itu, seperti yang dicatat oleh Fox News Digital sebelumnya, satu peringatan besar adalah bahwa sumber data ChatGPT adalah Internet — dan terdapat banyak informasi yang salah di Web, seperti yang diketahui kebanyakan orang.

Itu sebabnya jawaban chatbot, betapapun meyakinkannya terdengar, harus selalu diperiksakan ke dokter.

Penulis studi baru ini menyarankan untuk berkonsultasi dengan profesional kesehatan sebelum mengandalkan AI generatif untuk pertanyaan medis. (iStock)

Apalagi menurut berbagai sumber, ChatGPT hanya “dilatih” pada data hingga September 2021. Meski seiring berjalannya waktu dapat menambah pengetahuannya, namun memiliki keterbatasan dalam hal memberikan informasi yang lebih terkini.

Bulan lalu, CEO Sam Altman mengumumkan bahwa ChatGPT OpenAI mendapat peningkatan — dan akan segera dilatih tentang data hingga April 2023.

‘Potensi inovatif’

Harvey Castro, seorang dokter pengobatan darurat bersertifikat yang berbasis di Dallas, Texas dan pembicara nasional mengenai AI dalam layanan kesehatan, mempertimbangkan “potensi inovatif” yang ditawarkan ChatGPT di bidang medis.

“Untuk pertanyaan umum, ChatGPT dapat memberikan informasi yang cepat dan mudah diakses, sehingga berpotensi mengurangi beban kerja para profesional kesehatan,” katanya kepada Fox News Digital.

KECERDASAN ARTIFICIAL MEMBANTU DOKTER PREDIKSI RISIKO KEMATIAN PASIEN, STUDI MENEMUKAN: ‘RASA URGENSI’

“Algoritme pembelajaran mesin ChatGPT memungkinkannya meningkat seiring waktu, terutama dengan mekanisme pembelajaran penguatan yang tepat,” katanya juga.

Namun, ketidakakuratan respons ChatGPT yang baru-baru ini dilaporkan menimbulkan “masalah kritis” pada program tersebut, kata pakar AI.

“Hal ini sangat mengkhawatirkan di bidang-bidang berisiko tinggi seperti kedokteran,” kata Castro.

Seorang pakar teknologi kesehatan mencatat bahwa para profesional medis bertanggung jawab untuk “membimbing dan mengkritik” model kecerdasan buatan seiring perkembangannya. (iStock)

Risiko potensial lainnya adalah ChatGPT terbukti “berhalusinasi” terhadap informasi – yang berarti bahwa ChatGPT dapat menghasilkan konten yang kredibel namun palsu atau tidak terverifikasi, Castro memperingatkan.

KLIK DI SINI UNTUK MENDAFTAR NEWSLETTER KESEHATAN KAMI

“Ini berbahaya dalam konteks medis di mana akurasi sangat penting,” kata Castro.

“Meskipun ChatGPT menjanjikan dalam layanan kesehatan, keterbatasannya saat ini menggarisbawahi perlunya penerapan yang hati-hati.”

AI “saat ini kurang memiliki pemahaman yang mendalam dan beragam mengenai konteks medis” yang dimiliki oleh para profesional kesehatan manusia, Castro menambahkan.

“Meskipun ChatGPT menjanjikan dalam layanan kesehatan, keterbatasannya saat ini, khususnya dalam menangani pertanyaan terkait obat, menyoroti perlunya penerapan yang hati-hati.”

OpenAI, pengembang ChatGPT, memiliki kebijakan penggunaan yang melarang penggunaan untuk pendidikan kedokteran, kata juru bicara perusahaan kepada Fox News Digital awal tahun ini. (Jaap Arriens/NurPhoto melalui Getty Images)

Sebagai seorang dokter UGD dan konsultan kesehatan AI, Castro menekankan peran “sangat berharga” yang dimiliki para profesional medis dalam “membimbing dan mengkritik teknologi yang berkembang ini.”

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

“Pengawasan manusia tetap diperlukan, untuk memastikan bahwa alat AI seperti ChatGPT digunakan sebagai pelengkap dan bukan pengganti penilaian medis profesional,” tambah Castro.

Melissa Rudy dari Fox News Digital melaporkan.

Untuk artikel kesehatan lainnya, kunjungi www.foxnews.com/health.