Jakarta, DKI Jakarta - Minggu, 19 Oktober 2025 - Platform komunitas daring Reddit tengah menuai kritik keras setelah fitur kecerdasan buatan (AI) mereka, Reddit Answers, diketahui memberikan saran medis yang berpotensi membahayakan pengguna. Sejumlah moderator forum melaporkan bahwa sistem AI tersebut mengeluarkan rekomendasi berisiko tinggi, termasuk menyarankan penggunaan kratom dan heroin sebagai alternatif pengobatan nyeri kronis.
Kronologi Kasus Reddit Answers Dikecam
Dikutip dari Technologue.id, beberapa moderator di subreddit bertema kesehatan melaporkan bahwa fitur Reddit Answers kerap muncul otomatis di kolom diskusi, memberikan jawaban medis yang keliru.
Dalam satu kasus, AI Reddit dilaporkan menyarankan dosis tinggi zat kratom sebagai pengganti obat resep untuk penderita nyeri kronis. Bahkan, dalam percobaan lain, sistem tersebut menyebut heroin sebagai alternatif terapi, yang jelas berisiko tinggi dan ilegal.
Seorang moderator menuturkan bahwa mereka tidak bisa menghapus atau menonaktifkan jawaban AI tersebut, meski jelas mengandung informasi salah.
“Kami tidak memiliki kontrol untuk mencegah AI itu muncul, bahkan saat jawabannya membahayakan pengguna,” ujar salah satu moderator, dikutip dari Technologue.id.
Respons Resmi Reddit
Menanggapi kecaman tersebut, pihak Reddit menyatakan telah melakukan pembaruan sistem agar “jawaban terkait” tidak lagi muncul di topik sensitif seperti kesehatan, narkotika, dan konten dewasa.
Juru bicara Reddit kepada 404Media mengatakan bahwa sistem mereka kini mengecualikan subreddit privat, karantina, NSFW, dan topik berisiko tinggi dari pemrosesan AI.
Meski begitu, sejumlah moderator menyebut perbaikan itu belum sepenuhnya efektif, karena fitur AI masih muncul di beberapa forum yang membahas isu medis dan kesehatan mental.
Dampak dan Kekhawatiran Pengguna
Fenomena ini menimbulkan sejumlah kekhawatiran serius di kalangan komunitas online:
• Keselamatan pengguna: Saran medis yang salah bisa menyebabkan cedera atau bahkan kematian.
• Kurangnya kontrol moderator: Moderator tidak memiliki otoritas penuh untuk menghapus jawaban AI yang berbahaya.
• Keandalan AI: Teknologi kecerdasan buatan dinilai belum siap menangani isu sensitif seperti pengobatan dan kesehatan.
• Kepercayaan publik: Kredibilitas Reddit sebagai forum diskusi terbuka kini dipertanyakan.
Langkah yang Diharapkan dari Reddit
Para moderator mendesak Reddit untuk:
• Memperketat filter AI untuk topik kesehatan dan medis.
• Memberikan fitur kontrol tambahan bagi moderator komunitas.
• Melakukan audit independen terhadap sistem AI.
Menyertakan peringatan eksplisit agar pengguna tidak menganggap jawaban AI sebagai nasihat medis resmi.
Kasus Reddit Answers ini menjadi peringatan penting bagi pengembang AI, bahwa teknologi kecerdasan buatan tetap harus diawasi secara ketat, terutama ketika menyangkut informasi kesehatan dan keselamatan publik.
Artikel ini telah tayang di
Mediamassa.co.id
0 Komentar