Teknologi: Dokter AI palsu mengeksploitasi penonton lanjut usia di YouTube dengan klaim kesehatan yang menyesatkan

Para ahli memperingatkan bahwa nasihat dari dokter palsu tersebut dapat menimbulkan dampak serius dan bahkan “berakibat fatal bagi orang-orang lanjut usia”.

Celi Ferreira, 82 tahun, sedang menonton YouTube ketika seorang dokter muncul di layar dan menyarankan bahwa ia dapat melindungi penglihatannya dengan mengonsumsi buah-buahan. Menurutnya, saran itu terdengar masuk akal.

Namun, itu bukan saluran medis sungguhan dan dokter tersebut tidak pernah ada. Wajah dan suaranya dibuat menggunakan kecerdasan buatan (AI).

Meski telah diberi label sebagai konten yang dibuat dengan AI oleh YouTube, video tersebut telah ditonton hampir 300.000 kali dan menerima ratusan komentar. Ferreira mengatakan kepada BBC bahwa ia tetap percaya dirinya sedang mendengarkan seorang dokter yang nyata.

Ini bukan kasus yang berdiri sendiri. Sebuah investigasi menemukan 29 kanal berbahasa Portugis yang menggunakan dokter buatan AI dan secara keseluruhan telah mengumpulkan sedikitnya 70 juta penayangan.

Konten semacam ini juga menjangkau audiens global. BBC News Brasil mengidentifikasi sedikitnya 50 kanal tutorial YouTube yang mengajarkan cara membuat video dengan dokter AI dalam berbagai bahasa, termasuk Portugis, Inggris, Hindi, Spanyol, Prancis, Italia, Polandia, Jerman, dan Turki.

Para kreator konten tersebut memandang kelompok usia lanjut sebagai ceruk pasar yang menguntungkan. Mereka meyakini para lansia memiliki lebih banyak waktu luang untuk menonton video serta pendapatan yang dapat digunakan untuk membeli produk yang dipromosikan.

Seorang dokter asli yang citranya disalahgunakan memperingatkan bahwa saran kesehatan dari dokter palsu semacam itu dapat menimbulkan dampak serius dan bahkan “berakibat fatal bagi orang-orang lanjut usia”.

Google, perusahaan induk YouTube, mengatakan bahwa aturan platform tersebut juga berlaku untuk konten yang dibuat menggunakan AI. Aturan itu melarang penyebaran misinformasi medis yang berpotensi menyebabkan dampak serius di dunia nyata.

Rumus video-video tersebut sederhana: menampilkan sosok yang meyakinkan mengenakan jas dokter putih, dengan suara sintetis yang tenang menyampaikan peringatan bahwa makanan, obat-obatan, atau kebiasaan sehari-hari tertentu diam-diam dapat membahayakan orang lanjut usia.

Setelah itu, mereka menawarkan apa yang diklaim sebagai solusi yang selama ini diabaikan.

Dalam sejumlah kasus, sosok dokter itu sepenuhnya fiktif. Dalam kasus lain, kecerdasan buatan meniru wajah, suara, atau identitas dokter sungguhan tanpa persetujuan mereka.

Kedua versi tersebut dapat membuat penonton percaya bahwa nasihat kesehatan yang disampaikan berasal dari tenaga medis yang berkualifikasi.

Sebanyak 29 kanal berbahasa Portugis yang menggunakan dokter hasil kecerdasan buatan terungkap dalam sebuah laporan oleh CTRL+Z, organisasi jurnalisme nirlaba asal Brasil.

BBC News Brasil meninjau kanal-kanal tersebut untuk mencari pola dan saluran lain yang serupa, termasuk judul-judul yang menggunakan format yang sama.

Kami menemukan Ferreira setelah mengumpulkan sekitar 27.000 komentar yang diposting pada video-video dari kanal YouTube tersebut dan menggunakan proses penyaringan untuk mengidentifikasi laporan mengenai perubahan perilaku yang disampaikan para pengguna.

Puluhan komentar dari orang-orang yang mengaku lanjut usia menyebut mereka mengikuti saran para dokter AI itu, baik dengan memulai pengobatan rumahan maupun menghentikan penggunaan obat yang sebelumnya diresepkan dokter.

Dalam salah satu komentar, seorang pengguna yang mengaku berusia 85 tahun mengatakan ia mengganti omeprazole, obat yang digunakan untuk mengurangi produksi asam lambung, dengan ubi jalar.

Dalam komentar lain, seorang perempuan berusia 77 tahun mengaku sudah tiga tahun tidak mengunjungi dokter dan berterima kasih kepada dokter AI tersebut atas nasihat terkait penyakit Alzheimer.

Dalam tutorial YouTube yang ditemukan BBC News Brasil, para pembuat konten mengajarkan cara membuat judul dan naskah yang memunculkan rasa takut serta kesan mendesak, agar penonton percaya mereka sedang menghadapi risiko kesehatan yang segera mengancam.

Para kreator memperoleh pendapatan baik dari jumlah tayangan YouTube maupun dari penjualan e-book dan produk yang dipromosikan melalui kanal mereka.

Salah satu mentor konten di Brasil, Jhef Coimbra, mengatakan para kreator bisa meraup penghasilan hingga 30.000 real Brasil (sekitar US$5.816) per bulan.

Dalam video lain, ia mendemonstrasikan cara menggunakan nada yang mengkhawatirkan. Ia menyarankan agar pembuat konten “benar-benar menekankan” unsur ketakutan, dengan memberikan contoh kalimat: “Sebelum Anda tidur, berhati-hatilah dengan ini. Jangan sampai Anda meninggal saat tidur.”

Setelah BBC News Brasil menghubunginya, akses publik ke salah satu video tersebut diblokir.

Dalam pernyataannya, Coimbra mengatakan kanal-kanal AI yang ditampilkan dalam videonya hanyalah contoh dan bukan miliknya sendiri.

Ia menegaskan bahwa yang diajarkannya adalah pembuatan konten informatif dengan bantuan AI, bukan konten yang dimaksudkan untuk menggantikan peran tenaga kesehatan profesional.

Ia juga mengatakan tidak pernah berniat mendorong pelanggaran terhadap aturan platform maupun standar lainnya.

BBC News Brasil menemukan sedikitnya lima kanal YouTube yang menggunakan gambar seorang dokter ternama Brasil tanpa izin untuk mempromosikan klaim kesehatan, yang bersifat menakut-nakuti serta pengobatan alami yang diklaim dapat menggantikan obat resep.

Dokter tersebut adalah Hélio Brasileiro, yang memiliki kanal YouTube aktif dengan hampir 300.000 pelanggan. Kini ia telah melaporkan video-video itu kepada YouTube dan mengajukan laporan polisi di São Paulo.

Selain keberatan atas penyalahgunaan identitasnya, Brasileiro mengatakan kekhawatiran utamanya adalah kemungkinan pemirsa lanjut usia menghentikan konsumsi obat setelah melihat wajahnya dikaitkan dengan nasihat tersebut.

“Siapa pun yang membuat konten seperti ini tidak memiliki empati,” katanya kepada BBC News Brasil.

“Mencoba mencari uang dengan cara seperti ini bisa menyebabkan dampak yang fatal bagi orang lanjut usia.”

Menurut Jaime Zaladek Gil, ahli gastroenterologi di Rumah Sakit Israelita Albert Einstein, São Paulo, risiko terbesar adalah ketika pasien mengonsumsi zat yang tidak efektif sehingga kondisi mereka dapat memburuk atau diagnosis penyakit justru tertunda.

“Yang dibutuhkan adalah pemeriksaan medis yang tepat dan jaringan diagnosis yang lebih baik, bukan sekadar video yang mengklaim dapat menyelesaikan semua masalah Anda,” ujarnya.

Menurut para pakar hukum di Brasil, para kreator yang secara palsu menyamar sebagai dokter berisiko menghadapi tuntutan pidana.

Google, pemilik YouTube, mengatakan aturan platform berbagi video tersebut juga berlaku untuk konten yang dibuat dengan kecerdasan buatan.

Aturan itu melarang misinformasi kesehatan yang berpotensi menimbulkan dampak serius di dunia nyata.

Perusahaan tersebut menyatakan bahwa pelabelan konten membantu penonton memahami ketika sebuah materi telah dimodifikasi atau dibuat menggunakan teknologi AI.

Setelah BBC News Brasil menghubungi perusahaan terkait pemetaan yang dilakukan oleh CTRL+Z, YouTube menghapus beberapa kanal terbesar yang masuk dalam sampel penelitian tersebut. Secara keseluruhan, kanal-kanal itu telah mengumpulkan sekitar 41 juta tayangan.

Sementara itu, Celi Ferreira mengatakan ia ingin lebih mampu mengenali konten yang ditemuinya di internet.

“Untuk orang seusia saya, saya merasa cukup mahir menggunakan komputer. Namun saya masih belum bisa membedakan mana yang dibuat oleh AI dan mana yang nyata,” ujarnya.