Ratusan Akun di TikTok Kumpulkan Miliaran Tampilan dengan Konten Buatan AI

HALLONEWS.COM-Para peneliti mengatakan mereka telah mengungkap 354 akun yang berfokus pada Artificial Intelligence (AI) atau kecerdasan buatan yang mendorong 43.000 posting yang dibuat dengan alat AI generatif dan mengumpulkan 4,5 miliar tampilan selama periode sebulan.

Menurut AI Forensics, lembaga nirlaba yang berkantor pusat di Paris, beberapa akun ini berupaya mengakali algoritma TikTok, yang memutuskan konten apa yang dilihat pengguna dengan mengeposkan konten dalam jumlah besar dengan harapan konten tersebut menjadi viral.

Satu akun diposting hingga 70 kali sehari atau pada waktu yang sama setiap hari, sebuah indikasi akun otomatis, dan sebagian besar akun diluncurkan pada awal tahun.

Bulan lalu, TikTok mengungkapkan setidaknya terdapat 1,3 miliar unggahan yang dihasilkan AI di platformnya. Lebih dari 100 juta konten diunggah ke platform tersebut setiap hari, menunjukkan bahwa materi AI berlabel hanya sebagian kecil dari katalog TikTok. TikTok juga memberi pengguna opsi untuk mengurangi jumlah konten AI yang mereka lihat .

Dari akun-akun yang paling sering mengunggah konten, separuhnya berfokus pada konten yang berkaitan dengan tubuh perempuan. “Perempuan AI ini selalu memiliki daya tarik stereotip, dengan pakaian atau belahan dada yang bernuansa seksual,” demikian menurut laporan tersebut seperti dikutip dari The Guardian, Kamis (4/12/2025).

AI Forensics menemukan bahwa akun-akun tersebut tidak mencantumkan label pada separuh konten yang mereka unggah, dan kurang dari 2% mencantumkan label TikTok untuk konten AI, yang menurut lembaga nirlaba tersebut dapat meningkatkan potensi penipuan. Peneliti menambahkan bahwa akun-akun tersebut terkadang lolos dari moderasi TikTok selama berbulan-bulan, meskipun mengunggah konten yang dilarang oleh ketentuan layanannya.

Puluhan akun yang terungkap dalam penelitian tersebut kemudian telah dihapus, kata peneliti, yang mengindikasikan bahwa beberapa telah dihapus oleh moderator.

Beberapa konten berupa segmen berita siaran palsu dengan narasi anti-imigran dan materi yang mengeksploitasi tubuh perempuan, termasuk anak perempuan yang tampak di bawah umur. Kategori tubuh perempuan menyumbang setengah dari 10 akun paling aktif, menurut AI Forensics, sementara beberapa berita palsu menampilkan merek-merek penyiaran ternama seperti Sky News dan ABC.

Beberapa unggahan telah dihapus oleh TikTok setelah dirujuk ke platform tersebut oleh Guardian.

TikTok menyatakan klaim dalam laporan tersebut “tidak berdasar” dan para peneliti telah menyorotinya sebagai masalah yang memengaruhi berbagai platform. Pada bulan Agustus, The Guardian mengungkapkan bahwa hampir satu dari 10 kanal YouTube dengan pertumbuhan tercepat di dunia hanya menampilkan konten yang dihasilkan oleh AI .

“Di TikTok, kami menghapus AIGC [konten buatan kecerdasan buatan] yang berbahaya, memblokir pembuatan ratusan juta akun bot, berinvestasi dalam teknologi pelabelan AI terdepan di industri, dan memberdayakan orang-orang dengan alat dan edukasi untuk mengendalikan bagaimana mereka menikmati konten ini di platform kami,” ujar juru bicara TikTok.

Akun-akun terpopuler yang disorot oleh AI Forensics berdasarkan jumlah penayangan telah mengunggah “slop”, istilah untuk konten buatan AI yang tidak masuk akal, aneh, dan dirancang untuk memenuhi linimasa media sosial orang-orang, seperti hewan yang berkompetisi dalam kontes selam Olimpiade atau bayi yang bisa berbicara . Para peneliti mengakui bahwa beberapa konten slop tersebut “menghibur” dan “lucu”.

Pedoman TikTok melarang penggunaan AI untuk menggambarkan sumber kredibel palsu, rupa orang di bawah usia 18 tahun, atau rupa orang dewasa yang bukan tokoh publik.

“Penelitian terhadap [akun otomatis] ini menunjukkan bagaimana konten AI kini terintegrasi ke dalam platform dan ekosistem viralitas yang lebih besar,” kata para peneliti.

“Batas yang kabur antara konten asli manusia dan konten buatan AI sintetis di platform ini menandakan peralihan baru menuju lebih banyak konten buatan AI di umpan pengguna,” katanya.

Para peneliti menganalisis data dari pertengahan Agustus hingga pertengahan September. Beberapa konten berupaya menghasilkan uang dari pengguna, termasuk mempromosikan suplemen kesehatan melalui influencer palsu, mempromosikan alat yang membantu membuat konten AI viral, dan mencari sponsor untuk postingan.

AI Forensics, yang juga menyoroti prevalensi konten AI di Instagram, mengatakan pihaknya menyambut baik keputusan TikTok untuk mengizinkan pengguna membatasi jumlah konten AI yang mereka lihat, tetapi pelabelan harus ditingkatkan.

“Mengingat besarnya kegagalan struktural dan signifikan dalam mengidentifikasi konten tersebut, kami tetap skeptis terhadap keberhasilan fitur ini,” ujar mereka.

Para peneliti menambahkan bahwa TikTok harus mempertimbangkan untuk membuat fitur khusus AI di aplikasinya guna memisahkan konten buatan AI dari unggahan buatan manusia.

“Platform harus melampaui label ‘konten AI’ yang lemah atau opsional dan mempertimbangkan untuk memisahkan konten generatif dari materi buatan manusia, atau menemukan sistem yang adil yang menegakkan pelabelan konten AI yang sistematis dan jelas,” ujar mereka. (ren)