TikTok Pangkas Moderator Manusia, Andalkan AI untuk Moderasi Konten

TikTok dilaporkan sedang dalam proses pergeseran besar dalam strategi moderasi kontennya, dengan mengurangi jumlah moderator manusia dan semakin mengandalkan kecerdasan buatan (AI).

Pemangkasan ini telah terjadi di beberapa negara, termasuk Jerman, Belanda, dan Malaysia. Langkah ini diklaim sebagai upaya untuk meningkatkan efisiensi dan mengurangi beban mental para moderator manusia yang terpapar konten meresahkan.

Menurut laporan The Guardian, TikTok berencana membubarkan tim moderasi di Berlin, Jerman, dan menggantinya dengan sistem AI serta staf alih daya.

Perusahaan mengklaim bahwa saat ini lebih dari 85% konten yang melanggar pedoman komunitas sudah terdeteksi dan 99% di antaranya dihapus secara proaktif oleh sistem otomatis sebelum dilaporkan pengguna.

Kekhawatiran Pekerja dan Keamanan Siber

Meskipun demikian, keputusan ini memicu kekhawatiran dari serikat pekerja dan pakar keamanan siber.

Mereka berpendapat bahwa AI mungkin tidak mampu memahami konten yang bernuansa dan kompleks, seperti misinformasi, perundungan, atau konteks budaya spesifik.

Ketergantungan berlebihan pada AI dikhawatirkan dapat meningkatkan risiko penyebaran konten berbahaya di platform tersebut.

TikTok menanggapi kekhawatiran tersebut dengan menegaskan bahwa AI digunakan untuk mendukung, bukan menggantikan sepenuhnya, peran manusia.

Perusahaan juga mengklaim telah menginvestasikan sekitar USD2 miliar setiap tahun secara global untuk keamanan dan kepercayaan.

Penggunaan AI disebut telah membantu mengurangi paparan konten grafis bagi moderator manusia hingga 60% dalam setahun terakhir.