Facebook Punya Rosetta yang Bisa Identifikasi Meme Ofensif

Suara.com - Moderator Facebook tidak mungkin melihat setiap gambar yang diposting di platform besar, jadi platform media sosial ini sedang membangun AI (Artificial Intelligence/kecerdasan buatan) untuk membantu mereka. Dalam posting blog resminya, Facebook menjelaskan sistem tersebut bernama Rosetta, yang menggunakan pembelajaran mesin untuk mengidentifikasi teks dalam gambar dan video dan kemudian mentranskripsikannya menjadi sesuatu yang dapat dibaca mesin.

Secara khusus, Facebook menemukan alat ini bermanfaat untuk menyalin teks pada meme.
Alat transkripsi teks bukanlah hal yang baru, tetapi Facebook menghadapi tantangan yang berbeda karena ukuran platformnya dan keragaman gambar yang dilihatnya.

Rosetta mampu mengekstraksi teks dari 1 miliar gambar dan frame video per hari di Facebook dan Instagram.

Saat ini, tidak sepenuhnya jelas apa yang dilakukan Facebook dengan data tersebut. Namun, kehadiran Rosetta berguna untuk fitur dasar seperti penelusuran foto dan pembaca layar.

Tampaknya, kehadiran Rosetta memperlihatkan Facebook yang punya rencana besar di baliknya. Seperti mencari tahu apa yang akan menarik untuk dimasukkan ke dalam News Feed Anda, dan yang lebih penting, mencari tahu meme mana yang hanya meme konyol dan mana yang menyebarkan ujaran kebencian atau komentar ofensif lainnya.

Facebook mengatakan, ekstraksi teks dan pembelajaran mesin sedang digunakan untuk secara otomatis mengidentifikasi konten yang melanggar kebijakan ujaran kebencian dalam berbagai bahasa. Mengingat masalah moderasi perusahaan yang terkenal, sistem yang berfungsi dengan baik dapat secara otomatis menandai gambar yang berpotensi bermasalah, sehingga hal ini menjadi bantuan yang nyata. [The Verge]