Instagram Melindungi Pengguna Remaja dari “Sextortion”

Ilustrasi Pengguna Instagtam, Foto: Theverge

Meta, perusahaan induk dari platform media sosial terkenal Instagram, telah mengumumkan pengembangan alat baru yang bertujuan untuk melindungi pengguna remaja dari penipuan “sextortion”. Ini merupakan langkah responsif atas keprihatinan politisi AS yang menyebut platform seperti Instagram sebagai faktor yang merusak kesehatan mental anak muda.

Melalui pernyataan resminya, Instagram mengungkapkan bahwa mereka sedang menguji alat berbasis kecerdasan buatan (AI) yang disebut “perlindungan ketelanjangan”. Alat ini dirancang untuk secara otomatis mendeteksi dan mengaburkan gambar-gambar ketelanjangan yang dikirimkan kepada pengguna di bawah umur melalui sistem pesan aplikasi Instagram. Dengan cara ini, penerima tidak akan terpapar konten intim yang tidak diinginkan dan memiliki pilihan untuk melihat gambar tersebut atau tidak.

Selain mengaburkan gambar, Instagram juga akan secara otomatis mengirimkan pesan saran dan tip keselamatan kepada siapa pun yang mengirim atau menerima pesan “sextortion” tersebut. Ini bertujuan untuk memberikan pengguna informasi dan saran tentang bagaimana menghadapi situasi tersebut dengan aman.

Langkah ini merupakan bagian dari komitmen Meta untuk melindungi pengguna, khususnya remaja, dari potensi bahaya dan penipuan di platform-platformnya. Pada bulan Januari, Meta telah mengumumkan sejumlah langkah-langkah untuk melindungi anak-anak di bawah usia 18 tahun, terutama setelah puluhan negara bagian AS meluncurkan tindakan hukum terhadap perusahaan tersebut atas tuduhan bahwa mereka mengambil keuntungan dari penderitaan anak-anak.

Alat terbaru yang dikembangkan oleh Meta merupakan hasil dari pekerjaan jangka panjang perusahaan dalam upaya membantu melindungi generasi muda dari kontak yang tidak diinginkan atau berpotensi membahayakan di dunia maya. Hal ini mencerminkan komitmen Meta untuk menjaga keamanan dan kesejahteraan pengguna mereka, terutama mereka yang rentan seperti remaja.

Meskipun alat ini merupakan langkah positif, Meta juga dihadapkan pada tantangan untuk memastikan efektivitas dan kesesuaian alat tersebut dengan kebutuhan pengguna. Selain itu, pengguna juga perlu diberikan pemahaman yang cukup tentang cara kerja alat ini dan bagaimana mereka dapat menggunakan fitur-fitur keamanan yang telah disediakan oleh Instagram untuk melindungi diri mereka sendiri.

Selain menggunakan alat-alat teknologi seperti alat “perlindungan ketelanjangan” ini, Meta juga perlu terus meningkatkan kebijakan dan prosedur penggunaan platform mereka untuk memastikan bahwa lingkungan online yang mereka ciptakan aman dan positif bagi semua pengguna, terutama anak-anak dan remaja.

Secara keseluruhan, langkah-langkah seperti ini menunjukkan pentingnya perusahaan teknologi untuk mengambil tanggung jawab atas dampak sosial dan psikologis dari platform mereka, serta komitmen mereka untuk memberikan pengalaman online yang aman dan bermanfaat bagi semua pengguna, khususnya generasi muda.