Meta, perusahaan induk Facebook yang baru bernama, Selasa mengumumkan bahwa mereka menutup penggunaan sistem pengenalan wajah di platform media sosialnya.
Pengumuman itu muncul setelah meningkatnya tekanan dari kelompok advokasi yang peduli tentang masalah privasi, tuduhan bias rasial dalam algoritme dan kekhawatiran tambahan terkait bagaimana teknologi kecerdasan buatan mengidentifikasi wajah orang dalam gambar. Itu juga terutama datang di tengah pengawasan baru terhadap raksasa teknologi dari anggota parlemen dan sekitarnya.
“Kita perlu mempertimbangkan kasus penggunaan positif untuk pengenalan wajah terhadap kekhawatiran masyarakat yang berkembang, terutama karena regulator belum memberikan aturan yang jelas,” Jerome Pesenti, wakil presiden kecerdasan buatan di Meta, mengatakan dalam sebuah blogpost perusahaan Selasa. “Dalam beberapa minggu mendatang, kami akan mematikan sistem Pengenalan Wajah di Facebook sebagai bagian dari langkah seluruh perusahaan untuk membatasi penggunaan pengenalan wajah dalam produk kami.”
“Sebagai bagian dari perubahan ini, orang-orang yang telah memilih pengaturan Pengenalan Wajah kami tidak akan lagi dikenali secara otomatis di foto dan video, dan kami akan menghapus template pengenalan wajah yang digunakan untuk mengidentifikasi mereka,” tambah Pesenti.
Pesenti mengatakan bahwa lebih dari sepertiga pengguna aktif harian Facebook telah memilih untuk menggunakan pengenalan wajah, dan penghapusannya “akan mengakibatkan penghapusan lebih dari satu miliar templat pengenalan wajah individu.”
Ke depan, Pesenti mengatakan Meta masih melihat teknologi pengenalan wajah sebagai alat yang dapat digunakan untuk orang yang perlu memverifikasi identitas mereka atau untuk mencegah penipuan atau peniruan identitas, dan mengatakan perusahaan akan terus mengerjakan teknologi ini sambil “melibatkan pakar luar.”
“Tetapi banyak contoh spesifik di mana pengenalan wajah dapat membantu perlu dipertimbangkan terhadap kekhawatiran yang berkembang tentang penggunaan teknologi ini secara keseluruhan,” tambah Pesenti. “Ada banyak kekhawatiran tentang tempat teknologi pengenalan wajah di masyarakat, dan regulator masih dalam proses memberikan seperangkat aturan yang jelas yang mengatur penggunaannya. Di tengah ketidakpastian yang sedang berlangsung ini, kami percaya bahwa membatasi penggunaan pengenalan wajah pada batas yang sempit set kasus penggunaan sesuai.”
Menghapus sistem pengenalan wajah Facebook akan menyebabkan sejumlah perubahan bagi pengguna, kata Pesenti, termasuk bahwa platform tidak akan lagi secara otomatis mengenali jika wajah orang muncul di foto atau video, dan orang tidak lagi dapat mengaktifkannya untuk mendapatkan saran. pada siapa untuk menandai di foto. Perusahaan juga bermaksud untuk menghapus template yang digunakan untuk mengidentifikasi pengguna yang telah menggunakan pengaturan tersebut.
Perubahan akan mempengaruhi fitur teks alt otomatis, yang membuat deskripsi gambar untuk orang buta dan tunanetra, tambah Pesenti, mengatakan deskripsi tidak akan lagi menyertakan nama orang yang dikenali dalam foto tetapi akan berfungsi normal sebaliknya.
Pengumuman itu muncul di tengah meningkatnya kontroversi untuk raksasa teknologi itu. Seorang whistleblower perusahaan, Frances Haugen, bersaksi di depan anggota parlemen hanya beberapa minggu yang lalu, menuduh pengabaian terang-terangan dari eksekutif Facebook ketika mereka mengetahui platform mereka dapat memiliki efek berbahaya pada demokrasi dan kesehatan mental anak muda.
Beberapa kelompok advokasi hak digital menyambut baik pengakuan Facebook atas jebakan teknologi pengenalan wajah, meskipun masih mendesak untuk larangan habis-habisan.
“Pengenalan wajah adalah salah satu teknologi paling berbahaya dan beracun secara politis yang pernah dibuat. Bahkan Facebook tahu itu,” Caitlin Seeley George, direktur kampanye untuk kelompok advokasi nirlaba Fight for the Future, mengatakan kepada ABC News dalam sebuah pernyataan tak lama setelah pengumuman itu dibuat. .
“Dari salah mengidentifikasi orang kulit hitam dan coklat (yang telah menyebabkan penangkapan yang salah) hingga membuat hidup kita tidak mungkin tanpa pengawasan terus-menerus, kita tidak dapat mempercayai pemerintah, penegak hukum, atau perusahaan swasta dengan pengawasan invasif semacam ini,” dia ditambahkan. “Dan bahkan ketika algoritme meningkat, pengenalan wajah hanya akan lebih berbahaya.”
Teknologi tersebut dapat memungkinkan pemerintah untuk menargetkan dan menindak minoritas agama atau pembangkang politik, membuat alat baru untuk menguntit atau pencurian identitas dan banyak lagi, Seeley George menambahkan, dengan sederhana mengatakan: “Itu harus dilarang.”
sumber : abcnews.go.com
related post : yahoo-menarik-diri-dari-cina
