Sistem yang didukung AI akan segera bertanggung jawab untuk mengevaluasi potensi bahaya dan risiko privasi hingga 90% dari pembaruan yang dilakukan pada aplikasi Meta seperti Instagram dan WhatsApp, menurut dokumen internal yang dilaporkan dilihat oleh NPR.

NPR mengatakan perjanjian tahun 2012 antara Facebook (sekarang Meta) dan Komisi Perdagangan Federal mengharuskan perusahaan untuk melakukan tinjauan privasi terhadap produknya, mengevaluasi risiko dari setiap pembaruan potensial. Hingga saat ini, tinjauan tersebut sebagian besar dilakukan oleh evaluator manusia.

Di bawah sistem baru tersebut, Meta dilaporkan mengatakan tim produk akan diminta untuk mengisi kuesioner tentang pekerjaan mereka, kemudian biasanya akan menerima "keputusan instan" dengan risiko yang diidentifikasi oleh AI, bersama dengan persyaratan bahwa pembaruan atau fitur harus dipenuhi sebelum diluncurkan.

Pendekatan yang berpusat pada AI ini akan memungkinkan Meta untuk memperbarui produknya lebih cepat, tetapi seorang mantan eksekutif mengatakan kepada NPR bahwa hal itu juga menciptakan "risiko yang lebih tinggi," karena "eksternalitas negatif dari perubahan produk cenderung tidak dapat dicegah sebelum mulai menyebabkan masalah di dunia." Dalam sebuah pernyataan, juru bicara Meta mengatakan perusahaan telah "menginvestasikan lebih dari $8 miliar dalam program privasi kami" dan berkomitmen untuk "memberikan produk inovatif bagi masyarakat sambil memenuhi kewajiban regulasi."

"Seiring dengan berkembangnya risiko dan matangnya program kami, kami meningkatkan proses kami untuk mengidentifikasi risiko dengan lebih baik, menyederhanakan pengambilan keputusan, dan meningkatkan pengalaman masyarakat," kata juru bicara tersebut. "Kami memanfaatkan teknologi untuk menambahkan konsistensi dan prediktabilitas pada keputusan berisiko rendah dan mengandalkan keahlian manusia untuk penilaian dan pengawasan yang ketat terhadap isu-isu baru atau kompleks."

Posting ini telah diperbarui dengan kutipan tambahan dari pernyataan Meta.