Meta menghentikan rencana untuk melatih AI menggunakan data pengguna di Eropa, karena tunduk pada tekanan peraturan

Meta punya dikonfirmasi bahwa mereka akan menghentikan rencana untuk memulai pelatihan sistem AI menggunakan data dari penggunanya di Uni Eropa dan Inggris

Langkah ini mengikuti penolakan dari Komisi Perlindungan Data Irlandia (DPC), regulator utama Meta di UE, yang bertindak atas nama beberapa otoritas perlindungan data di seluruh blok tersebut. Kantor Komisaris Informasi (ICO) Inggris juga diminta bahwa Meta menghentikan rencananya sampai dapat memuaskan kekhawatiran yang diajukannya.

“DPC menyambut baik keputusan Meta untuk menghentikan sementara rencananya untuk melatih model bahasa besarnya menggunakan konten publik yang dibagikan oleh orang dewasa di Facebook dan Instagram di seluruh UE/EEA,” kata DPC dalam sebuah pernyataan. penyataan Jumat. “Keputusan ini mengikuti keterlibatan intensif antara DPC dan Meta. DPC, bekerja sama dengan sesama otoritas perlindungan data UE, akan terus berhubungan dengan Meta mengenai masalah ini.”

Sedangkan Meta sudah memanfaatkan konten buatan pengguna untuk melatih AI-nya di pasar seperti AS, Eropa yang ketat Peraturan GDPR telah menciptakan hambatan bagi Meta — dan perusahaan lain — yang ingin meningkatkan sistem AI mereka, termasuk model bahasa besar dengan materi pelatihan yang dibuat pengguna.

Namun, Meta bulan lalu mulai memberi tahu pengguna tentang sebuah perubahan yang akan datang Terkait dengan kebijakan privasinya, kebijakan tersebut akan memberikan hak untuk menggunakan konten publik di Facebook dan Instagram untuk melatih AI-nya, termasuk konten dari komentar, interaksi dengan perusahaan, pembaruan status, foto, dan keterangan terkait. Perusahaan berpendapat bahwa hal ini perlu dilakukan untuk mencerminkan “beragamnya bahasa, geografi, dan referensi budaya masyarakat di Eropa.”

Perubahan ini akan mulai berlaku pada 26 Juni — 12 hari dari sekarang. Tetapi rencana didorong organisasi aktivis privasi nirlaba NOYB (“bukan urusan Anda”) untuk mengajukan 11 pengaduan ke negara-negara konstituen UE, dengan alasan bahwa Meta melanggar berbagai aspek GDPR. Salah satunya berkaitan dengan isu opt-in versus opt-out, berhadapan jika pemrosesan data pribadi dilakukan, pengguna harus dimintai izin terlebih dahulu daripada meminta tindakan untuk menolak.

Meta, pada bagiannya, mengandalkan ketentuan GDPR yang disebut “kepentingan sah” untuk menyatakan bahwa tindakannya mematuhi peraturan. Ini bukan pertama kalinya Meta menggunakan dasar hukum ini untuk pembelaan. setelah sebelumnya melakukannya untuk membenarkan pemrosesan iklan bertarget pengguna Eropa.

Tampaknya selalu ada kemungkinan bahwa regulator setidaknya akan menunda pelaksanaan perubahan yang direncanakan Meta, terutama mengingat betapa sulitnya perusahaan dalam membuat pengguna “memilih tidak ikut” dalam penggunaan data mereka. Perusahaan mengatakan bahwa mereka mengirimkan lebih dari 2 miliar pemberitahuan yang memberi tahu pengguna tentang perubahan yang akan datang, namun tidak seperti pesan publik penting lainnya yang terpampang di bagian atas feed pengguna, seperti meminta untuk keluar dan memilih, notifikasi ini muncul di samping notifikasi standar pengguna: ulang tahun teman, notifikasi tag foto, pengumuman grup, dan banyak lagi. Jadi, jika seseorang tidak memeriksa notifikasinya secara rutin, akan sangat mudah untuk melewatkannya.

Dan mereka yang melihat pemberitahuan tersebut tidak secara otomatis mengetahui bahwa ada cara untuk menolak atau memilih tidak ikut serta, karena hal ini hanya mengundang pengguna untuk mengeklik untuk mengetahui bagaimana Meta akan menggunakan informasi mereka. Tidak ada yang menunjukkan bahwa ada pilihan di sini.

Selain itu, pengguna secara teknis tidak dapat “memilih tidak ikut” dalam penggunaan data mereka. Sebaliknya, mereka harus mengisi formulir keberatan di mana mereka mengajukan argumen mengapa mereka tidak ingin data mereka diproses — sepenuhnya merupakan kebijaksanaan Meta apakah permintaan ini dipenuhi, meskipun perusahaan mengatakan akan menghormati masing-masing permintaan. meminta.

Meskipun formulir keberatan ditautkan dari notifikasi itu sendiri, siapa pun yang secara proaktif mencari formulir keberatan di pengaturan akun mereka akan kehilangan pekerjaan mereka.

Di situs Facebook, mereka harus mengklik terlebih dahulu foto Profil di kanan atas; memukul pengaturan & privasi; mengetuk pusat privasi; gulir ke bawah dan klik pada AI generatif di Meta bagian; gulir ke bawah lagi melewati sekumpulan tautan ke bagian berjudul lebih banyak sumber daya. Tautan pertama di bawah bagian ini disebut “Bagaimana Meta menggunakan informasi untuk model AI Generatif, ”dan mereka perlu membaca sekitar 1.100 kata sebelum mendapatkan tautan terpisah ke formulir “hak untuk menolak” perusahaan. Kisah serupa terjadi di aplikasi seluler Facebook.

Awal pekan ini, ketika ditanya mengapa proses ini mengharuskan pengguna untuk mengajukan keberatan dan bukannya ikut serta, manajer komunikasi kebijakan Meta Matt Pollard menunjuk TechCrunch ke sana postingan blog yang adayang berbunyi: “Kami percaya pada dasar hukum ini [“legitimate interests”] adalah keseimbangan yang paling tepat untuk memproses data publik pada skala yang diperlukan untuk melatih model AI, dengan tetap menghormati hak-hak masyarakat.”

Untuk menerjemahkan hal ini, menjadikan keikutsertaan ini kemungkinan besar tidak akan menghasilkan “skala” yang cukup dalam hal jumlah orang yang bersedia menawarkan data mereka. Jadi cara terbaik untuk mengatasi hal ini adalah dengan mengeluarkan satu notifikasi di antara notifikasi pengguna lainnya; menyembunyikan formulir keberatan di balik setengah lusin klik bagi mereka yang ingin “menyisih” secara mandiri; dan kemudian membuat mereka memberikan alasan atas keberatan mereka, daripada memberikan mereka pilihan untuk tidak ikut serta.

Dalam sebuah postingan blog yang diperbarui Pada hari Jumat, direktur keterlibatan global Meta untuk kebijakan privasi Stefano Fratta mengatakan bahwa pihaknya “kecewa” dengan permintaan yang diterima dari DPC.

“Ini adalah langkah mundur bagi inovasi Eropa, persaingan dalam pengembangan AI, dan penundaan lebih lanjut dalam memberikan manfaat AI kepada masyarakat di Eropa,” tulis Fratta. “Kami tetap yakin bahwa pendekatan kami mematuhi hukum dan peraturan Eropa. Pelatihan AI tidak hanya ada pada layanan kami, dan kami lebih transparan dibandingkan banyak mitra industri kami.”

Perlombaan senjata AI

Semua ini bukanlah hal baru, dan Meta sudah ada perlombaan senjata AI yang bersinar a sorotan besar pada gudang data yang luas Teknologi Besar menguasai kita semua.

Awal tahun ini, Reddit mengungkapkan bahwa itu dikontrak untuk dibuat sekitar $200 juta di tahun-tahun mendatang untuk melisensikan datanya kepada perusahaan seperti OpenAI pembuat ChatGPT Dan Google. Dan perusahaan terakhir sudah melakukannya menghadapi denda yang sangat besar karena bersandar pada konten berita berhak cipta untuk melatih model AI generatifnya.

Namun upaya-upaya ini juga menyoroti sejauh mana perusahaan akan berupaya untuk memastikan bahwa mereka dapat memanfaatkan data ini sesuai dengan batasan undang-undang yang ada; “memilih ikut serta” jarang ada dalam agenda, dan proses untuk tidak ikut serta sering kali sangat sulit. Baru bulan lalu, seseorang melihat kata-kata yang meragukan dalam kebijakan privasi Slack yang ada yang menyatakan bahwa mereka dapat memanfaatkan data pengguna untuk melatih sistem AI-nya, dan pengguna hanya dapat memilih untuk tidak ikut serta dengan mengirim email ke perusahaan tersebut.

Dan tahun lalu, Google akhirnya memberi jalan kepada penerbit online untuk mengecualikan situs web mereka dari pelatihan modelnya dengan memungkinkan mereka memasukkan sepotong kode ke situs mereka. OpenAI, pada bagiannya, adalah membangun alat khusus untuk memungkinkan pembuat konten memilih tidak mengikuti pelatihan kecerdasan AI generatifnya; ini harus siap pada tahun 2025.

Meskipun upaya Meta untuk melatih AI-nya pada konten publik pengguna di Eropa masih terhenti untuk saat ini, kemungkinan besar Meta akan kembali muncul dalam bentuk lain setelah berkonsultasi dengan DPC dan ICO — semoga dengan proses izin pengguna yang berbeda.

“Untuk mendapatkan hasil maksimal dari AI generatif dan peluang yang dibawanya, sangat penting bagi masyarakat untuk percaya bahwa hak privasi mereka akan dihormati sejak awal,” kata Stephen Almond, direktur eksekutif ICO untuk risiko regulasi, dalam sebuah pernyataan. A pernyataan hari Jumat. “Kami akan terus memantau pengembang besar AI generatif, termasuk Meta, untuk meninjau perlindungan yang telah mereka terapkan dan memastikan hak informasi pengguna di Inggris terlindungi.”