Slack Dituduh Gunakan Data Pengguna untuk Melatih Machine Learning Mereka

Slack dituding melatih model machine learning mereka menggunakan pesan pengguna, file, dan konten lainnya tanpa izin eksplisit. Pelatihan ini bersifat opt-out, artinya data pribadi pengguna akan diambil secara default.

"Lebih buruk lagi, Anda harus meminta admin Slack organisasi Anda (sumber daya manusia, TI, dll.) untuk mengirim email ke perusahaan tersebut untuk memintanya berhenti," demikian diungkap Engadget dalam laporan mereka, yang diakses Senin (20/5/2024).

Seorang eksekutif di DuckBill Group, Corey Quinn, melihat kebijakan tersebut dalam uraian Prinsip Privasi Slack dan mempostingnya di X.

Ada bagian dari keterangan tersebut berbunyi "Untuk mengembangkan model AI/ML, sistem kami menganalisis Data Pelanggan (misalnya pesan, konten, dan file ) yang dikirimkan ke Slack serta Informasi Lainnya (termasuk informasi penggunaan) sebagaimana ditentukan dalam Kebijakan Privasi kami dan dalam perjanjian pelanggan Anda."

Menanggapi kekhawatiran atas praktik tersebut, Slack menerbitkan postingan blog untuk mengklarifikasi bagaimana data pelanggannya digunakan.

Pihak Slack menilai, keterangan yang telah disebarkan itu dapat menimbulkan kesalahpahaman tentang cara mereka menggunakan data pelanggan di Slack.

Menurut perusahaan, data pelanggan tidak digunakan untuk melatih produk AI generatif Slack –yang mengandalkan LLM pihak ketiga–, tetapi dimasukkan ke model pembelajaran mesin untuk produk 'seperti rekomendasi saluran dan emoji serta hasil pencarian.'

Dalam blog itu, dituliskan bahwa data tersebut mungkin mencakup hal-hal seperti stempel waktu pesan dan jumlah interaksi antar pengguna.

"Kami menghargai masukan yang diberikan, dan saat kami melihat bahasa di situs web kami, kami menyadari bahwa masukan tersebut benar. Kami seharusnya bisa menjelaskan pendekatan kami dengan lebih baik, terutama mengenai perbedaan cara data digunakan untuk model pembelajaran mesin (ML) tradisional dan AI generatif," kata perusahaan berusaha rendah hati atas keriuhan yang muncul.

Slack menggunakan teknik pembelajaran mesin yang melindungi privasi dan berstandar industri, untuk hal-hal seperti rekomendasi saluran dan emoji serta hasil pencarian, ungkap keterangan resmi itu.

"Kami tidak membuat atau melatih model ini sedemikian rupa sehingga model tersebut dapat mempelajari, menghafal, atau mereproduksi data pelanggan apa pun. Meskipun pelanggan dapat memilih untuk tidak ikut serta, model ini menjadikan pengalaman produk lebih baik bagi pengguna tanpa risiko data mereka dibagikan," jelas tim Slack.

Model ML tradisional Slack menggunakan data agregat yang tidak teridentifikasi dan tidak mengakses konten pesan di DM, saluran pribadi, atau saluran publik.

Produk AI generatif tambahan dari Slack, Slack AI, memanfaatkan LLM pihak ketiga.

"Tidak ada data pelanggan yang digunakan untuk melatih model LLM. Dan kami tidak mengembangkan LLM atau model generatif lainnya menggunakan data pelanggan," tegas mereka.

Selain itu, perusahaan memastikan data pengguna tidak bocor di seluruh ruang kerja.

Tim menambahkan, jika pengguna ingin mengecualikan data pelanggan dari membantu melatih model ML Slack, mereka dapat memilih untuk tidak ikut serta. Slack menyatakan memiliki perlindungan yang kuat untuk melatih model ML ini dengan aman, sehingga mereka dapat memberikan pengalaman produk terbaik, ruang kerja tidak diikutsertakan secara default.