Eksekutif Keamanan Kecerdasan Buatan OpenAI Mundur dari Jabatannya

Uli Febriarni
Selasa 21 Mei 2024, 10:46 WIB
OpenAI mengumumkan GPT-4o, Selasa (14/5/2024). (Sumber: OpenAI)

OpenAI mengumumkan GPT-4o, Selasa (14/5/2024). (Sumber: OpenAI)

Salah satu pendiri OpenAI, Ilya Sutskever, mengundurkan diri sebagai kepala ilmuwan di startup tersebut, pekan lalu.

Laporan The New York Times menuliskan, sejumlah pengamat 'menganggap remeh' kepergian Sutskever, dengan menyatakan bahwa Sutskever sudah berbulan-bulan tidak berada di kantor dan tampaknya ia pergi dengan ramah-tamah.

Namun, bersamaan muncul komentar kontroversial dari eksekutif lain yang mengundurkan diri, kemudian timbul pertanyaan di tengah publik tentang "apakah OpenAI -sebagai salah satu pengembang alat kecerdasan buatan terkemuka- terlalu lemah dalam hal keselamatan?"

Sebuah unggahan di akun X milik Jan Leike, yang juga mengundurkan diri dari OpenAI, menyinggung perihal budaya dan proses keselamatan tak lagi menjadi prioritas bagi produk yang cemerlang.

Diketahui, Leike sebelumnya bekerja mengawasi apa yang disebut tim superalignment perusahaan, bersama Sutskever. Keduanya bertugas meyakinkan pengguna bahwa produk perusahaan tidak menjadi ancaman bagi umat manusia.

Baca Juga: Startup Asal Surabaya Ini Mudahkan Pengusaha Daftar Mereknya Hanya Via Aplikasi

Baca Juga: BMW Group Mulai Menggunakan Robot Anjing untuk Pantau Proses Produksi

Sutskever mengatakan dalam catatan perpisahannya bahwa, dia yakin OpenAI akan membangun kecerdasan umum buatan -AI secanggih otak manusia— yang aman dan bermanfaat bagi umat manusia.

Tetapi Leike jauh lebih kritis. Menurutnya perusahaan harus lebih fokus pada keamanan, pemantauan, kesiapsiagaan, keselamatan, ketahanan terhadap musuh, keselarasan (super), kerahasiaan, dampak sosial, dan topik terkait.

Kemudian, ia juga mencuit bahwa masalah-masalah tersebut cukup sulit untuk diselesaikan, dan Leike khawatir kita tidak berada dalam jalur yang tepat untuk mencapainya.

"Selama beberapa bulan terakhir tim saya berlayar melawan angin. Terkadang kami kesulitan dalam hal komputasi dan semakin sulit menyelesaikan penelitian penting ini, " tulisnya, seperti dikutip dari akun X miliknya, Selasa (21/5/2024).

Membangun mesin yang lebih pintar dari manusia pada dasarnya adalah upaya yang berbahaya. Dan menurut Leike, hal ini berpotensi menjadi semakin menakutkan.

Leike (lewat cuitannya pula) memandang, selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan dibandingkan produk yang berkilau di perusahaan tersebut.

Leike mewakili banyak karyawan OpenAI yang mengutamakan keselamatan, menurut Vox.

Baca Juga: Bikin Video 3D Produkmu Hanya dengan Smartphone dan Aplikasi Doly

Baca Juga: Katalog Gim Gratis Youtube Playables Kini Diluncurkan ke Semua Pengguna

Leike jelas menganggap serius narasi internal perusahaan tentang upaya menuju kecerdasan umum buatan, yang juga dikenal sebagai AGI – sistem yang benar-benar memproses informasi seperti manusia, jauh melampaui kemampuan sempit seperti LLM.

"Kami sudah lama terlambat untuk bersikap serius mengenai implikasi AGI. Kita harus memprioritaskan persiapan menghadapinya sebaik mungkin. Hanya dengan begitu kita dapat memastikan AGI bermanfaat bagi seluruh umat manusia," imbuhnya.

Salah satu mantan pekerja, Daniel Kokotajlo, juga mengatakan bahwa ia secara bertahap kehilangan kepercayaan pada kepemimpinan OpenAI, dan kemampuan mereka untuk menangani AGI secara bertanggung jawab.

"Jadi saya berhenti," kata Daniel.

Belakangan diketahui, kekhawatiran-kekhawatiran itu yang menjadi alasan Sutskever mendorong dewan OpenAI untuk memecat Altman sebagai CEO, tahun lalu. Meskipun Sutskever kemudian mengatakan dia menyesali tindakan tersebut.

"Karyawan tersebut khawatir terhadap OpenAI yang dengan cepat mendorong teknologi yang semakin canggih, dan tentang Altman yang dilaporkan mengumpulkan uang dari rezim otokratis seperti Arab Saudi untuk membangun sistem AI," lanjut laporan Vox.

Baca Juga: Startup Sewa Kendaraan Listrik Zypp Electric sedang Bersiap Ekspansi ke Indonesia

Di tengah keramaian kabar mundurnya tim keselamatan AI, Sam Altman dan Presiden OpenAI, Greg Brockman, berusaha menghilangkan kekhawatiran publik. Keduanya secara bersamaan mengunggah pernyataan lewat akun X masing-masing, berikut bunyinya:

"Kami yakin bahwa kami dapat memberikan manfaat yang luar biasa dan berupaya memitigasi risiko-risiko serius; kami mengambil peran kami di sini dengan sangat serius dan dengan hati-hati mempertimbangkan masukan atas tindakan kami,""Kami yakin bahwa kami dapat memberikan manfaat yang luar biasa dan berupaya memitigasi risiko-risiko serius; kami mengambil peran kami di sini dengan sangat serius dan dengan hati-hati mempertimbangkan masukan atas tindakan kami," tulis keduanya.

Follow Berita Techverse.Asia di Google News
Berita Terkait Berita Terkini
Lifestyle25 Juni 2024, 16:52 WIB

Lazada x Namirah Logistic: Antarkan Paket sampai ke Pelosok Sumatera Utara

Kolaborasi Lazada dan Namirah Logistic Tingkatkan Akses eCommerce Hingga di Wilayah Terpencil.
Ilustrasi kurir Namirah Logistic mengantar paket ke daerah terpencil di Provinsi Sumatera Utara. (Sumber: dok. lazada)
Techno25 Juni 2024, 16:21 WIB

Upbit Optimistis Altcoin Tumbuh Positif Memasuki Semester Kedua 2024

Berbagai faktor dan tren yang diperkirakan akan mempengaruhi dinamika pasar ini.
Ilustrasi altcoin. (Sumber: coinpedia)
Techno25 Juni 2024, 16:04 WIB

Sudah Mau Beli Redmi Note 13? Tahan, Redmi Note 14 Kabarnya Meluncur September

Sejumlah bocoran menunjukkan Xiaomi Redmi Note 14 Series akan hadir ke pasar, dengan lebih dari tiga varian.
Redmi Note 13 Series. (Sumber: Xiaomi)
Techno25 Juni 2024, 15:48 WIB

Oppo Meluncurkan Reno 12 dan Reno 12 Pro untuk Pasar Eropa, Lihat Speknya

Seri Reno 12 akan diluncurkan di negara tambahan setelah debutnya di Eropa.
Oppo Reno 12 Series 5G. (Sumber: Oppo)
Startup25 Juni 2024, 15:09 WIB

Talenta Akselerator 2024 Resmi Bergulir, Taruh Perhatian pada Keberagaman dan Inklusivitas

Talenta Akselerator 2024: Transformasi Digital Indonesia Melalui Inovasi Startup.
Program Talenta Akselerator 2024 tahun kedua mulai bergulir kembali. (Sumber: istimewa)
Startup25 Juni 2024, 14:40 WIB

Atome Financial Raih Fasilitas Pinjaman Pertumbuhan, Dorong Ekspansi di Asia Tenggara

Fasilitas tersebut akan digunakan untuk mendorong ekspansi portofolio kredit yang menguntungkan dan produk baru.
Atome Financial.
Techno25 Juni 2024, 14:32 WIB

Vivo Bersiap Luncurkan X200 Pro

ivo X200 Pro muncul di database sebagai nomor model V2413
Vivo X100 (Sumber: Vivo)
Techno25 Juni 2024, 14:09 WIB

Gaya Hidup Sehat di Rumah Bukan Wacana Lagi, Aplikasi 'Fita' Ada di IndiHome TV

Layanan Fita di IndiHome TV memiliki sejumlah program kesehatan, meliputi latihan fisik, tips kesehatan, dan panduan nutrisi yang disusun oleh para ahli
aplikasi Fita (Sumber: Telkomsel)
Automotive24 Juni 2024, 18:42 WIB

VinFast Masuk Daftar Perusahaan Paling Berpengaruh Versi TIME100

VinFast masuk dalam daftar "Most Influential Companies" menurut TIME 100 edisi 2024.
VinFast masuk dalam kategori perusahaan disruptors versi majalah Time. (Sumber: istimewa)
Techno24 Juni 2024, 18:33 WIB

Linkedin Menghadirkan Sejumlah Fitur AI Generatif: Bantu Bikin Surat Lamaran Kerja

LinkedIn mengandalkan AI untuk melakukan pekerjaan mencari pekerjaan.
Linkedin tambahkan AI generatif untuk cari kerja atau kandidat yang cocok. (Sumber: Linkedin)