OpenAI Telah Membentuk Komite Keselamatan dan Keamanan yang Baru

Uli Febriarni
Rabu 29 Mei 2024, 15:53 WIB
(ilustrasi) Tim keamanan baru OpenAI dipimpin oleh anggota dewan, termasuk CEO Sam Altman (Sumber: Shutterstock via CX Today)

(ilustrasi) Tim keamanan baru OpenAI dipimpin oleh anggota dewan, termasuk CEO Sam Altman (Sumber: Shutterstock via CX Today)

OpenAI telah membentuk Komite Keselamatan dan Keamanan kecerdasan buatan (AI) mereka yang baru.

Langkah tersebut diambil OpenAI, berselang kurang dua pekan setelah perusahaan membubarkan tim yang bertugas melindungi umat manusia dari ancaman nyata AI

Versi terbaru dari kelompok yang bertanggung jawab atas 'pagar pengaman' OpenAI ini akan mencakup dua anggota dewan dan sang CEO Sam Altman. 

Engadget menyebut, pilihan ini kemudian menimbulkan pertanyaan, tentang apakah langkah ini hanya sekedar teater pengawasan mandiri di tengah perlombaan yang sangat ketat, untuk mendapatkan keuntungan dan dominasi bersama mitranya Microsoft.

Baca Juga: Pajak.io Menawarkan Solusi Pembayaran Pajak untuk Korporasi, Terintegrasi dengan DJP

Baca Juga: Pizza Marzano Hadirkan Menu Baru 2024, Ini Daftar Makan dan Minumnya

Komite Keselamatan dan Keamanan, yang dibentuk oleh dewan OpenAI tersebut akan dipimpin oleh anggota dewan Bret Taylor (Ketua), Nicole Seligman, Adam D'Angelo dan Sam Altman (CEO). Tim baru ini mengikuti pengunduran diri salah satu pendiri Ilya Sutskever dan Jan Leike, yang membuat banyak orang terkejut. Mantan 'Tim Superalignment' mereka baru dibentuk Juli 2023.

"OpenAI juga menarik kembali perjanjian 'tidak meremehkan' yang diwajibkan oleh para eksekutif yang mengundurkan diri, dan mengubah nadanya dengan mengatakan bahwa mereka tidak akan menegakkan perjanjian tersebut. Sebelumnya, perusahaan memaksa karyawan yang keluar untuk memilih: dapat berbicara menentang perusahaan atau mempertahankan ekuitas yang mereka peroleh," tulis laporan itu, seperti diakses Rabu (29/5/2024).

Komite Keselamatan dan Keamanan berencana untuk 'mengevaluasi dan mengembangkan lebih lanjut' proses dan pengamanan perusahaan selama 90 hari ke depan. Setelah itu, kelompok akan membagikan rekomendasinya kepada seluruh pengurus. Setelah seluruh tim kepemimpinan meninjau kesimpulannya, mereka akan secara terbuka membagikan pembaruan mengenai rekomendasi yang diadopsi dengan cara yang konsisten dengan keselamatan dan keamanan.

Sementara itu, OpenAI juga mengonfirmasi perusahaan tersebut saat ini sedang melatih model berikutnya, yang akan menggantikan GPT-4.

Baca Juga: ASUS ROG Rilis 2 Monitor Gaming: XG27AQDMG dan XG27UCG

Sebelum ini diberitakan banyak media, salah satu pendiri OpenAI, Ilya Sutskever, mengundurkan diri sebagai kepala ilmuwan di startup tersebut, pekan lalu.

Laporan The New York Times menuliskan, di momen para ilmuwan AI mundur, timbul pertanyaan tentang "apakah OpenAI -sebagai salah satu pengembang alat kecerdasan buatan terkemuka- terlalu lemah dalam hal keselamatan?"

Sebuah unggahan di akun X milik Jan Leike, yang juga mengundurkan diri dari OpenAI, menyinggung perihal budaya dan proses keselamatan telah menjadi prioritas bagi produk yang cemerlang.

Diketahui, Leike sebelumnya bekerja mengawasi apa yang disebut tim superalignment perusahaan, bersama Sutskever. Keduanya bertugas meyakinkan pengguna bahwa produk perusahaan tidak menjadi ancaman bagi umat manusia.

Sutskever mengatakan dalam catatan perpisahannya bahwa, dia yakin OpenAI akan membangun kecerdasan umum buatan -AI secanggih otak manusia— yang aman dan bermanfaat bagi umat manusia.

Tetapi Leike jauh lebih kritis. Menurutnya perusahaan harus lebih fokus pada keamanan, pemantauan, kesiapsiagaan, keselamatan, ketahanan terhadap musuh, keselarasan (super), kerahasiaan, dampak sosial, dan topik terkait.

Baca Juga: Tiga Merek Mobil Jepang Berkolaborasi Buat Mesin Netral Karbon

Kemudian, ia juga mencuit bahwa masalah-masalah tersebut cukup sulit untuk diselesaikan, dan Leike khawatir kita tidak berada dalam jalur yang tepat untuk mencapainya.

"Selama beberapa bulan terakhir tim saya berlayar melawan angin. Terkadang kami kesulitan dalam hal komputasi dan semakin sulit menyelesaikan penelitian penting ini, " tulisnya.

Membangun mesin yang lebih pintar dari manusia pada dasarnya adalah upaya yang berbahaya. Dan menurut Leike, hal ini berpotensi menjadi semakin menakutkan.

Leike (lewat cuitannya pula) memandang, selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan dibandingkan produk yang berkilau di perusahaan tersebut.

Leike jelas menganggap serius narasi internal perusahaan tentang upaya menuju kecerdasan umum buatan, yang juga dikenal sebagai AGI (sistem yang benar-benar memproses informasi seperti manusia, jauh melampaui kemampuan sempit seperti LLM).

"Kami sudah lama terlambat untuk bersikap serius mengenai implikasi AGI. Kita harus memprioritaskan persiapan menghadapinya sebaik mungkin. Hanya dengan begitu kita dapat memastikan AGI bermanfaat bagi seluruh umat manusia," imbuhnya, ditulis oleh laman Vox.

Follow Berita Techverse.Asia di Google News
Berita Terkait
Startup

OpenAI Berencana Buka Kantor di Tokyo

Senin 01 April 2024, 17:04 WIB
OpenAI Berencana Buka Kantor di Tokyo
Berita Terkini
Travel15 Juni 2024, 19:38 WIB

Mengunjungi Antara Heritage Center, Wisata Sambil Belajar Sejarah Jurnalistik Indonesia

Antara Heritage Center dapat dikunjungi tanpa dipungut biaya
Menara gedung Antara Heritage Center, memiliki jam raksasa yang akan berbunyi kala pergantian waktu tiap satu jam (Sumber: Antara)
Lifestyle15 Juni 2024, 19:11 WIB

Pakaian dan Perhiasan Milik Mendiang Vivienne Westwood Dilelang

Agenda lelang dilakukan dalam dua jadwal: penjualan langsung pada 25 Juni 2024 dan lelang online yang berlangsung pada 14-28 Juni 2024
Beberapa koleksi Vivienne Westwood dalam lelang Christie's di London (Sumber: @christiesinc)
Techno15 Juni 2024, 17:20 WIB

Indosat Ooredoo Hutchison Bakal Berubah dari Perusahaan Telco Menjadi AI Native TechCo

Indosat Ooredoo Hutchison dan Google Cloud memperkuat kerja sama strategis, untuk menyiapkan pengalaman digital berbasis AI di seluruh Indonesia
Ilustrasi AI (Sumber: freepik)
Techno15 Juni 2024, 16:14 WIB

Samsung dan Tokoh Inside Out 2 Tampilkan Ilustrasi Emosi Sewaktu Kita Mencuci Baju

Kolaborasi yang dibarengi dengan menyambut perilisan Inside Out 2 ini, menunjukkan bagaimana fitur laundry terbaru Samsung membantu menghilangkan stres saat mencuci
Potongan video kampanye mencuci tanpa stress, kolaborasi Samsung, Disney, Pixar, bersama tokoh Inside Out 2 (Sumber: Samsung)
Hobby14 Juni 2024, 18:50 WIB

Dunia Games Kini Punya Fitur Live Streaming

Telkomsel meluncurkan platform Dunia Games versi terbaru yang kini dilengkapi dengan fitur Live Streaming.
Fitur Live Streaming di Dunia Games (Sumber: Dunia Games)
Techno14 Juni 2024, 18:20 WIB

Simak Spesifikasi HONOR 200 Lite, Ponsel dengan Tiga Kamera Belakang dan Layar Responsif Cahaya

HONOR 200 Lite dirilis bersamaan dengan dua produk lain dari jajaran yang sama, HONOR 200 dan HONOR 200 Pro.
HONOR 200 Lite 5G (Sumber: HONOR)
Techno14 Juni 2024, 17:52 WIB

Kamera HONOR 200 Series Diklaim Mampu Hasilkan Foto Potret Berkualitas Studio

Kualitas kamera HONOR Seri 200 dibangun oleh tim HONOR berkolaborasi dengan Studio Harcourt, rumah fotografi potret wajah legendaris Paris.
HONOR Seri 200 telah berkolaborasi dengan Studio Harcourt, rumah fotografi potret wajah legendaris Paris (Sumber: HONOR)
Lifestyle14 Juni 2024, 16:50 WIB

Simak Kelebihan Kirim Paket dengan Lion Parcel COD Ongkir

COD Ongkir membantu para online seller mengelola urusan logistik bisnisnya.
Lion Parcel terus promosikan layanan COD Ongkir (Sumber: @lionparcelid)
Automotive14 Juni 2024, 16:31 WIB

AITO Luncurkan Model Mobil M7 Ultra: Dijadwalkan Mengaspal ke Indonesia Tahun Depan dengan Merek Seres

Diperkirakan, AITO M7 Ultra akan diboyong ke Indonesia dengan membawa bendera merek Seres.
AITO M7 Ultra (Sumber: AITO)
Hobby14 Juni 2024, 16:10 WIB

Call of Duty: Black Ops 6 akan Hadir pada 25 Oktober 2024

Kampanye utama diatur setelah Perang Dingin di awal tahun 90an dan multipemain diluncurkan dengan 16 peta baru.
Call of Duty: Black Ops 6 (Sumber: null)