Dramatis! Eks Eksekutif Keamanan OpenAI Ternyata Berlabuh ke Anthropic

Mantan eksekutif OpenAI, Jan Leike, ternyata melabuhkan ilmu dan loyalitas yang ia miliki selanjutkan ke Anthropic.

Anthropic merupakan perusahaan yang menghadirkan platform kecerdasan buatan (AI) saingan OpenAI, dan didukung infrastruktur cloud Amazon Web Services.

Diketahui, Leike mengundurkan diri dari OpenAI beberapa pekan lalu. Laman The New York Times yang mengunggah ulang postingan X Jan Leike, mengungkap kalau Leike menyinggung perihal budaya dan proses keselamatan tak lagi menjadi prioritas ketimbang produk yang cemerlang, di OpenAI.

Terkait bergabungnya dirinya ke Anthropic, Leike memposting informasi itu di X, dan mengungkapkan antusiasme terhadap peran barunya di Anthropic. Dalam unggahan yang ia sematkan di deretan paling atas profil akun X miliknya, Leike juga mengajak para pembaca yang tertarik untuk bergabung dengan ia dan timnya.

Kepergian Leike dari OpenAI ini, menyusul mundurnya salah satu pendiri OpenAI, Ilya Sutskever, sebagai kepala ilmuwan di startup tersebut.

Leike sebelumnya bekerja mengawasi apa yang disebut tim superalignment perusahaan, bersama Sutskever. Keduanya bertugas meyakinkan pengguna bahwa produk perusahaan tidak menjadi ancaman bagi umat manusia.

Sutskever mengatakan dalam catatan perpisahannya bahwa, dia yakin OpenAI akan membangun kecerdasan umum buatan -AI secanggih otak manusia— yang aman dan bermanfaat bagi umat manusia.

Tetapi Leike jauh lebih kritis. Menurutnya perusahaan harus lebih fokus pada keamanan, pemantauan, kesiapsiagaan, keselamatan, ketahanan terhadap musuh, keselarasan (super), kerahasiaan, dampak sosial, dan topik terkait.

Kemudian, ia juga mencuit bahwa masalah-masalah tersebut cukup sulit untuk diselesaikan, dan Leike khawatir mereka sedang tidak berada dalam jalur yang tepat untuk mencapainya.

Langkah Leike diikuti serangkaian kepergian sosok penting lainnya dari OpenAI. Peneliti kebijakan Gretchen Krueger mengumumkan pengunduran dirinya, dan menyampaikan kekhawatiran serupa tentang arah perusahaan.

OpenAI yang didukung Microsoft kemudian dikabarkan telah membentuk komite keselamatan yang baru. Komite Keselamatan dan Keamanan, yang dibentuk oleh dewan OpenAI tersebut dipimpin oleh anggota dewan Bret Taylor (Ketua), Nicole Seligman, Adam D'Angelo dan Sam Altman (CEO).

Yang dramatis dari pengumuman Leike ini adalah, mengenai perusahaan tempatnya bernaung saat ini. Anthropic merupakan perusahaan yang sebelumnya didirikan oleh mantan karyawan dan eksekutif OpenAI, pada 2021.

Perusahaan yang baru-baru ini mendapatkan investasi $4 miliar dari Amazon itu, telah memposisikan diri sebagai perusahaan yang lebih fokus pada keselamatan.

Seakan berkebalikan dengan OpenAI yang dikritik Sutskever dan Leike, Anthropic bekerja dalam serangkaian prinsip etika 'Konstitusi Claude,' agar pengguna memahami yang benar dan salah -saat membaca masukan dari chatbot- mereka.

Kebijakan itu menggunakan umpan balik AI, untuk mengevaluasi keluaran (output) yang diberikan oleh chatbot. Ia memandu model untuk mengambil perilaku normatif yang dijelaskan dalam konstitusi, untuk menghindari pengguna mengambil keluaran yang isinya beracun (toxic) atau diskriminatif.

Selain itu, menghindari membantu manusia terlibat dalam kegiatan ilegal atau tidak etis, dan secara luas menciptakan sistem AI yang membantu, jujur, dan tidak berbahaya.

Kabar terbarunya, Claude juga sekarang tersedia di Kanada. Masyarakat dan bisnis di negara itu dapat mengakses Claude melalui:

Claude.ai: versi berbasis web dari asisten AI generasi berikutnya,
Aplikasi Claude iOS: aplikasi seluler gratis yang tersedia di Apple App Store yang menawarkan pengalaman intuitif yang sama seperti web seluler,
Claude API: antarmuka yang memungkinkan pengembang mengintegrasikan model AI canggih Anthropic ke dalam aplikasi, situs web, atau layanan mereka sendiri.
Paket Tim Claude: ruang kerja aman bagi tim untuk berkolaborasi yang menawarkan peningkatan penggunaan bagi anggota.