Indonesia Menyapa, Jakarta – OpenAI kembali menyita perhatian setelah beberapa pekan lalu memamerkan GPT-4o. Kali ini karena salah seorang eksekutifnya mundur yang menimbulkan kekhawatiran di kalangan komunitas AI.
Sosok yang dimaksud adalah Jan Leike. Dia bertanggung jawab untuk memastikan apa pun yang dibuat OpenAI bermanfaat bagi masyarakat dan aman tidak merusaknya.
Keputusan Leike untuk hengkang dari OpenAI terjadi setelah salah satu pendiri OpenAI, Ilya Sutskever, juga mengumumkan kepergiannya dari perusahaan. Sutskever, yang merupakan salah satu dari empat anggota dewan yang memilih untuk mengeluarkan CEO Sam Altman.
Leike sempat memposting serangkaian tweet mengenai pengunduran dirinya. Dia mengungkapkan bahwa keputusannya untuk hengkang tidaklah mudah.
Kepergian Leike dipicu oleh kekhawatiran mendalam terhadap arah perusahaan. Dia mengungkapkan adanya ketidaksepakatan yang sedang terjadi dengan pimpinan OpenAI mengenai prioritas inti organisasi.
“Saya bergabung karena menurut saya OpenAI akan menjadi tempat terbaik di dunia untuk melakukan penelitian ini. Namun, saya sudah cukup lama tidak setuju dengan kepemimpinan OpenAI mengenai prioritas inti perusahaan, hingga akhirnya kami mencapai titik puncaknya.” ujarnya.
Sebagai seorang peneliti AI, Leike percaya bahwa harus ada lebih banyak fokus pada persiapan untuk generasi berikutnya dari model AI, termasuk hal-hal seperti keamanan dan analisis dampak sosial dari teknologi tersebut. Dia menyatakan bahwa membangun mesin yang lebih cerdas dari manusia adalah usaha yang secara inheren berbahaya dan bahwa perusahaan “memikul tanggung jawab yang sangat besar atas nama seluruh umat manusia.” Leike menekankan bahwa OpenAI harus menjadi perusahaan AGI (Artificial General Intelligence) yang mengutamakan keamanan.
“Kita perlu segera mencari cara untuk mengarahkan dan mengendalikan sistem AI yang jauh lebih cerdas dari kita,” ujarnya.
Leike mengungkapkan kekhawatirannya bahwa bidang-bidang penting ini tidak mendapat perhatian dan sumber daya yang diperlukan. “Masalah-masalah ini cukup sulit untuk diselesaikan, dan saya khawatir kita belum berada pada jalur yang tepat untuk mencapainya,” cuitnya, seraya menambahkan bahwa timnya sering menghadapi tantangan dalam mengamankan sumber daya komputasi yang diperlukan untuk penelitian mereka.
Dalam pesan terakhirnya kepada karyawan OpenAI, Leike mendesak mereka untuk bertindak dengan keseriusan yang sesuai untuk membangun AGI dan menerima perubahan budaya yang diperlukan. “Dunia mengandalkan Anda,” tulisnya, seperti dikutip dari Indiatoday.
Atas serangkaian tweet Leike, CEO OpenAI Sam Altman memberikan tanggapannya.
“aku sangat menghargainya @janleike kontribusinya terhadap penelitian penyelarasan dan budaya keselamatan Openai, dan sangat sedih melihatnya pergi. dia benar masih banyak yang harus kita lakukan; kami berkomitmen untuk melakukannya. saya akan memiliki posting yang lebih panjang dalam beberapa hari ke depan,” tulis Altman.
Sumber: Eksekutif Keamanan OpenAI Mundur Bikin Khawatir, Kenapa? (detik.com)