JBNews.id — Kepala riset kebijakan OpenAI, Miles Brundage, resmi meninggalkan perusahaan untuk mendirikan organisasi nirlaba yang fokus pada advokasi keamanan dan standar keselamatan ketat bagi laboratorium AI. Keputusan ini menambah daftar panjang kepergian eksekutif keamanan dari OpenAI di tengah persiapan perusahaan melakukan penawaran umum perdana (IPO).
Brundage bergabung dengan Steven Adler, yang sebelumnya memimpin riset tentang kemampuan berbahaya model AI, dalam mendirikan organisasi nirlaba baru. Langkah ini diambil setelah keduanya memutuskan hengkang pada tahun 2024. Organisasi yang mereka dirikan bertujuan mendorong laboratorium AI di seluruh dunia untuk mematuhi standar keamanan dan keamanan siber yang ketat.
Kepergian Brundage merupakan bagian dari gelombang eksodus staf yang berfokus pada keamanan di OpenAI. Sebelumnya, Jan Leike yang memimpin tim Superalignment—kelompok riset yang mempelajari cara menjaga model AI canggih tetap terkendali manusia—juga meninggalkan OpenAI pada 2024 untuk bergabung dengan Anthropic. Andrea Vallone, yang memimpin riset OpenAI tentang bagaimana ChatGPT harus merespons pengguna yang mengalami tekanan mental atau emosional, juga hengkang ke Anthropic pada akhir 2025.
Konteks Kepergian Tokoh Keamanan OpenAI
Miles Brundage bukan satu-satunya figur penting yang meninggalkan OpenAI. Miles Brundage adalah kepala riset kebijakan yang memiliki peran krusial dalam menjembatani riset AI dengan kebijakan publik. Kepergiannya menimbulkan pertanyaan tentang komitmen OpenAI terhadap keamanan di tengah transformasi perusahaan dari laboratorium riset kecil menjadi perusahaan teknologi raksasa.
Sejak ChatGPT diluncurkan pada 2022, OpenAI telah beberapa kali melakukan reorganisasi tim keamanan, produk, dan riset. Pada 2024, perusahaan mengumumkan pembentukan “tim penyelarasan misi” yang dipimpin oleh seorang eksekutif bernama Achiam. Tim ini bertugas menegakkan misi perusahaan. Namun, OpenAI membubarkan kelompok tersebut pada Februari dan mengumumkan bahwa Achiam akan mengambil peran baru sebagai kepala futuris.
Achiam sendiri baru saja mengumumkan pengunduran dirinya. Dalam catatan kepada staf yang diperoleh WIRED, Achiam menyatakan, “Dunia kini sudah mengetahui rahasia kami dan rasanya mungkin untuk bekerja pada misi ini dari luar dinding laboratorium perbatasan.” Ia menambahkan keyakinannya untuk mencapai dunia yang penuh perdamaian, kemakmuran belum pernah terjadi sebelumnya, dan kemungkinan tak terbayangkan, baik sosial maupun ilmiah.
Achiam bergabung dengan OpenAI sebagai magang pada 2017 dan kemudian menjadi ilmuwan riset yang berfokus pada keamanan AI. Ia dikenal secara internal sebagai pembela setia misi keamanan OpenAI, namun juga kontroversial karena kritiknya terhadap komunitas keamanan AI yang lebih luas. Awal tahun ini, ia bersaksi di pengadilan federal bahwa ia menyela pidato perpisahan Elon Musk ketika Musk meninggalkan OpenAI pada 2018, dengan komentar bahwa rencana Musk untuk mengembangkan AGI di Tesla dapat mengorbankan keamanan. Musk dilaporkan menjawab dengan menyebut Achiam “jackass,” sebuah momen yang diabadikan oleh Dario Amodei (kini CEO Anthropic) dan David Luan (kepala laboratorium AGI Amazon) dengan memberikan Achiam patung keledai emas bertuliskan, “Jangan pernah berhenti menjadi jackass demi keamanan.”
Dampak pada Ekosistem Keamanan AI
Kepergian tokoh-tokoh kunci seperti Miles Brundage, Steven Adler, Jan Leike, Andrea Vallone, dan Achiam menunjukkan pergeseran prioritas di OpenAI seiring perusahaan bersiap go public. Perusahaan yang dulunya dikenal sebagai laboratorium riset nirlaba kini menjelma menjadi perusahaan teknologi bernilai miliaran dolar dengan tekanan pemegang saham untuk menghasilkan keuntungan.
Di sisi lain, para tokoh yang hengkang justru memperkuat ekosistem keamanan AI di luar OpenAI. Organisasi nirlaba yang didirikan Brundage dan Adler diharapkan menjadi pengawas independen yang mendorong standar keamanan ketat di seluruh industri. Anthropic, yang dipimpin oleh Dario Amodei, juga terus merekrut talenta keamanan dari OpenAI, memperkuat posisinya sebagai laboratorium AI yang mengutamakan keselamatan.
OpenAI sendiri belum mengumumkan apakah akan ada yang mengisi peran Achiam, yang berada di persimpangan tim keamanan AI dan kebijakan perusahaan. Posisi ini melibatkan studi tentang potensi bahaya dan manfaat yang disebabkan oleh kebangkitan kecerdasan buatan. Achiam bekerja dengan pemimpin senior perusahaan, termasuk kepala urusan global Chris Lehane, untuk mengadvokasi regulasi pemerintah yang selaras dengan misi OpenAI: memastikan bahwa AGI bermanfaat bagi seluruh umat manusia.
Dalam setahun terakhir, OpenAI telah berupaya menjembatani kesenjangan antara riset AI dan tim kebijakan sebagai bagian dari upaya mengembangkan aturan dan standar yang mengantisipasi arah teknologi. Seiring dua departemen mulai berkolaborasi lebih erat, beberapa peneliti OpenAI, termasuk Boaz Barak, Noam Brown, dan Adrien Ecoffet, mengatakan mereka menjadi lebih terlibat dalam pekerjaan kebijakan.
Mantan penasihat AI Gedung Putih, Dean Ball, memulai pekerjaannya di OpenAI minggu ini sebagai kepala masa depan strategis perusahaan. Ball diharapkan bekerja dengan peneliti dan pemimpin kebijakan dalam perannya. Ia akan tumpang tindih secara singkat dengan Achiam sebelum Achiam benar-benar meninggalkan perusahaan.
Baca Juga:
Implikasi bagi Industri AI
Kepergian Miles Brundage dan tokoh keamanan lainnya dari OpenAI memiliki implikasi luas bagi ekosistem kecerdasan buatan. Pertama, memperkuat persepsi bahwa keamanan AI kini menjadi isu yang memerlukan advokasi independen di luar laboratorium riset. Organisasi nirlaba yang didirikan Brundage dan Adler dapat menjadi kekuatan baru dalam mendorong regulasi dan standar sukarela di industri.
Kedua, perekrutan talenta keamanan oleh Anthropic menunjukkan persaingan ketat antara laboratorium AI untuk mendapatkan sumber daya manusia terbaik di bidang keselamatan. Andrea Vallone yang bergabung dengan tim Jan Leike di Anthropic adalah contoh nyata perpindahan ini.
Ketiga, persiapan OpenAI untuk go public menambah dimensi baru pada dinamika keamanan AI. Tekanan pasar dapat mendorong perusahaan untuk memprioritaskan pengembangan produk dan pendapatan di atas langkah-langkah keamanan yang ketat. Ini menjadi kekhawatiran yang mendorong para pendiri organisasi nirlaba baru untuk bertindak.
Bagi pembaca, fenomena ini menunjukkan bahwa isu keamanan AI semakin matang dan menjadi perhatian serius di tingkat global. Advokasi independen untuk standar keselamatan ketat dapat memengaruhi bagaimana teknologi AI dikembangkan dan digunakan di masa depan. Regulasi pemerintah yang diadvokasi oleh tokoh seperti Achiam dan Chris Lehane juga dapat membentuk lanskap industri dalam beberapa tahun mendatang.
Dengan kepergian Achiam, OpenAI kehilangan salah satu pembela misi keamanan yang paling vokal. Namun, perusahaan masih memiliki Dean Ball, yang baru bergabung sebagai kepala masa depan strategis, untuk melanjutkan pekerjaan kebijakan dan keamanan. Ball diharapkan dapat bekerja sama dengan peneliti dan pemimpin kebijakan untuk memastikan OpenAI tetap pada jalur misinya: mengembangkan AGI yang bermanfaat bagi seluruh umat manusia.
Dalam catatan perpisahannya, Achiam menyatakan keyakinannya bahwa dunia kini sudah mengetahui rahasia OpenAI dan bahwa bekerja pada misi dari luar dinding laboratorium mungkin dilakukan. “Apa pun yang saya lakukan selanjutnya, saya akan terus bekerja dengan kalian untuk mewujudkan visi ini,” tulisnya kepada staf. Pernyataan ini meninggalkan tanda tanya besar tentang langkah selanjutnya bagi tokoh yang dikenal sebagai “jackass for safety” ini.
Kepergian Miles Brundage, Steven Adler, dan tokoh keamanan lainnya menandai babak baru dalam sejarah kecerdasan buatan. Di satu sisi, OpenAI kehilangan talenta kunci di bidang keamanan. Di sisi lain, ekosistem keamanan AI justru diperkuat dengan lahirnya organisasi advokasi independen. Hanya waktu yang akan menjawab apakah langkah ini akan mendorong industri menuju standar keselamatan yang lebih ketat atau justru menciptakan fragmentasi dalam upaya mengelola risiko AI.
