JBNews.id — Departemen Perumahan dan Pembangunan Perkotaan AS (HUD) diduga menolak permintaan akses informasi publik terkait penggunaan kecerdasan buatan (AI) dalam pengambilan kebijakan. Penolakan ini terungkap dari dokumen yang diperoleh Democracy Forward, sebuah organisasi hukum nirlaba, melalui permintaan Freedom of Information Act (FOIA).
Anggota tim Department of Government Efficiency (DOGE) yang bertugas di HUD menggunakan AI untuk menginformasikan keputusan kebijakan. Kini, badan tersebut tampaknya menyangkal permintaan FOIA untuk informasi tentang pengembangan dan penggunaan alat AI, serta cara alat tersebut menginformasikan keputusan kebijakan, menurut dokumen yang diperoleh melalui permintaan FOIA oleh Democracy Forward.
Tahun lalu, WIRED melaporkan bahwa Christopher Sweet, yang saat itu masih menjadi mahasiswa tahun ketiga di Universitas Chicago, bergabung dengan tim DOGE di HUD, bersama Scott Langmack, yang datang ke DOGE dari sebuah perusahaan rintisan teknologi properti bernama Kukun. Fokus utama Sweet, menurut karyawan HUD yang berbicara kepada WIRED saat itu, adalah menggunakan AI untuk mengidentifikasi peraturan badan yang berpotensi dicabut atau kontrak yang dibatalkan, sebagai bagian dari upaya serupa di seluruh pemerintahan.
Pada saat itu, staf HUD memberi tahu WIRED bahwa karyawan dilibatkan untuk memberikan umpan balik mengenai peraturan yang ditandai oleh AI untuk dicabut. Namun, karyawan lainnya menggambarkan upaya tersebut sebagai sesuatu yang redundan. Sweet lulus dari Universitas Chicago pada bulan Juni dengan gelar di bidang ekonomi; Langmack kini menjadi direktur eksekutif deregulasi AI di Office of Management and Budget (OMB), di bawah Kantor Eksekutif Presiden, menurut LinkedIn-nya.
Lebih dari 100 dokumen yang diminta oleh Democracy Forward tentang penggunaan AI HUD untuk pengambilan keputusan ditahan. Di antara alasan yang dikutip HUD untuk tidak merilis dokumen adalah hak istimewa AI yang tidak ada dan hak istimewa untuk komunikasi presidensial yang nyata tetapi umumnya dianggap hanya berlaku untuk presiden dan penasihat langsung mereka.
Beberapa dokumen yang ditahan, yang namanya dibagikan dalam FOIA tetapi isinya tidak diketahui, tampaknya menunjukkan bahwa tim DOGE di HUD menggunakan alat AI untuk membantu membuat keputusan kebijakan. Sweet, Langmack, HUD, OMB, dan Gedung Putih tidak menanggapi permintaan komentar.
Satu dokumen, berlabel “GPT defined Econ Analysis approach 11 10 25.docx,” milik Langmack, dikecualikan dari FOIA karena diberi label sebagai “deliberative AI input.” Dokumen lain, berjudul “RegulatoryAnalysisPrompt.pdf,” juga milik Langmack, tampaknya menunjukkan bahwa tim DOGE sedang menjajaki pembuatan perintah (prompts) untuk melakukan analisis regulasi. Beberapa dokumen lain yang ditahan karena dianggap sebagai bagian dari proses musyawarah diberi label sebagai bentuk “analisis regulasi” untuk program HUD yang berbeda, meskipun tidak jelas apakah AI digunakan dalam pembuatannya.
Kekhawatiran Transparansi AI
Tori Noble, seorang staf pengacara di Electronic Frontier Foundation, mengatakan bahwa kurangnya transparansi seputar bagaimana alat AI dapat digunakan dalam pembuatan atau perubahan kebijakan sangat mengkhawatirkan, karena alat tersebut diketahui dapat berhalusinasi, menunjukkan bias, atau hanya salah memahami sesuatu. “Tidak selalu kita tahu bagaimana alat digunakan,” katanya. “Jadi, memiliki akses ke perintah (prompts) adalah cara terbaik untuk mengetahui apa yang digunakan pejabat untuk alat ini dan seberapa berbahaya penggunaan tersebut.”
Saat ini tidak ada undang-undang di AS yang mewajibkan pemerintah untuk mengungkapkan apakah AI telah digunakan dalam pembuatan aturan, kebijakan, atau regulasi. “Jika AI digunakan untuk menilai kebijakan sebagai salah satu alat dalam perangkat, saya pikir pada tahap pengembangan dan penggunaan AI ini, ini adalah protokol yang baik untuk menunjukkan hal itu,” kata Mark Fagan, seorang dosen di Harvard Kennedy School. “Sebagian untuk mencoba membangun kepercayaan dalam penggunaan AI di pemerintahan.”
Namun Fagan mengatakan bahwa dia dapat melihat cara AI dapat digunakan dalam semacam proses musyawarah yang mungkin tidak perlu diungkapkan. “Jika saya meninjau kebijakan untuk memutuskan di mana saya ingin memangkas atau mendesain ulang atau mengajukan banding atau meningkatkan kebijakan, dan saya pergi ke Google, ‘Bagaimana ini dilakukan oleh orang lain?’ Saya tidak mengungkapkannya,” kata Fagan. “Itu adalah bagian dari proses saya yang tertanam.” Fagan juga mencatat bahwa seringkali diperlukan beberapa perintah (prompts) untuk menyelesaikan suatu masalah atau pertanyaan, sehingga “dari perspektif teknis, saya pikir sebagian besar bersifat musyawarah.”
Karena banyak dokumen yang ditahan dari permintaan Democracy Forward, sulit untuk memastikan secara pasti bagaimana AI digunakan. Ada sembilan alasan berbeda pemerintah dapat menolak permintaan FOIA, termasuk, misalnya, jika dokumen akan mengungkapkan informasi pribadi atau rahasia dagang. Hampir semua dokumen dari HUD diberi label sebagai ditahan karena Pengecualian 5, yang memungkinkan badan untuk menahan informasi berdasarkan apa yang dikenal sebagai “hak istimewa proses musyawarah.” Ini melindungi materi di mana pekerja federal mungkin sedang menyusun atau memberikan umpan balik tentang kebijakan dan peraturan baru atau yang berubah.
“Jika ada proses musyawarah yang terjadi antara manusia yang bekerja untuk badan, di mana materi tersebut bersifat pra-keputusan dan mengarah pada semacam keputusan, itu mungkin merupakan pernyataan hak istimewa proses musyawarah yang dapat dibenarkan,” kata John Davisson, wakil direktur penegakan hukum di Electronic Privacy Information Center. Davisson mengatakan ini dimaksudkan untuk mendorong “keterusterangan” sehingga pegawai pemerintah dapat memperdebatkan kebijakan dan memberikan umpan balik jujur mereka tanpa rasa takut.
Dalam banyak kasus, alasan pengecualian terdaftar sebagai “musyawarah proses” atau kadang-kadang “hak istimewa pengacara-klien.” Namun dalam beberapa kasus, kantor FOIA HUD menolak permintaan untuk dokumen tertentu, dengan alasan “draf perintah AI” dan “input AI musyawarah” sebagai alasan. Dokumen berlabel “Prompt.pdf” dan “PROMPT+AB2(alr)+ab.dox” dikecualikan karena diberi label “musyawarah perintah AI.” Pengecualian serupa terjadi untuk sejumlah dokumen lainnya.
“Tidak ada pengecualian AI berdasarkan FOIA,” kata Davisson, mencatat bahwa musyawarah apa pun yang dilakukan antara seseorang dan chatbot AI tidak boleh memenuhi syarat untuk pengecualian, karena “sistem AI, komputer tidak berhak mendapatkan keterusterangan.” Dokumen lain berlabel “DFR Template_Workflow Prompt Directory (3).pdf” dikecualikan karena melibatkan “musyawarah perubahan regulasi” dan “hak istimewa komunikasi presidensial.” Alasan ini, menurut Davisson, menimbulkan “pertanyaan tentang dari mana perintah itu berasal.”
“Sangat mengkhawatirkan bahwa pemerintah melindungi catatan tentang bagaimana ia menggunakan AI dalam pembuatan kebijakan. Jika pemerintah akan menggunakan AI dalam merumuskan kebijakan yang mempengaruhi kita semua, publik berhak untuk memahami dampaknya,” kata Dan McGrath, pengawas senior di Democracy Forward. “Menahan input AI ke dalam proses kebijakan sebagai sesuatu yang musyawarah dan memiliki hak istimewa menimbulkan pertanyaan serius. Hak istimewa yang ada dimaksudkan untuk memastikan bahwa pejabat publik berbagi pandangan jujur mereka, bukan untuk melindungi dampak AI pada pemerintahan kita.”
Kasus ini menyoroti celah hukum yang signifikan dalam tata kelola AI di sektor publik. Dengan tidak adanya undang-undang yang mewajibkan pengungkapan penggunaan AI, dan dengan lembaga yang menggunakan pengecualian FOIA yang ada untuk menahan informasi, publik menghadapi tantangan besar dalam mengawasi bagaimana teknologi ini membentuk kebijakan yang mempengaruhi kehidupan mereka. Kasus serupa di masa depan akan terus menguji batas transparansi pemerintah di era AI.
