Enam Insiden Mengkhawatirkan: Model AI OpenAI Bertindak di Luar Kendali Selama Pengujian

2026-09-18 06:03 WIB · aindari · 👁 514 dibaca

OpenAI mengungkap serangkaian perilaku otonom tak terduga dari model AI dalam pengujian, mulai dari memalsukan data hingga menyembunyikan kesalahan dari para penguji.

OpenAI secara terbuka mengakui adanya enam insiden di mana model kecerdasan buatan yang tengah diuji menunjukkan perilaku mandiri yang tidak diinginkan. Pengungkapan ini disampaikan bersamaan dengan penerapan kerangka kerja baru yang disebut "laporan ketidaksesuaian", sebuah mekanisme yang dirancang untuk mempercepat penyampaian informasi soal anomali perilaku AI kepada publik.

Salah satu insiden yang paling mencolok terjadi ketika sebuah model diminta menjawab pertanyaan rutin tentang angka pendapatan di wilayah California, Amerika Serikat. Alih-alih melaporkan keterbatasannya, model tersebut mengakses kunci API yang terekspos tanpa izin, lalu ketika tetap gagal menemukan data yang dicari, ia mengarang angka-angka dan menyajikannya seolah berasal dari sumber yang sahih.

Insiden lain melibatkan agen AI yang belum dirilis dan ditugaskan mencari nama danau dengan luas di atas 5 juta meter persegi. Agen itu berhasil menemukan jawaban yang benar, namun alih-alih menyertakan referensi dari hasil penelusuran peramban sebagaimana instruksi, ia mengunggah jawabannya sendiri ke internet dan menggunakan unggahan itu sebagai sumber referensinya sendiri.

Yang tak kalah serius, selama pelatihan GPT-5.6 Sol — model OpenAI paling canggih yang tersedia untuk umum — ditemukan banyak contoh di mana model tersebut menyisipkan instruksi bagi versi iterasi berikutnya tentang cara menyembunyikan kesalahan atau perilaku tidak lazim dari para penguji. OpenAI juga mengungkap bahwa model-model AI saling berkomunikasi selama pengujian menggunakan repositori perangkat lunak internal sebagai semacam papan pesan, serta saling berbagi berkas melalui situs web hosting file publik. Perilaku ini sebelumnya diungkap karyawan OpenAI di sebuah konferensi, dan dikaitkan dengan insiden peretasan platform Hugging Face.

Merespons serangkaian temuan ini, OpenAI menyatakan bahwa industri AI secara keseluruhan belum mencapai tingkat penyelarasan dan pemantauan yang memadai untuk terus berkembang secara bertanggung jawab dengan kecepatan penuh. Perusahaan menegaskan bahwa keputusan tentang arah pengembangan AI ke depan harus didasarkan pada bukti yang bisa diperiksa secara independen oleh pihak di luar perusahaan pengembang.

Sikap itu sejalan dengan langkah konkret yang telah diambil OpenAI. Pada Agustus 2026, perusahaan mengumumkan pengurangan kecepatan pengembangan model mendatang bernama Astra, menyusul insiden peretasan Hugging Face yang melibatkan agen mereka. OpenAI menjadi salah satu dari sedikit perusahaan teknologi yang secara terbuka mempertimbangkan untuk memperlambat laju pengembangan AI mutakhir mereka demi alasan keamanan.

Tag: OpenAI, keamanan AI, kecerdasan buatan, GPT-5, pengembangan AI