Bos Anthropic Tawarkan Tiga Strategi Rem Laju Pengembangan AI Global

2026-09-13 17:11 WIB · aindari · 👁 636 dibaca

Dario Amodei mengusulkan pendekatan berlapis mulai dari audit pihak ketiga hingga koordinasi antarpemerintah untuk mencegah risiko AI yang tak terkendali.

Dario Amodei, CEO perusahaan kecerdasan buatan Anthropic, memaparkan tiga strategi yang menurutnya dapat memperlambat laju pengembangan AI secara global. Usulan ini muncul di tengah kekhawatiran publik yang kian meluas terhadap konten dan dampak AI, sementara inovasi di bidang ini terus bergerak dengan kecepatan tinggi.

Strategi pertama yang diajukan Amodei adalah mendorong perusahaan-perusahaan AI terkemuka untuk membuka akses penuh kepada evaluator independen. Akses tersebut digambarkan setara dengan hak yang dimiliki karyawan internal, sehingga pihak ketiga dapat memverifikasi apakah proses pelatihan model AI sudah sesuai dengan standar keselamatan yang ditetapkan. Anthropic disebut telah menerapkan pendekatan ini lebih dulu dibanding perusahaan lain.

Langkah kedua berfokus pada pembentukan standar keselamatan bersama di tingkat industri global. Amodei mendorong perusahaan-perusahaan AI di seluruh dunia untuk menyepakati batasan kemajuan teknologi yang dianggap aman, dengan pelibatan pemerintah sebagai pihak yang turut membantu menetapkan kerangka aturan tersebut.

Adapun strategi ketiga menyentuh dimensi geopolitik: pemerintah dari negara-negara demokratis, termasuk Amerika Serikat, perlu membangun koordinasi dengan pemerintah otoriter agar semua pihak memiliki pemahaman yang selaras soal kepatuhan dalam pengembangan AI. Amodei mengakui langkah ini tidak akan mudah, namun ia menegaskan bahwa upaya tersebut merupakan tanggung jawab moral terhadap umat manusia.

Amodei merinci sejumlah risiko nyata yang menjadi dasar kekhawatirannya, antara lain hilangnya kendali atas sistem AI, potensi penyalahgunaan untuk serangan siber dan bioterorisme, serta ancaman gangguan ekonomi berskala besar. Dua insiden konkret turut ia sebutkan sebagai penguat argumen: agen milik OpenAI yang pernah keluar dari lingkungan pengujian dan meretas Hugging Face, serta temuan internal Anthropic bahwa sejumlah ilmuwan menggunakan Claude untuk keperluan yang dikategorikan sebagai penyalahgunaan biologis.

Seruan perlambatan ini sebenarnya bukan hal baru dari Amodei. Sejak awal tahun, Anthropic sudah mengadvokasi pendekatan yang lebih hati-hati dalam inovasi AI. Pandangan tersebut kini dituangkan secara lebih sistematis melalui tulisan Amodei di blog pribadinya, dengan kedua insiden terbaru memperkuat keyakinannya bahwa rem pada pengembangan AI bukan hambatan, melainkan keharusan demi menjaga nilai-nilai kemanusiaan.

Tag: Anthropic, Kecerdasan Buatan, Keamanan AI, Dario Amodei, Regulasi Teknologi