OpenAI Usulkan Badan Internasional untuk Awasi Pengembangan AI

Tandaglobalnews – OpenAI menyerukan pembentukan organisasi internasional yang bertugas mengawasi pengembangan kecerdasan buatan (Artificial Intelligence/AI) di tingkat global. Gagasan tersebut mencakup kemungkinan memperlambat pengembangan model AI paling canggih apabila risiko terhadap keselamatan, stabilitas sosial, dan kendali manusia dinilai lebih cepat berkembang dibanding kemampuan masyarakat untuk mengelolanya.

Seruan itu disampaikan CEO OpenAI Sam Altman bersama Chief Scientist OpenAI Jakub Pachocki melalui tulisan berjudul Built to benefit everyone: our plan yang dipublikasikan di situs resmi perusahaan.

Dalam dokumen tersebut, OpenAI menegaskan bahwa kemajuan AI memiliki potensi besar untuk meningkatkan produktivitas, memperluas kemampuan manusia, dan mendorong kesejahteraan global. Namun di sisi lain, perusahaan juga mengakui adanya risiko yang perlu diantisipasi secara serius.

“Kami optimistis terhadap AI karena kami percaya teknologi ini dapat memperluas kemampuan manusia dan meningkatkan kesejahteraan. Namun, kami juga memandang dengan jernih berbagai risiko yang menyertainya,” tulis Altman dan Pachocki.

Menurut OpenAI, kompetisi pengembangan AI yang semakin ketat antara perusahaan maupun negara membuat koordinasi internasional menjadi semakin penting. Oleh karena itu, mereka mengusulkan pembentukan badan global yang mampu mengawasi pengembangan teknologi AI terdepan atau frontier AI.

Organisasi tersebut diharapkan dapat membantu dunia mengambil langkah bersama ketika diperlukan, termasuk memperlambat laju pengembangan AI agar aspek keselamatan, ketahanan masyarakat, dan tata kelola dapat berkembang seiring dengan kemajuan teknologi.

OpenAI juga mengungkapkan proyeksi bahwa pada Maret 2028 sebagian besar riset internal perusahaan berpotensi dilakukan oleh sistem AI yang bekerja bersama peneliti manusia. Salah satu target utama perusahaan adalah membangun automated AI researcher, yaitu sistem AI yang mampu membantu hingga mengotomatisasi proses penelitian secara signifikan.

Pernyataan tersebut menunjukkan perubahan pendekatan dari salah satu perusahaan AI terbesar di dunia. Meski tetap mendukung akses luas terhadap teknologi AI dan visi menghadirkan Artificial General Intelligence (AGI) yang bermanfaat bagi banyak orang, OpenAI kini lebih terbuka membahas tantangan dan risiko yang muncul seiring meningkatnya kemampuan AI.

Seruan OpenAI muncul tidak lama setelah perusahaan AI Anthropic mengangkat isu serupa melalui tulisan berjudul When AI Builds Itself. Dalam publikasi tersebut, Anthropic menyoroti meningkatnya peran AI dalam pengembangan AI itu sendiri, mulai dari membantu penulisan kode hingga menjalankan berbagai tugas teknis secara lebih mandiri.

Anthropic memperingatkan kemungkinan terjadinya recursive self-improvement, yaitu kondisi ketika sistem AI mampu merancang dan mengembangkan generasi penerusnya sendiri. Menurut perusahaan tersebut, perkembangan seperti itu dapat terjadi lebih cepat dibanding kesiapan lembaga, regulator, maupun masyarakat dalam menghadapinya.

Meski berpotensi membawa manfaat besar bagi bidang sains, kesehatan, dan teknologi, kemampuan AI yang terus berkembang juga dinilai dapat meningkatkan risiko hilangnya kendali manusia terhadap sistem yang diciptakannya.

Kekhawatiran terhadap perkembangan AI sebenarnya bukan hal baru. Pada 2023, sejumlah tokoh teknologi dunia, termasuk Elon Musk dan peraih Turing Award Yoshua Bengio, menandatangani surat terbuka yang menyerukan jeda selama enam bulan dalam pengembangan model AI paling canggih. Mereka menilai teknologi tersebut berpotensi menimbulkan dampak sosial yang serius apabila berkembang tanpa tata kelola yang memadai.

Namun, upaya memperlambat pengembangan AI secara sepihak dinilai sulit diterapkan karena persaingan global yang sangat ketat. Perusahaan atau negara tertentu dapat memilih menahan laju pengembangan, tetapi pihak lain belum tentu melakukan hal serupa.

Karena itulah, OpenAI dan Anthropic kini sama-sama menekankan pentingnya koordinasi internasional dalam mengatur masa depan kecerdasan buatan. Menurut mereka, tantangan AI modern tidak lagi dapat diselesaikan oleh satu perusahaan atau satu negara saja, melainkan membutuhkan kerja sama global untuk memastikan teknologi tersebut tetap aman dan bermanfaat bagi umat manusia.

Jurnalis : Novita Sari