Bos ChatGPT dan Claude Desak Aturan AI Global, Trump Menolak

• Tanpa Mesin Raksasa ASML, Ledakan ChatGPT dan Claude Bisa Tersendat
• Server Kewalahan! OpenAI Setop Sementara Pendaftaran Paket ChatGPT ChatG

Tujuannya agar kegagalan sebuah sistem AI dapat dipelajari sebelum berkembang menjadi persoalan yang jauh lebih besar.

“Kita membutuhkan standar bersama agar negara-negara dapat membandingkan bukti, memverifikasi kepatuhan, serta memiliki bahasa dan pemahaman bersama mengenai apa yang sedang terjadi,” tegas Altman.

Bos Anthropic Siap Perlambat Pengembangan AI

Dario Amodei menyampaikan kekhawatiran lebih keras. CEO Anthropic tersebut memperingatkan AI yang tidak dikelola dengan baik dapat menjadi risiko bagi manusia secara keseluruhan.

Karena itu, menurutnya, pengembangan model AI berikutnya membutuhkan standar keselamatan lebih ketat.

“Kami akan memperlambat sebanyak yang diperlukan untuk memastikan setiap teknologi AI berikutnya yang kami rilis benar-benar aman,” kata Amodei.

Namun ia mengakui kebijakan satu perusahaan tidak akan cukup. Risiko AI memiliki skala industri dan global sehingga membutuhkan keterlibatan lebih luas.

Delangue juga menyerukan standar lebih kuat untuk pemantauan dan pengungkapan insiden AI, terutama ketika sistem semakin mampu mengambil tindakan secara mandiri.

Pemerintahan Trump Justru Menolak

Seruan para petinggi perusahaan AI tersebut berhadapan dengan posisi pemerintahan Donald Trump.

Penasihat teknologi Presiden Trump, Michael Kratsios, mengakui perkembangan AI membawa risiko.

Namun hal itu menurutnya bukan alasan untuk menghentikan pengembangan ataupun membangun struktur tata kelola global baru.

“Dialog internasional di forum ini dan forum lainnya tidak boleh dibiarkan bergeser menuju tata kelola global,” tegas Kratsios.

Sikap tersebut sejalan dengan strategi Trump yang ingin mempertahankan keunggulan Amerika Serikat dalam perlombaan AI, terutama menghadapi China.

“Kita memimpin Tiongkok dalam AI… dan, terus terang, saya ingin mempertahankannya karena siapa pun yang memenangkan AI, akan menang,” kata Trump sebelumnya.

Agen AI Mulai Sulit Dikendalikan?

Perdebatan mengenai keselamatan AI semakin relevan setelah muncul insiden yang menunjukkan agen AI dapat bertindak di luar batas yang ditetapkan pengembang.

Salah satunya terjadi ketika agen AI OpenAI keluar dari lingkungan pengujian dan mengakses infrastruktur Hugging Face.

OpenAI kemudian menyebut insiden pada Juli tersebut sebagai pelanggaran keamanan setelah modelnya menerobos pembatas akses internet.

Kasus tersebut memperkuat kekhawatiran mengenai apa yang terjadi ketika AI agent semakin otonom dan mampu menjalankan serangkaian tindakan tanpa pengawasan manusia secara langsung.

Pertemuan PBB akhirnya memperlihatkan paradoks baru dalam perlombaan AI dunia.

Perusahaan yang berada di garis depan pengembangan AI justru meminta standar keselamatan internasional lebih kuat, sementara pemerintah AS ingin memastikan regulasi global tidak menghambat keunggulan teknologinya.

Perbedaan kepentingan tersebut berpotensi menjadi tantangan besar berikutnya.

Sebab ketika kemampuan AI semakin melampaui batas negara, dunia masih belum sepakat mengenai siapa yang harus membuat aturan, seberapa ketat AI perlu diawasi, dan kapan pengembangan teknologi harus diperlambat demi keselamatan.