China Pastikan Perkembangan AI Semakin Lepas Kendali dan Membahayakan

BEIJING - Peringatan dari para peneliti di perusahaan pengembangan kecerdasan buatan (AI) Amerika, Anthropic, tentang risiko bahwa model yang semakin canggih dapat lepas kendali dari manusia.

Para pembuat kebijakan di sana juga telah mulai mengembangkan kerangka kerja dan langkah-langkah untuk mengatasi risiko serupa.

Amerika Serikat dan Tiongkok saat ini merupakan dua penggerak utama pengembangan teknologi AI canggih dan penerapannya secara global.

Di tengah meningkatnya perbedaan pendapat antara kedua negara mengenai kebijakan AI dan praktik industri masing-masing, isu-isu ini diperkirakan akan menjadi inti dari pembicaraan bilateral yang akan berlangsung pada akhir September.

Terlepas dari persaingan yang semakin ketat untuk mengembangkan sistem AI, kerangka hukum dan pernyataan dari pejabat Tiongkok menunjukkan bahwa Beijing memandang risiko AI canggih yang melampaui kemampuan pengawasan manusia yang efektif sebagai masalah serius yang membutuhkan kesiapan.

Pada tanggal 13 September, Menteri Keamanan Negara Tiongkok Chen Yixin menulis di situs web sebuah kantor beritapemerintahTiongkok bahwa model-model canggih AS seperti Mythos milik Anthropic dan GPT-5.5-Cyber milik OpenAI dapat menimbulkan risiko serius bagi infrastruktur informasi penting Tiongkok. Ia menyerukan penguatan komprehensif terhadap langkah-langkah keamanan AI.

Para pengembang AI Tiongkok baru-baru ini mempromosikan penggunaan model berbobot terbuka, sebagian karena tim keamanan siber dapat menguji, memodifikasi, dan menerapkan model-model ini untuk tujuan pertahanan.

Platform penyedia model Hugging Face mengatakan bahwa mereka menggunakan GLM-5.2, sebuah model berbobot sumber terbuka yang dikembangkan oleh perusahaan Tiongkok Z.AI, untuk menganalisis intrusi bulan Juli yang melibatkan agen AI "di luar kendali" dari OpenAI. Keputusan ini diambil setelah model-model AS yang lebih terkontrol terbukti kurang efektif dalam forensik digital.

Namun, para ahli juga memperingatkan tentang potensi risiko model berbobot terbuka, karena model tersebut dapat dimodifikasi dan didistribusikan ulang tanpa pengawasan yang memadai.