Seoul adalah kota yang dipilih untuk menyelenggarakan pertemuan puncak tentang Kecerdasan Buatan yang Bertanggung Jawab dalam Domain Militer. Sebuah upaya dilakukan untuk mulai menentukan batasan penggunaan teknologi dalam urusan militer; sesuatu yang tampak jelas: bahwa AI tidak mengontrol tombol merah tanpa pengawasan manusia. KTT yang diakhiri dengan penandatanganan seluruh peserta kecuali satu: Tiongkok.
Haruskah mesin mengambil keputusan mengenai penggunaan senjata nuklir? Apakah eskalasi teknologi-militer tidak bisa dihindari? Di manakah posisi Eropa dalam perlombaan ini?
Presiden Korea Selatan Yoon Suk Yeol saat upacara peluncuran Komite Kecerdasan Buatan Seoul
Apa yang dimaksud dengan KTT AI Korea Selatan?
Ini merupakan pertemuan puncak kedua yang diselenggarakan sebagai lanjutan pertemuan puncak yang diadakan di Den Haag tahun lalu. Pada kesempatan itu, sekitar 60 negara, termasuk Tiongkok dan Ukraina, mendukung seruan sederhana mengenai penggunaan AI yang bertanggung jawab di bidang militer. “Teknologi semakin berdampak pada geostrategi”, jelas Mario Yáñez, konsultan teknologi di beberapa perusahaan seperti Kyndryl, di La Linterna. “Kita melihatnya saat ini dengan ledakan mesin pencari di Lebanon atau drone yang dikendalikan AI yang digunakan dalam perang di Ukraina. Kali ini mereka mencoba untuk mencapai kesepakatan dalam hal ini”, dia mencontohkan.
Selain itu, pada tahun 2024, kebutuhan untuk mencegah penggunaan AI untuk proliferasi senjata pemusnah massal oleh aktor-aktor seperti kelompok teroris telah diperdebatkan, dan pentingnya mempertahankan kendali manusia dan partisipasi dalam penggunaan senjata nuklir. “Ini termasuk menetapkan penilaian risiko dan kondisi penting, seperti pengendalian manusia dan kerja sama internasional,” tambah Yáñez di COPE.
Mengapa AI hanya diblokir untuk kelompok teroris
Dengan Kecerdasan Buatan dan teknologi canggih, kolaborator La Linterna menjamin, “sesuatu yang mirip dengan apa yang terjadi dengan senjata nuklir” sedang terjadi. “Yang baik tetaplah baik sampai mereka berhenti menjadi baik dan, lebih jauh lagi, mereka yang sudah memiliki teknologi ini tidak akan menyerah”, dia mengomentari fakta bahwa negara-negara besar tidak dilarang untuk menggunakannya. “Akan sangat sulit mencapai kesepakatan antara semua pihak yang memperjuangkan supremasi teknologi dan militer.”
Tiongkok memilih “tidak”
Setelah perundingan selama dua hari, lebih dari seratus negara, termasuk Amerika Serikat, Tiongkok, Inggris, Belanda, dan Ukraina, mengembangkan dokumen yang tidak mengikat secara hukum dan menegaskan bahwa manusia, bukan kecerdasan buatan, harus mengambil tindakan penting. . keputusan mengenai penggunaan senjata nuklir dan bahwa kemampuan AI di bidang militer harus diterapkan sesuai dengan hukum nasional dan internasional serta harus bersifat etis dan berpusat pada manusia. Sebuah perjanjian yang ditandatangani semua orang, kecuali Tiongkok dan Rusia, yang dilarang menghadiri KTT.
AI buatan untuk mengurangi daftar tunggu?
Mengapa Tiongkok tidak mematuhi perjanjian tersebut
Respons Tiongkok, jelas Yáñez, merupakan gejala ketegangan geopolitik yang sedang dialami. “Untuk pertama kalinya, Tiongkok dapat memanfaatkan keunggulannya dalam teknologi militer”, kata kolaborator COPE. Dan, menurut laporan yang diterbitkan pada bulan Agustus oleh Australian Strategic Policy Institute, Tiongkok telah memperluas kepemimpinannya sebagai negara penelitian terkemuka dalam kategori seperti analisis data tingkat lanjut, algoritma AI atau pembelajaran mesin, dan AI yang bersifat adversarial.
Selain itu, sudah ada perusahaan Tiongkok seperti Tencent Holdings, Alibaba, dan Huawei Technologies yang termasuk di antara 10 perusahaan teratas yang melakukan penelitian AI di seluruh dunia.
