Gubernur California Gavin Newsom pada hari Minggu memveto rancangan undang-undang keselamatan AI yang diperebutkan setelah industri teknologi mengajukan keberatan, dengan mengatakan bahwa hal itu dapat mendorong perusahaan kecerdasan buatan keluar dari negara bagian tersebut dan menghambat inovasi.
Newsom mengatakan RUU itu “tidak memperhitungkan apakah sistem AI diterapkan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan penting atau menggunakan data sensitif” dan akan menerapkan “standar ketat bahkan pada fungsi dasar – selama sistemnya besar. menyebarkannya.”
Newsom mengatakan dia telah meminta para ahli terkemuka di bidang AI generatif untuk membantu California “mengembangkan pagar pembatas yang layak” yang berfokus “pada pengembangan analisis jalur eksperimental berbasis sains.” Ia juga memerintahkan lembaga-lembaga negara untuk memperluas penilaian mereka terhadap risiko-risiko yang berpotensi menimbulkan bencana terkait dengan penggunaan kecerdasan buatan.
AI generatif – yang dapat menghasilkan teks, gambar, dan video sebagai respons terhadap permintaan terbuka – telah menimbulkan kegembiraan dan ketakutan bahwa hal ini dapat membuat beberapa pekerjaan menjadi ketinggalan jaman, mengacaukan pemilu, berpotensi mengalahkan manusia, dan mempunyai dampak yang membawa bencana.
Penulis RUU tersebut, Senator Demokrat Scott Wiener, mengatakan undang-undang tersebut diperlukan untuk melindungi masyarakat sebelum kemajuan dalam kecerdasan buatan menjadi tidak praktis atau tidak terkendali. Industri kecerdasan buatan berkembang pesat di California dan beberapa pemimpin mempertanyakan masa depan perusahaan-perusahaan ini di negara bagian tersebut jika RUU tersebut menjadi undang-undang.
Weiner mengatakan pada hari Minggu bahwa veto tersebut membuat California menjadi kurang aman dan berarti bahwa “perusahaan yang ingin menciptakan teknologi yang sangat kuat tidak menghadapi pembatasan yang mengikat.” “Komitmen sukarela dari industri tidak dapat ditegakkan dan jarang memberikan hasil yang baik bagi masyarakat,” tambahnya.
“Kita tidak bisa menunggu terjadinya bencana besar sebelum mengambil tindakan untuk melindungi masyarakat,” kata Newsom, namun menambahkan bahwa dia tidak setuju. “Kita harus menemukan solusi yang tidak bergantung pada analisis jalur empiris sistem AI dan sistem AI .” kemampuan.”
Newsom mengatakan dia akan bekerja dengan Badan Legislatif mengenai legislasi AI pada sesi berikutnya. Hal ini terjadi pada saat undang-undang untuk menetapkan perlindungan terhenti di Kongres AS, dan pemerintahan Biden mengajukan proposal untuk pengawasan peraturan terhadap kecerdasan buatan.
“Pendekatan khusus California mungkin diperlukan – terutama jika tidak ada tindakan federal oleh Kongres,” kata Newsom.
Chamber of Progress, sebuah koalisi industri teknologi, memuji veto Newsom, dengan mengatakan: “Ekonomi teknologi California selalu berkembang pesat karena persaingan dan keterbukaan.”
Langkah tersebut antara lain akan mewajibkan pengujian keamanan terhadap banyak model AI tercanggih yang memerlukan biaya pengembangan lebih dari $100 juta (sekitar Rs 838 crore) atau memerlukan sejumlah daya komputasi tertentu. Pengembang program AI yang beroperasi di negara bagian tersebut juga perlu mengidentifikasi cara untuk mematikan model AI, yang merupakan sebuah tombol mematikan yang efektif.
RUU ini akan menciptakan entitas pemerintah untuk mengawasi pengembangan “model terdepan” yang melampaui kemampuan model yang ada saat ini dan lebih maju.
RUU tersebut mendapat tentangan keras dari berbagai kelompok. Google Alphabet, OpenAI yang didukung Microsoft, dan Meta Platforms, yang semuanya mengembangkan model AI generatif, telah menyatakan keprihatinannya terhadap proposal tersebut.
Beberapa anggota Partai Demokrat di Kongres AS, termasuk Perwakilan Nancy Pelosi, juga menentangnya. Salah satu pendukungnya adalah CEO Tesla Elon Musk, yang juga menjalankan perusahaan kecerdasan buatan bernama xAI. Anthropic yang didukung Amazon mengatakan manfaat dari RUU tersebut kemungkinan akan lebih besar daripada biayanya, meskipun mereka menambahkan bahwa masih ada beberapa aspek yang tampak meresahkan atau ambigu.
Newsom secara terpisah menandatangani undang-undang yang mewajibkan negara bagian untuk mengevaluasi potensi ancaman yang ditimbulkan oleh AI generatif terhadap infrastruktur penting California.
Newsom mengatakan negara bagian sedang melakukan analisis risiko terhadap infrastruktur energi dan penyedia sektor energi yang dikontrak sebelumnya dan akan melakukan penilaian risiko yang sama dengan penyedia infrastruktur air tahun depan dan kemudian dengan sektor telekomunikasi.
© Thomson Reuters 2024
(Cerita ini belum diedit oleh staf NDTV dan dibuat secara otomatis dari feed sindikasi.)
