Administrator Laguna Beach High School meluncurkan penyelidikan setelah seorang siswa membuat dan memposting “gambar tidak pantas” dari siswa lain menggunakan kecerdasan buatan.
Tidak jelas berapa banyak pelajar yang terlibat dalam skandal tersebut, apa saja isi gambar tersebut atau bagaimana gambar tersebut disebarkan.
Dalam email kepada orang tua tertanggal 25 Maret, Kepala Sekolah Jason Aleman menulis bahwa pimpinan sekolah “mengambil langkah-langkah untuk menyelidiki dan mengatasi masalah ini secara langsung dengan mereka yang terlibat, sambil juga menggunakan situasi ini sebagai momen pengajaran bagi siswa kami, memperkuat pentingnya perilaku yang bertanggung jawab. dan saling menghormati.”
Departemen Kepolisian Pantai Laguna membantu penyelidikan tersebut, namun juru bicara departemen menolak memberikan rincian mengenai penyelidikan tersebut karena orang-orang yang terlibat adalah anak di bawah umur.
Orange County High School bergabung dengan semakin banyak institusi pendidikan yang bergulat dengan penggunaan kecerdasan buatan di ruang kelas dan lingkungan sosial.
Di sekolah-sekolah di seluruh negeri, orang-orang telah menggunakan teknologi deepfake yang dikombinasikan dengan foto asli siswi untuk membuat gambar tubuh telanjang palsu. Gambar palsu yang mendalam dapat diproduksi menggunakan ponsel.
Bulan lalu, lima siswa kelas delapan Beverly Hills dikeluarkan karena keterlibatan mereka dalam membuat dan menyebarkan foto telanjang palsu teman sekelas mereka. Para siswa menempatkan gambar wajah teman sekelas mereka ke tubuh telanjang yang diciptakan oleh kecerdasan buatan. Secara keseluruhan, 16 siswa kelas delapan menjadi sasaran foto-foto tersebut, yang dibagikan melalui aplikasi perpesanan, menurut distrik tersebut.
Seorang siswa sekolah menengah berusia 16 tahun di Calabasas mengatakan mantan pacarnya menggunakan kecerdasan buatan untuk membuat gambar porno dirinya dan mempostingnya. KABC-TV melaporkan hal ini bulan lalu.
Bukan hanya remaja yang menjadi sasaran gambar yang dihasilkan AI. Pada bulan Januari, gambar Taylor Swift yang eksplisit secara seksual yang dihasilkan oleh kecerdasan buatan beredar di media sosial. Situasi ini telah menyebabkan seruan dari para penggemar yang marah agar anggota parlemen mengadopsi undang-undang untuk melindungi terhadap pembuatan dan penyebaran gambar palsu.
“Ini adalah ruang yang sangat sulit, dan kemajuan serta kemampuan teknologi terjadi dengan sangat cepat, sehingga semakin sulit untuk dipahami,” kata Amy Mitchell, direktur eksekutif Pusat Berita, Teknologi, dan Informasi. Inovasi, Pusat Penelitian Kebijakan.
Beberapa rancangan undang-undang federal telah diusulkan, termasuk Undang-Undang Pencegahan Deepfakes Gambar Intim, yang akan melarang pembuatan dan penyebaran materi seksual eksplisit yang dihasilkan oleh kecerdasan buatan tanpa izin dari individu yang difoto. Undang-Undang Pengeditan Deepfakes dan Nonkonsensual yang Mengganggu, atau Defiance Act, yang diperkenalkan tahun ini, akan memungkinkan korban untuk menuntut pembuat deepfake jika mereka tahu korban tidak menyetujui pembuatannya.
Di California, anggota parlemen negara bagian telah mengusulkan perluasan undang-undang yang melarang pornografi balas dendam dan pornografi anak dengan menyertakan gambar yang dihasilkan komputer.
Distrik sekolah juga mencoba untuk mengatasi teknologi ini. Tahun ini, Departemen Pendidikan Orange County mulai mengadakan pertemuan bulanan dengan distrik sekolah untuk membicarakan penggunaan AI dan cara mengintegrasikannya ke dalam sistem pendidikan.
Namun masalah foto yang dimanipulasi seperti yang beredar di Laguna Beach High School semakin parah seiring dengan semakin meluasnya teknologi dan lebih mudah digunakan, menurut para ahli.
Warga Laguna Beach, Sherri Morgan, yang putrinya bersekolah di Laguna Beach High School, mengatakan teknologi kecerdasan buatan dikombinasikan dengan meluasnya penggunaan media sosial di kalangan remaja yang mungkin tidak sepenuhnya memahami konsekuensinya tampaknya menjadi masalah yang sulit diselesaikan.
“Saya pikir media sosial yang ada saat ini semakin menekankan pemahaman yang salah tentang apa yang Anda butuhkan, apa yang Anda inginkan, bagaimana penampilan Anda, bagaimana orang seharusnya memandang Anda,” katanya. “Kami banyak berbicara dengan anak-anak kami tentang dampak teknologi dan media sosial dan tersesat dalam gangguan yang ditimbulkannya, namun ini adalah sebuah tantangan.”
Di Laguna Beach, pejabat distrik tidak memberikan rincian mengenai opsi disipliner potensial yang sedang dipertimbangkan oleh para pejabat. Distrik tersebut mengatakan dalam sebuah pernyataan bahwa setiap insiden “ditangani berdasarkan kasus per kasus dengan mempertimbangkan keadaan individu dari situasi tersebut.”
Sekolah menengah tersebut, yang memiliki lebih dari 1.000 siswa, berencana untuk mengadakan diskusi panel mengenai konten yang dihasilkan AI untuk siswa selama hari sekolah. Komite tersebut akan mencakup petugas sumber daya sekolah, konselor, psikolog dan spesialis media digital dan perpustakaan, tulis Aleman dalam email tindak lanjut kepada orang tua pada hari Jumat.
“Di komunitas kecil kami, insiden ini dapat berdampak luas pada budaya kampus kami,” tulis Aleman. “Tindakan ini tidak hanya mengancam martabat individu, namun juga merusak lingkungan positif dan suportif yang ingin kami bangun di LBHS.”
