"Pengacara robot" Komisi Perdagangan Federal AS mengatakan penipuan ini adalah langkah pertama dalam tindakan keras terhadap kecerdasan buatan

Komisi Perdagangan Federal pada hari Selasa mengumumkan upaya penegakan hukum baru yang disebut Operasi Kepatuhan AI. Sebagai bagian dari upaya ini, Komisi telah mengambil tindakan terhadap beberapa perusahaan yang telah menggunakan kecerdasan buatan untuk “meningkatkan” produk dan layanan yang menipu.

Kasus-kasus tersebut mencakup ulasan palsu yang dihasilkan oleh kecerdasan buatan, “pengacara robot pertama di dunia”, dan skema etalase online.

itu Komisi Perdagangan Federal mengatakan dalam sebuah pernyataan: Faktanya, konsumen telah kehilangan puluhan juta dolar, terpikat oleh janji bahwa penyelesaian masalah dengan menggunakan AI dan otomatisasi akan menghemat waktu, uang, dan, dalam kasus e-commerce, meningkatkan keuntungan.

Pada akhirnya, perusahaan-perusahaan tersebut tidak menepati janjinya dan mengetahui bahwa mereka menipu pelanggan.

“Menggunakan alat AI untuk menipu, menyesatkan, atau menipu orang adalah tindakan ilegal.” Dia berkata Lina M. “Tindakan penegakan FTC memperjelas bahwa tidak ada pengecualian untuk kecerdasan buatan dari undang-undang yang berlaku,” kata F.C Khan, kepala badan tersebut.

Keluhan FTC terhadap Rytr, yang menyediakan layanan penulisan AI, menjelaskan bagaimana pelanggan dapat secara efektif membuat ulasan palsu yang tidak berdasarkan masukan pengguna. Dalam banyak kasus, ulasan yang dihasilkan AI menyertakan informasi palsu yang akan menipu konsumen yang tertarik membeli produk tertentu, kata FTC. Beberapa pelanggan Rytr telah membuat ribuan ulasan yang mungkin berisi informasi yang tidak akurat.

FTC menuduh Rytr menawarkan layanan yang mampu menyebarkan “ulasan palsu dalam jumlah besar yang akan merugikan konsumen dan pesaing yang jujur.” FTC mengusulkan untuk melarang Rytr mengiklankan, mempromosikan, memasarkan, atau menjual layanan yang terkait dengan menghasilkan ulasan atau testimoni konsumen di masa mendatang. Badan tersebut melarang ulasan palsu dan buatan AI pada bulan Agustus.

Sebagai bagian dari Operasi AI Comply, FTC mengambil tindakan terhadap DoNotPay, sebuah perusahaan yang memberi tahu konsumen bahwa bot cerdasnya dapat membantu mereka “menuntut penyerangan tanpa pengacara” dan “membuat dokumen hukum yang valid dalam waktu singkat.” Meskipun perusahaan tersebut menggambarkan layanan tersebut sebagai “pengacara robot pertama di dunia”, perusahaan tersebut belum melakukan pengujian untuk membandingkan chatbot cerdasnya dengan pengacara manusia. Dia tidak memiliki pengacara di stafnya.

Sebaliknya, perusahaan mengatakan kepada pelanggan bahwa mereka dapat memeriksa situs web usaha kecil untuk mengetahui adanya pelanggaran hukum federal dan negara bagian, sebuah fitur yang tidak efektif.

DoNotPay mengatakan dalam sebuah pernyataan kepada Mashable bahwa keluhan FTC berkaitan dengan layanan yang digunakan oleh “beberapa ratus” pelanggan, yang “telah lama dihentikan.” Perusahaan mengindikasikan bahwa mereka menyelesaikan kasus tersebut tanpa mengakui tanggung jawab.

FTC juga mengajukan pengaduan terhadap tiga perusahaan yang memanfaatkan orang yang ingin membuka toko online, termasuk TikTok, Walmart, Amazon, dan Etsy. Perusahaan-perusahaan ini biasanya mengenakan biaya besar untuk memulai toko online yang didukung oleh perangkat lunak khusus dan kecerdasan buatan yang dapat meningkatkan keuntungan mereka. Beberapa pelanggan diminta untuk membeli persediaan yang tidak terjual.

Salah satu perusahaan, FBA Machine, menjanjikan pelanggan kemungkinan menjalankan “bisnis tujuh digit” “bebas risiko.” Perusahaan ini menawarkan jaminan uang kembali palsu kepada pelanggan yang tidak dapat memperoleh kembali investasi awal mereka, yang menurut FTC berkisar antara puluhan ribu hingga ratusan ribu dolar. Secara total, pelanggan kehilangan sekitar $16 juta karena skema ini.

Perusahaan lain, Ascend Ecom, mengatakan kepada pelanggan bahwa mereka dapat menciptakan toko yang pada akhirnya dapat menghasilkan pendapatan bulanan sebesar lima digit, berkat alat AI yang “canggih”. Komisi Perdagangan Federal memperkirakan bahwa skema tersebut menipu pelanggan setidaknya sebesar $25 juta.

Diperbarui: 25 September 2024, 11.55 UTC Cerita ini telah diperbarui untuk menyertakan pernyataan dari DoNotPay.