Related Articles
Pembuat dari ChatGPT, OpenAI, sedang diselidiki oleh Komisi Perdagangan Federal karena diduga melanggar undang-undang perlindungan konsumen. FTC meminta catatan ekstensif tentang bagaimana OpenAI menangani data pengguna, kemungkinan bahwa itu akan memberikan informasi yang tidak akurat kepada pengguna, dan “risiko bahaya bagi konsumen, termasuk kerugian reputasi.”
Investigasi menimbulkan ancaman bagi hubungan perusahaan dengan legislator, banyak di antaranya terkesan dengan teknologi dan CEO, Sam Altman, dari OpenAI. Mungkin juga menarik lebih banyak perhatian pada posisi OpenAI dalam diskusi panjang tentang potensi bahaya AI generatif terhadap demokrasi, keamanan nasional, dan ekonomi.
FTC menuntut informasi dari OpenAI dalam permintaan investigasi setebal 20 halaman minggu ini, memintanya untuk menjawab lusinan pertanyaan mulai dari bagaimana memperoleh data yang digunakannya untuk melatih model bahasanya yang besar hingga penjelasan tentang “kemampuan ChatGPT untuk menghasilkan pernyataan tentang individu nyata yang salah, menyesatkan, atau meremehkan.”
Keabsahan surat kabar tersebut dikonfirmasikan kepada sumber berita yang kredibel oleh sumber yang mengetahui situasi setelah awalnya dilaporkan oleh The Washington Post minggu lalu. Permintaan komentar dari OpenAI tidak segera ditanggapi. FTC memilih untuk tidak menanggapi.
Permintaan informasi, yang mirip dengan panggilan pengadilan administratif, juga meminta OpenAI untuk bersaksi tentang keluhan publik yang telah diterimanya, daftar tuntutan hukum yang menjadi pihak dan informasi tentang kebocoran data yang diungkapkan perusahaan pada Maret 2023 yang diklaim mengungkap riwayat obrolan dan informasi pembayaran pengguna untuk waktu yang singkat.
Ia meminta penjelasan dalam banyak bahasa tentang bagaimana OpenAI mengevaluasi, menyesuaikan, dan memanipulasi algoritmenya, terutama untuk menghasilkan berbagai hasil atau bereaksi terhadap bahaya. Selain itu, perusahaan diminta untuk menjelaskan tindakan apa pun yang telah diambil untuk mengurangi contoh “halusinasi”, sebuah kata yang digunakan dalam industri untuk menjelaskan hasil ketika AI menghasilkan informasi yang menyesatkan.
Penyelidikan FTC adalah contoh paling jelas dari peraturan langsung pemerintah AS tentang AI hingga saat ini, karena para politisi di Kongres berusaha untuk mengejar ketinggalan dengan sektor yang berkembang pesat di depan dorongan musim gugur ini untuk membuat undang-undang baru yang akan memengaruhinya. AS biasanya berada di belakang pembuat kebijakan internasional lainnya dalam upayanya. Anggota legislatif di Uni Eropa, misalnya, dengan cepat menyelesaikan undang-undang bersejarah yang melarang penggunaan AI dalam pemolisian prediktif dan memberlakukan batasan pada skenario penggunaan berisiko tinggi. FTC meluncurkan penyelidikannya setelah mengeluarkan banyak peringatan kepada perusahaan tentang membuat klaim berlebihan tentang AI atau menggunakan teknologi secara tidak adil.
Dalam postingan blog dan pernyataan publik, telah dinyatakan bahwa perusahaan yang menggunakan AI akan bertanggung jawab atas segala aktivitas yang tidak adil atau menyesatkan terkait dengan teknologi tersebut. FTC memiliki wewenang untuk mengambil tindakan hukum terhadap pelanggaran privasi, pemasaran yang tidak jujur, dan kesalahan lainnya sebagai pengawas perlindungan konsumen terkemuka di negara tersebut.
Menurut Ketua FTC Lina Khan, mandat kongres lembaga tersebut saat ini memberikan kemampuan yang lebih dari cukup untuk melakukan tindakan hukum terhadap penerapan AI yang berbahaya. Misalnya, Khan mengatakan kepada Kongres pada bulan April bahwa sementara AI mungkin “meningkatkan” penipuan dan penipuan, FTC telah memiliki sejarah panjang dalam mengambil tindakan hukum terhadap penipu. “Meskipun alat ini baru, mereka tidak dikecualikan dari aturan yang ada, dan FTC akan dengan penuh semangat menegakkan undang-undang yang harus kami kelola, bahkan di pasar baru ini, ”tulis Khan dalam op-ed New York Times bulan berikutnya.
Sebelumnya, beberapa pencela OpenAI telah melakukannya mengeluh kepada FTC, dengan alasan bahwa kecenderungan ChatGPT untuk halusinasi, bias algoritmik, dan masalah privasi semuanya mungkin melanggar undang-undang perlindungan konsumen AS. OpenAI telah cukup jujur tentang beberapa kekurangan produknya. Misalnya, model dapat “menghasilkan konten yang tidak masuk akal atau tidak benar dalam kaitannya dengan sumber tertentu,” menurut buku putih terkait dengan rilis terbaru GPT, GPT-4. Pengungkapan serupa dibuat oleh OpenAI mengenai potensi diskriminasi yang meluas terhadap minoritas atau kelompok rentan lainnya sebagai akibat dari teknologi seperti GPT.
