Technologue.id, Jakarta - Pemimpin teknisi perangkat lunak Microsoft, Shane Jones, memperingatkan bahwa perusahaan mengabaikan peringatan bahwa alat AI mereka menciptakan gambar kekerasan dan seksual.
Jones mengatakan kepada CNBC bahwa dia berulang kali memperingatkan Microsoft tentang konten mengkhawatirkan yang dia lihat saat menjadi sukarelawan untuk menguji kerentanan alat tersebut. Microsoft gagal menghapus alat tersebut atau menerapkan perlindungan sebagai tanggapannya, kata Jones, atau bahkan memposting pengungkapan untuk mengubah peringkat produk menjadi matang di toko Android, dikutip dari Arstechnica.
Microsoft tampaknya tidak melakukan apa pun selain merujuknya untuk melaporkan masalah tersebut ke OpenAI, pembuat model DALL-E yang mendorong output Copilot Designer. OpenAI tidak pernah merespons, kata Jones, jadi dia mengambil langkah drastis untuk mengingatkan masyarakat akan masalah yang dia temukan di alat Microsoft.
Ia memulai dengan memposting surat terbuka, menyebut OpenAI di LinkedIn. Kemudian, ketika tim hukum Microsoft menyuruhnya untuk menghapusnya, dia melakukan apa yang diperintahkan, namun dia juga mengirimkan surat kepada anggota parlemen dan pemangku kepentingan lainnya, mengibarkan bendera merah di segala arah. Itu termasuk surat yang dikirim baru-baru ini ke Komisi Perdagangan Federal dan dewan direksi Microsoft, CNBC melaporkan.
Baca Juga:
Microsoft Luncurkan AI Founders Club di Indonesia
Dalam surat Jones kepada FTC Chair Lina Khan, Jones mengatakan bahwa Microsoft dan OpenAI telah menyadari masalah ini setidaknya sejak bulan Oktober dan akan "terus memasarkan produk ke 'siapa pun, di mana pun, perangkat apa pun'" kecuali jika FTC melakukan intervensi.
Bloomberg juga meninjau surat Jones dan melaporkan bahwa Jones mengatakan kepada FTC bahwa meskipun Copilot Designer saat ini dipasarkan sebagai desainer yang aman untuk anak-anak, namun secara acak ia menghasilkan “gambar wanita yang tidak pantas dan diobjektifikasi secara seksual dalam beberapa gambar yang dibuatnya".
Hal ini juga dapat digunakan untuk menghasilkan “konten berbahaya dalam berbagai kategori lainnya termasuk, bias politik, penggunaan minuman beralkohol dan narkoba di bawah umur, penyalahgunaan merek dagang dan hak cipta perusahaan, teori konspirasi, dan agama".
Dalam surat terpisah, Jones juga meminta dewan direksi Microsoft untuk menyelidiki pengambilan keputusan AI di Microsoft dan melakukan “peninjauan independen terhadap proses pelaporan insiden AI yang bertanggung jawab di Microsoft.” Hal ini diperlukan setelah Jones melakukan “upaya luar biasa untuk mencoba mengangkat masalah ini secara internal,” termasuk melapor langsung ke Office of Responsible AI Microsoft dan “manajemen senior yang bertanggung jawab atas Copilot Designer,” menurut laporan CNBC.