Technologue.id, Jakarta - Penggunaan kecerdasan buatan terus berkembang, dengan banyak perusahaan yang memasukkan teknologi ini ke dalam layanan mereka. Microsoft contohnya yang terus meningkatkan pengalaman pengguna melalui teknologi AI generatif yang membuat teks dan gambar.
Namun, sangat penting untuk berhati-hati dengan AI, karena penggunaan yang tidak tepat dapat menyebabkan masalah yang signifikan seperti baru-baru ini terjadi pada salah satu selebriti dunia, Taylor Swift yang menjadi korban deepfake AI.
Baca Juga:
Soeharto Dihidupkan Kembali Lewat Teknologi Deepfake, Ini Isi Pesannya
"Bayangkan bisa membuat foro apapun yang diinginkan meskipun Anda bukan ahli photoshop. Ya, Anda tidak perlu membayangkan karena berkat AI, hal itu menjadi mungkin," ujar Microsoft.
Microsoft menghadapi tantangan ketika sebuah alat, yang awalnya digunakan untuk membuat gambar yang dihasilkan AI, disalahgunakan untuk konten tidak pantas yang melibatkan selebriti.
Perusahaan mengumumkan bahwa mereka berhasil memperbaiki kerentanan keamanan untuk mencegah video dan foto hasil teknologi deepfake. Microsoft menemukan celah keamanan yang memungkinkan penyerang memanipulasi parameter API tertentu.
Untuk memperbaiki masalah ini, Microsoft merilis pembaruan yang memblokir penggunaan parameter yang tidak valid di API. Sayangnya, langkah ini tidak akan secara efektif mengatasi krisis deepfake yang semakin meningkat.
"Berkat kemajuan dalam kecerdasan buatan dan teknologi, membuat konten deepfake menjadi sangat sederhana. Foto dan video yang dimanipulasi sering digunakan untuk menyebarkan berita palsu atau melakukan kampanye kotor," tambah Microsoft.
Baca Juga:
Cegah Penipuan Deepfake, McAfee Ciptakan Penangkalnya
Selain Microsoft, platform X (Twitter) juga telah membatasi pencarian Taylor Swift untuk mencegah penyebaran video dan foto di media sosial.
Sebagai informasi, membagikan gambar eksplisit, baik deepfake atau tidak, dapat menimbulkan konsekuensi serius. Karena alasan etis dan alasan lainnya, disarankan untuk menghindari pembuatan, pembagian, atau kontribusi terhadap penyebaran konten tersebut.