Imbas Taylor Swift Jadi Korban Deepfake AI, Microsoft Langsung Ambil Tindakan Tegas

Ladiestory.id - CEO Microsoft, Satya Nadella, ikut menyoroti kasus foto Taylor Swift yang diedit sedemikian rupa menggunakan teknologi artificial intelligence (AI) hingga menjadi telanjang, dan disebarkan di laman media sosial X.

Foto deepfake yang dibuat oleh oknum tidak bertanggung jawab itu pun disebut dibuat menggunakan generator gambar AI Designer Microsoft. Sebagai CEO, Satya Nadella pun merasa harus bertanggung jawab.

"Yang pertama adalah saya kembali ke tanggung jawab kita untuk memperketat semua pagar pembatas yang perlu ditempatkan di sekitar teknologi sehingga ada lebih banyak konten aman yang diproduksi," kata Nadella.

"Saya pikir kita bisa mengatur lebih dari apa yang kita berikan pada diri kita sendiri. Ini tentang konvergensi masyarakat secara global terhadap norma-norma tertentu, dan kita dapat melakukannya, terutama ketika hukum dan penegakan hukum serta platform teknologi dapat bersatu,” ucap Nadella melanjutkan.

Sarah Bird, Pimpinan Teknik AI yang Bertanggung Jawab di Microsoft pun membenarkan perubahan tersebut. Microsoft mengatakan meskipun mereka secara aktif menyelidiki masalah ini dan mencoba menghentikan penyalahgunaan oleh oknum, mereka tidak dapat memverifikasi bahwa gambar Swift yang diposting di X dibuat dengan Designer.

Sebagai informasi, beberapa waktu lalu foto penyanyi ternama, Taylor Swift yang diedit menggunakan generator AI tersebar di laman media sosial X. Dari penjelasan tim Microsoft, Designer melarang pengguna membuat foto menggunakan perintah teks seperti “Taylor Swift telanjang”.

Namun, individu menemukan jalan keluar dari perundingan tersebut dengan sedikit salah mengeja nama-nama terkenal dan mendeskripsikan foto-foto yang akhirnya terlihat menjurus ke arah seksual tanpa menggunakan bahasa seksual apa pun di 4chan dan saluran Telegram.

Imbas insiden tersebut, Microsoft dan CEO X, Elon Musk, memblokir total pencarian ‘Taylor Swift di media sosial X untuk mencegah penyebaran yang lebih meluas.

Penting untuk diketahui bahwa membagikan gambar eksplisit, baik deepfake atau tidak, dapat menimbulkan konsekuensi serius. Karena alasan etis dan alasan lainnya, disarankan untuk menghindari pembuatan, pembagian, atau kontribusi terhadap penyebaran konten tersebut.