Jakarta, Fakta Desa - Terkait pengembangan teknologi kecerdasan buatan (AI), Menteri Pengembangan Digital Singapore, Josephine Teo, Mengatakan masa depan akan hancur bila tidak di barengi kerangka yang mumpunni serta harus di sepakati secara International, Sehingga Singapura memberikan peringatan bahaya
Hal itu ia sampaikan dalam konferensi Reuters NEXT di Singapura beberapa saat lalu.Salah satunya terkait penyebaran deepfake selama masa pemilihan umum (pemilu), dikutip dari Reuters, Selasa (9/7/2024).
Di Indonesia, sempat terdapat deepfake yang viral terpaut Presiden RI Joko Widodo( Jokowi) berpidato dalam bahasa Mandarin.
Wakil Menteri Kominfo, Nezar Patria, beberapa waktu lalu menceritakan banyak temannya yang yakin dengan sebaran deepfake Jokowi tersebut. Sementara itu mereka disebut orang- orang yang lumayan cakap secara digital.
"Makin lama makin canggih. Banyak teman saya yang cukup digital savvy nyaris percaya pidato terjadi di Beijing sampai muncul penjelasan hasil karya deepfake," kata Nezar dalam acara Diskusi Multi-Pemangku Kepentingan untuk Pengembangan Kerangka Etika Kecerdasan Artifisial, pada akhir 2023 lalu.
Tak cuma di sektor politik, deepfake juga mempermudah penipuan yang merugikan korban secara finansial. Salah satu contohnya terjadi di Hong Kong beberapa saat lalu.
Tidak hanya di zona politik, deepfake dapat memudahkan penipuan yang merugikan korban secara finansial. Salah satu contohnya telah terjadi di Hong Kong waktu itu
Deepfake berhasil mengelabui seorang pekerja hingga tertipu HK$200 juta atau sekitar Rp 417 miliar.
Deepfake telah berhasil mengelabui seorang pekerja hingga mengalami kerugian HK$ 200 Juta atau sekitar 417 miliar. jumlah ini cukup terbilang besar.
Menurut Kepolisian Hong Kong, penipu menyamar memakai deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.
Korban ditipu dengan disuruh untuk menghadiri panggilan video yang disebut akan dihadiri oleh beberapa beberapa anggota staf lainnya. Namun semuanya sebenarnya adalah bot,
Awal mulanya, pekerja tersebut mencurigai itu merupakan email phishing, sebab berisi permintaan transaksi rahasia.
Tetapi, pekerja tersebut mengesampingkan keraguan awal setelah panggilan video tersebut. Karena, kata Chan, orang lain yang muncul terllihat serta terdengar semacam rekan kerja yang dia tahu. Karenanya, pekerja tersebut sepakat buat mengirimkan total HK$200 juta
Kendati menyadari pentingnya mengatur pengembangan AI secara ketat, namun Singapura menegaskan pihaknya terbuka dengan teknologi masa depan tersebut.
Bahkan, menurut dia, Singapura lebih bersemangat ketimbang khawatir dengan risiko AI. Akan tetapi, memang perlu ditetapkan aturan yang mengurangi risiko dampak negatifnya.