Diterjemahkan  bebas oleh: Sutoyo Abadi - Koordinator Kajian Politik Merah Putih 

JUDUL aslinya adalah "AI presents political peril for 2024 with threat to mislead voters" (By David Klepoer and Ali Swanson, May 14, 2023).

Isi artikel utuh merupakan terjemahan dari artikel aslinya, beberapa paragraf dihapus karena artikel sangat panjang (tanpa mengubah isinya) akan melelahkan sebagian pembaca,  dengan penambahan makna istilah semata untuk mempermudah pembaca cepat memahaminya.

Pada bagian akhir ada tambahan narasi bahwa apa yang terjadi di negara maju dengan teknologi canggihnya dipastikan masuk ke negara berkembang termasuk Indonesia. Dengan dampak kerusakan dari manipulasi informasi politik yang hanya akan mengejar asal memang.

Kecerdasan Buatan (AI) adalah bidang ilmu komputer yang dikhususkan untuk memecahkan masalah kognitif yang umumnya terkait dengan kecerdasan manusia, seperti pembelajaran, pemecahan masalah, dan pengenalan pola.

Kecerdasan Buatan, sering disingkat sebagai "AI", mungkin berkonotasi dengan robotika atau adegan futuristik, Kecerdasan Buatan (AI) mengungguli robot fiksi ilmiah, ke dalam non-fiksi ilmu komputer canggih modern.

Insinyur komputer dan ilmuwan politik yang cenderung teknologi telah memperingatkan selama bertahun-tahun bahwa alat kecerdasan buatan yang murah dan kuat akan segera memungkinkan siapa pun membuat gambar, video, dan audio palsu yang cukup realistis untuk menipu pemilih dan mungkin mempengaruhi pemilihan. 

Gambar sintetik yang muncul sering kali kasar, tidak meyakinkan, dan mahal untuk diproduksi, terutama ketika jenis mis-informasi lainnya begitu murah dan mudah disebarkan di media sosial.

Ancaman yang ditimbulkan oleh AI dan apa yang disebut deepfake (mengutip TechTarget, Deepfake adalah salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video hoax yang cukup meyakinkan).

Deepfake dibuat menggunakan dua algoritma AI yang saling bertentangan: satunya disebut generator, yang lain disebut dis kriminatif.

Alat AI generatif yang canggih kini dapat membuat suara manusia yang dikloning dan gambar, video, dan audio hiper-realistis dalam hitungan detik, dengan biaya minimal. 

Ketika diikat ke algoritma media sosial yang kuat, konten palsu dan dibuat secara digital ini dapat menyebar jauh dan cepat dan menargetkan audiens yang sangat spesifik, berpotensi melakukan trik kotor kampanye.

Implikasi untuk kampanye dan pemilu 2024 sama besarnya dengan meresahkannya : AI generatif tidak hanya dapat menghasilkan email, teks, atau video kampanye yang ditargetkan dengan cepat, tetapi juga dapat digunakan untuk menyesatkan pemilih, meniru identitas kandidat, dan melemahkan pemilu dalam skala dan waktu tertentu.

A.J. Nash, wakil presiden intelijen di perusahaan keamanan siber ZeroFox. ”Bagi saya, lompatan besar ke depan adalah kemampuan audio dan video yang muncul.

Ketika Anda dapat melakukannya dalam skala besar, dan mendistribusikannya di platform sosial, itu akan berdampak besar.

Pakar AI dapat dengan cepat menjelaskan sejumlah skenario yang mengkhawatirkan di mana AI generatif digunakan untuk membuat media sintetik untuk tujuan membingungkan pemilih, memfitnah kandidat, atau bahkan menghasut kekerasan.

Pesan robocall otomatis, dengan suara kandidat, menginstruksikan pemilih untuk memberikan suara pada tanggal yang salah. Rekaman audio seorang kandidat yang mengaku melakukan kejahatan atau mengungkapkan pandangan rasis. 

Bisa memunculkan rekaman video yang menunjukkan seseorang memberikan pidato atau  wawancara yang tidak pernah mereka berikan. Gambar palsu yang dirancang agar terlihat seperti laporan berita lokal, secara keliru mengklaim seorang kandidat keluar dari pencalonan.

“Banyak orang akan mendengarkan. Tapi itu bukan dia.” Mantan Presiden Donald Trump, yang mencalonkan diri pada tahun 2024, telah membagikan konten buatan AI kepada para pengikutnya di media sosial. 

Video yang dimanipulasi dari pembawa acara CNN Anderson Cooper yang dibagikan Trump di platform Truth Social miliknya pada hari Jumat, yang mendistorsi reaksi Cooper terhadap balai kota CNN minggu lalu dengan Trump, dibuat menggunakan alat kloning suara AI.

Sebuah iklan kampanye distopia (merupakan suatu komunitas atau masyarakat yang tidak didambakan atau terkesan menakutkan) yang dirilis bulan lalu oleh Komite Nasional Partai Republik menawarkan gambaran sekilas tentang masa depan yang dimanipulasi secara digital ini.

Iklan online, yang muncul setelah Presiden Joe Biden mengumumkan kampanye pemilihannya kembali, dan dimulai dengan gambar Biden yang aneh dan sedikit menyesatkan serta teks "Bagaimana jika presiden terlemah yang pernah kita miliki terpilih kembali?"

“Pandangan yang dihasilkan oleh AI ke dalam kemungkinan masa depan negara jika Joe Biden terpilih kembali pada tahun 2024,” demikian bunyi deskripsi iklan dari RNC.

RNC mengakui penggunaan AI, tetapi yang lain, termasuk kampanye politik jahat dan musuh asing, tidak akan melakukannya. Hal ini disampaikan oleh Petko Stoyanov kepala petugas teknologi global di Forcepoint, sebuah perusahaan keamanan siber yang berbasis di Austin, Texas.

Stoyanov meramalkan bahwa kelompok yang ingin mencampuri demokrasi AS akan menggunakan AI dan media sintetik sebagai cara untuk mengikis kepercayaan.

Apa yang terjadi jika entitas internasional — penjahat dunia maya atau negara bangsa — menyamar sebagai seseorang. Apa dampaknya? Apakah kita punya jalan lain? kata Stoyanov. 

“Kita akan melihat lebih banyak informasi yang salah dari sumber internasional.” Disinformasi politik yang dihasilkan oleh AI telah menjadi viral secara online menjelang pemilu 2024, mulai dari video Biden yang direkayasa yang tampaknya memberikan pidato yang menyerang orang transgender hingga gambar anak-anak yang dibuat oleh AI yang seharusnya mempelajari satanisme di perpustakaan. 

Gambar AI yang muncul untuk menunjukkan foto Trump juga menipu beberapa pengguna media sosial meskipun mantan presiden itu tidak mengambilnya ketika dia didakwa dan diadili di pengadilan pidana Manhattan karena memalsukan catatan bisnis.

Gambar lain yang dibuat oleh AI menunjukkan Trump menolak penangkapan, meskipun pembuatnya dengan cepat mengetahui asal usulnya.

Undang-undang yang mengharuskan kandidat untuk memberi label iklan kampanye yang dibuat dengan AI telah diperkenalkan di DPR oleh Rep. Yvette Clarke, D-N.Y., yang juga mensponsori undang-undang yang mengharuskan siapa pun yang membuat gambar sintetis untuk menambahkan tanda air yang menunjukkan fakta. Beberapa negara bagian telah menawarkan  proposal mereka sendiri untuk mengatasi masalah tentang deepfake.

Clarke mengatakan ketakutan terbesarnya adalah bahwa AI generatif dapat digunakan sebelum pemilu 2024 untuk membuat video atau audio yang memicu kekerasan dan membuat orang Amerika saling bermusuhan. “Penting bagi kami untuk mengikuti perkembangan teknologi,” kata Clarke kepada The Associated Press. 

“Kita harus memasang beberapa pagar pembatas. Orang bisa tertipu, dan hanya butuh sepersekian detik. Orang-orang sibuk dengan kehidupan mereka dan mereka tidak punya waktu untuk memeriksa setiap informasi. AI dipersenjatai, di musim politik, itu bisa sangat menggangu 

Awal bulan ini, sebuah asosiasi perdagangan untuk konsultan politik di Washington mengutuk penggunaan "deepfake" (Deepfake adalah salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video hoax yang cukup meyakinkan )

Deepfake dibuat menggunakan dua algoritma AI yang saling bertentangan: satunya disebut generator, yang lain disebut diskriminator. dalam iklan politik, menyebutnya "penipuan" dengan "tidak ada tempat dalam kampanye etis yang sah". 

Bentuk kecerdasan buatan lainnya selama bertahun-tahun telah menjadi fitur kampanye politik, menggunakan data dan algoritme untuk mengotomatis kan tugas seperti menargetkan pemilih di media sosial.

Artikel ini menggambarkan sangat mungkin rezim akan melakukan praktek politik kotor dengan teknologi AI. Menebar informasi bohong dan memanipulasi informasi palsu, kepada masyarakat luas.

Kejahatan paling buruk adalah memanipulasi angka hasil pemilihan presiden  dengan angka palsu hasil cloning angka rekayasa curiannya . 

Bukan hoak dan bukan meng ada ada prediksi dan kecurigaan masyarakat bahwa angka kemenangan salah satu capres 2024 saat ini sudah dipersiapkan.. ****