Penggunaan AI dalam Pemilu, yang Menggembirakan dan Menakutkan

Foto:Tiktok @alpharexofficial

Lalu peniruan suara video rekaman pembicaraan Ketua Partai Nasdem Surya Paloh dan capres nomor 1 Anies Baswedan. Dalam video tersebut terdapat peniruan suara Surya Paloh yang sedang memarahi Anies.

Beredarnya video palsu yang menggunakan AI tersebut sangat berbahaya jika jatuh ke masyarakat yang minim literasi media dan pendidikan politiknya. Mereka dengan mudah bisa percaya dan memengaruhi ideologi atau pemikiran mereka. Ini misalnya dengan beredarnya video mantan Presiden Suharto yang meminta rakyat memilih calon dari Partai Golkar


Foto: X @erwinaksa_id

Strategi alternatif untuk membatasi penggunaan AI secara tidak benar, tentunya dengan membuat peraturan yang lebih besar,lebih ketat akan perlindungan data dan akuntabilitas algoritmik yang bisa mengurangi penyalahgunaan dalam konteks politik.

Saat ini di Indonesia, sudah ada aturan berupaSurat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat Edaran (SE) ini mengaturpelaku usaha aktivitas pemrograman berbasis kecerdasan artifisial pada Penyelenggara Sistem Elektronik (PSE) lingkup publik dan privat.

Beberapa poin penting dari SE ini, mengutip situs web resmi Kominfo, adalahmenegaskan nilai inklusivitas, aksesibilitas, keamanan, kemanusiaan, serta, kredibilitas dan akuntabilitas dalam pemanfaatan AI. Penyelenggaraan AI digunakan sebagai pendukung aktivitas manusia khususnya untuk meningkatkan kreativitas pengguna dalam menyelesaikan permasalahan dan pekerjaan.

Baca Juga: Dapat Sentuhan AI, Google Maps Makin Canggih

Kedua, penyelenggaraan yang menjaga privasi dan data sehingga tidak ada individu yang dirugikan. Ketigapengawasan pemanfatan untuk mencegah penyalahgunaan AI oleh pemerintah, penyelenggara, dan pengguna.

Selain itu, tanggung jawab pengembangan dan pemanfaatan AI juga mencakup agar AItidak diselenggarakan sebagai penentu kebijakan dan/atau pengambil keputusan yang menyangkut kemanusiaan. Kedua, memberikan informasi yang berkaitan dengan pengembangan teknologi berbasis kecerdasan artifisial oleh pengembang untuk mencegah dampak negatif dan kerugian dari teknologi yang dihasilkan.

Terakhir, para pelaku pengguna AI juga harus memperhatikan manajemen risiko dan manajemen krisis dalam pengembangan AI.

Fhadel Izza Mahendra
Kontributor GenSINDO
Politeknik Negeri Media Kreatif Jakarta