Jakarta (ANTARA) - Wakil Menteri Komunikasi dan Digital Nezar Patria menjelaskan mengenai tantangan apa yang perlu diantisipasi, khususnya etika dalam teknologi kecerdasan buatan (AI).
Setidaknya, ia menjelaskan, ada sebanyak tujuh tantangan etika dalam teknologi AI yang perlu diantisipasi. Salah satunya adalah bias dan diskriminasi.
"Karena AI menggunakan data, dan pengolahan data ini dilakukan atau disiapkan oleh sebuah foundation model, yang berisi algoritma tertentu dan penyusunan algoritma ini terkadang juga tidak luput dari bias para developernya," ujar Nezar dalam sambutannya di acara Tech & Telco Summit 2025 di Jakarta, Jumat.
Menurut Nezar, bias ini disebabkan oleh manusia, di mana dalam konteks ini merupakan developer (pengembang) dari AI tersebut. Ia menilai, manusia memiliki kepercayaan tertentu dalam hal tertentu juga.
Kemudian data-data dari AI pun diambil dari sumber-sumber yang sudah ada bias-bias tertentu. Bias ini pun beragam, meliputi ras, suku, agama sehingga hasil data AI juga cukup mendorong pada kelompok masyarakat tertentu.
Lalu yang kedua yakni transparansi dan akuntabilitas. Menurut Nezar, banyak dari sistem AI beroperasi seperti black box (kotak hitam), di mana proses internalnya sulit dipahami.
"Jadi kadang-kadang sulit ditebak dengan model yang ada, dan sudah banyak riset juga bagaimana memecahkan persoalan black box dalam prosesing data yang dilakukan oleh artificial intelligence ini," ucap Nezar.
Hal ini berdampak pada sulitnya menilai serta mengetahui, siapa yang bertanggung jawab atas keputusan yang dibuat oleh teknologi AI.
Baca juga: Central Group manfaatkan AI untuk edukasi properti
Baca juga: Mendag ajak UMKM gunakan AI untuk dorong tembus pasar ekspor
Baca juga: Nubia andalkan performa dan fitur AI
