Dilema Penggunaan Pengambilan Keputusan Algoritma: Antara Etis dan Efisiensi

INDUSTRY.co.id - Setelah perjalanan panjang perkembangan teknologi manusia, memasuki tahun baru, dekade baru, manusia telah dapat menikmati beragam kemudahan yang didapatkan karena kecanggihan teknologi. Tidak dapat dipungkiri lagi, teknologi bisa dikatakan sebagai candu masyarakat modern. Terlebih penemuan teknologi algoritma yang sangat membantu dalam proses pengambilan keputusan sehingga menjadi lebih efisien dan hanya memerlukan waktu singkat. Kata ‘algoritma’ mungkin terdengar familiar di telinga masyarakat. Namun, apa itu algoritma?

Menurut Dr. Panos Parpas yang merupakan seorang professor Departement of Computing di Imperial College London mengatakan bahwa “Terdapat berbagai macam jenis algoritma, tapi, simple nya, algortima mengikuti beberapa instruksi untuk menyelesaikan sebuah permasalahan. Seperti resep membuat kue, sebagai pengganti dari tepung dan suhu oven biasa, algoritma akan mencari beberapa variasi produk yang bisa menghasilkan kue terbaik dari pilihan-pilihan yang ada.”

Kemampuan algoritma dalam memproses sejumlah besar informasi, baik dalamm skala dan kecepatannya, serta kemampuannya dalam mengoptimalkan pilihan bagi manusia dan institusi masyarakat telah mendatangkan banyak keuntungan. Dengan tingkat efisiensi tinggi, algoritma telah banyak diterapkan dalam berbagai sektor seperti transportasi, diagnostik kesehatan dan medis, administrasi publik, peradilan pidana, asuransi, perdagangan, berita, iklan, dan autonomous weapon system yang saat ini banyak memicu perdebatan etis mengenai penggunaannya. 

Terlepas dari berbagai keuntungan tersebut, semakin kompleksnya algoritma telah membuatnya rentan terhadap kesalahan dan kemungkinan bias sehingga masih menjadi tantangan bagi pengambilan keputusan konvensional dimana penilaian manusia dan pertimbangan etis harus diperhitungkan. Penggunaan algoritma untuk mendukung proses pengambilan keputusan ini lebih dikenal sebagai algorithmic decision-making system (dalam bahasa Indonesia: sistem keputusan algoritmik). 

Penggunaan algorithmic decision-making system atau ADS bergantung pada analisis sejumlah besar data pribadi untuk mendapatkan informasi yang dianggap berguna dalam pembuatan keputusan. Meskipun dalam prosesnya, ADS tidak memiliki intervensi manusia, bukan berarti ADS benar-benar independen dari kontrol manusia, terutama dalam proses pemogramannya. Proses itu sendiri melibatkan input data seperti nilai, pertimbangan, dan pendapat programmer yang memungkinkan ADS untuk bertindak dalam batas-batas yang telah ditetapkan oleh programmer-nya. 

Hal ini menunjukkan bahwa semua tindakan ADS masih melibatkan pengambilan keputusan manusia, yang mengindikasikan bahwa ADS tidak sepenuhnya netral seperti yang diharapkan, dan intervensi manusia dalam proses ini bisa dikatakan signifikan karena keduanya terkait secara langsung atau pun tidak langsung dengan berbagai sektor, misalnya, akses ke kredit, pekerjaan, perawatan medis, keputusan peradilan, dan sebagainya. 

Ketergantungan pada ADS tidak diragukan lagi akan menimbulkan berbagai masalah yang berkaitan dengan masalah etis, politik, hukum, dan teknis, dimana masalah-masalah tersebut harus lebih dikaji agar dapat diatasi dengan benar. Bagaimanapun juga, masalah-masalah yang ditimbulkan tidak boleh diabaikan begitu saja karena risiko yang ditimbulkannya dapat berdampak pada individu, ekonomi, dan masyarakat secara keseluruhan.

Risiko ADS untuk individu

Besar kemungkinan bahwa penggunaan ADS dapat berimplikasi pada ancaman privasi dan perlindungan data yang berujung pada pertentangan terhadap prinsip-prinsip dasar kesetaraan, privasi, martabat, otonomi, dan kemauan bebas manusia. Hal ini terkait dengan pengumpulan besar-besaran data pribadi yang diperlukan untuk melatih algoritma. Selain itu, metode penilaian (scoring) menggunakan ADS (yang saat ini telah diaplikasikan di Negara Tiongkok) juga bisa berakibat melemahkan manusia sebagai makhluk yang memiliki nilai dan kepribadian yang kompleks, dan juga mengurangi esensinya menjadi angka dan sekedar profil digital yang merupakan salah satu bentuk dari keterasingan dan pelanggaran terhadap martabat manusia. Kurangnya transparansi dalam proses pemrograman ADS dapat menimbulkan risiko seperti sulitnya menilai kualitas keputusan yang dibuat oleh programmer, sehingga menciptakan kemungkinan terjadinya manipulasi, membuat penentangan terhadap keputusan berdasarkan ADS menjadi lebih sulit. 

Salah satu contoh cacatnya pengambilan keputusan algoritmik dapat dilihat dalam kasus Sarah Wysocki pada tahun 2011, yang merupakan seorang guru di Washington DC yang kehilangan pekerjaannya karena kegagalan algoritma. Ia mendapat ulasan positif dari kepala sekolah dan orang tua anak-anak di kelasnya. Namun, algoritma menentukan bahwa ia berkinerja buruk, sehingga membuatnya dipecat oleh sekolah, sementara di sisi lain sekolah tidak dapat memberikan penjelasan apa pun.

Risiko ADS untuk sektor publik

Penggunaan ADS dalam beberapa sektor seperti energi, pendidikan, perawatan kesehatan, transportasi, sistem peradilan dan keamanan telah digunakan untuk menyediakan layanan dan juga meningkatkan layanan yang sudah ada. Contohnya, ADS telah digunakan dalam penggunakaan kebijkan prediktif, pengukuran cerdas, perlindungan video dan pendaftaran sekolah. Semakin pentingnya peran ADS dalam masyarakat dapat pula dilihat dari penggunaan ADS dalam pertahanan siber untuk melindungi infrastruktur dan mendukung tentara di medan perang. 

Selanjutnya, ADS juga bertanggung jawab dalam menghasilkan 'kerentanan keamanan' dan dapat digunakan oleh orang-orang yang memiliki niat jahat, terutama karena ADS memiliki peran penting dalam membantu kehidupan masyarakat seperti pembangkit listrik tenaga nuklir, keberadaan smart grid, rumah sakit dan mobil. Hacker memiliki kemampuan untuk menyusup ke sistem ini dan menyebabkan kerusakan besar. Selain itu, negara dapat tergoda untuk menyalahgunakan ADS untuk mengontrol dan mempengaruhi perilaku warga negara. Teknologi ini dapat disalahgunakan untuk mengubah informasi untuk merusak integritas wacana demokratis dan reputasi pemerintah atau para pemimpin politik.

Selain itu, satu kemungkinan risiko yang ditimbulkan oleh ADS di sektor publik adalah pengembangan autonomous weapon system atau yang sering disebut AWS yang mampu memilih target secara mandiri, tanpa campur tangan manusia. Dalam pengertian ini, autonomy tidak boleh digunakan secara bergantian dengan konsep autonomy dalam filsafat moral, yang didefinisikan sebagai kehendak bebas manusia, atau kemampuan manusia untuk membuat keputusan moral. Jika manusia tidak sepenuhnya campur tangan dengan tindakannya, maka sistem itu independen ketika memutuskan semua langkah yang diperlukan untuk menyerang.

Meskipun ada banyak perdebatan yang berlanjut mengenai penggunaan AWS dalam pelaksanaan perang, dari perspektif hukum, hukum internasional tidak secara khusus mengatur senjata otomatis dan tidak ada perbedaan hukum di antara mereka. Terlepas dari hal tersebut, senjata apa pun dan penggunaannya harus sesuai dengan prinsip-prinsip Hukum Humaniter Internasional. Prinsip-prinsip seperti perbedaan, proporsionalitas, dan tindakan pencegahan harus dipertimbangkan dalam menggunakan AWS untuk melindungi warga sipil dan benda-benda sipil selama melakukan perang. Ini kemungkinan akan sangat sulit untuk dicapai dalam lingkungan yang kompleks, mengingat kemajuan teknologi saat ini, persyaratan ini akan sulit tercapai dalam waktu dekat. Oleh karena itu, negara-negara yang berencana untuk menggunakan AWS harus memastikan bahwa AWS telah diuji dan ditinjau secara menyeluruh sebelum menggunakannya.

Dalam perspektif etis, telah diperdebatkan bahwa AWS harus dilarang dikarenakan penggunaan pengambilan keputusan algoritma secara fundamental mengabaikan martabat manusia. Seharusnya, penggunaan AWS harus mempertimbangkan konsep martabat manusia yang menempatkan manusia sebagai individu yang harus dihargai dan diperlakukan secara unik dan tak tergantikan.

Pertanyaan penting terletak apakah keputusan untuk mengeksekusi manusia semata-mata didasarkan pada rasionalitas algoritma, suatu entitas yang tidak memiliki agensi moral. Rasionalitas mesin tidak menyerupai rasionalitas manusia yang mencakup kasih sayang. AWS mengambil keputusan secara harfiah dengan cara presisi tanpa ampun dan tanpa pertimbangan moral. Hal tersebut menempatkan manusia sebagai objek belaka dari keputusan yang dihitung secara matematis alih-alih makhluk individual yang unik. Oleh karena itu, dapat dikatakan bahwa penggunaan AWS adalah bentuk pelanggaran terhadap prinsip martabat manusia.

Untuk menyimpulkan tulisan ini, saya percaya bahwa kontrol manusia masih diperlukan dalam pengambilan keputusan berdasarkan algoritma karena kemungkinan ketidakpastian dan biasnya dapat mengarah pada kegagalan dalam pengambilan keputusan. Walaupun ketidakpastian dan bias juga bisa terjadi dalam perilaku manusia, namun tindakan dan keputusan seperti itu masih bisa ditentang oleh individu yang lain. Mengingat ADS lebih banyak diadopsi di berbagai sektor di dunia, hal itu pasti memiliki banyak keuntungan dalam membuat dunia menjadi lebih efisien. 

Selain itu, bias dalam ADS menjadi topik utama dalam membahas penggunaan ADS, karena jika diabaikan resiko tersebut dapat terjadi terus-menerus. Perlu dicatat bahwa pemahaman publik tentang AI perlu ditingkatkan juga untuk membantu warga negara menggunakan hak-hak mereka dan mempertimbangkan pentingnya penggunaan ADS dalam kehidupan sehari-hari. Oleh karena itu dalam menyelesaikan masalah bias algoritmik, perlunya sinergi three-in-one akademisi, pakar teknis, bersama dengan pembuat kebijakan dalam mengembangkan strategi mitigasi terhadap kemungkinan terburuk dampak negatif dari sistem ADS.

Penulis: Putri Oktovianita
Asisten Peneliti Fakultas Humaniora, President University