Mungkinkah AI Membantu Pemetaan Populasi Rentan secara Efektif?

Baru-baru ini, International Committee of the Red Cross (ICRC) atau Komite Palang Merah Internasional memamerkan penggunaan kecerdasan buatan (AI) dalam memetakan populasi rentan di wilayah konflik dan daerah terdampak bencana. Secara teknis, hal yang dilakukan oleh ICRC sangat mengesankan.

Namun, para profesional di bidang pembangunan digital perlu melangkah lebih jauh dari sekadar terkagum pada presentasi visual yang memukau. Mereka harus mulai mengajukan pertanyaan-pertanyaan sulit, seperti apa arti sebenarnya dari teknologi ini bagi komunitas yang ingin kita bantu?

Teknologi pemetaan berbasis AI dapat menganalisis citra satelit, data ponsel, dan konten media sosial untuk mengidentifikasi lokasi konsentrasi populasi rentan selama krisis. Kecepatan dan skalanya memang mencengangkan. Pekerjaan yang sebelumnya membutuhkan waktu berminggu-minggu kini bisa diselesaikan hanya dalam hitungan jam. Bagi organisasi kemanusiaan yang berpacu dengan waktu untuk menyalurkan bantuan, kemajuan ini terasa revolusioner.

Namun, di balik kecanggihan itu, ada pertanyaan mendasar yang harus diajukan: seberapa dapat dipercaya hasil pemetaan ini? Kenyataannya, kecanggihan alat pemetaan AI sangat tergantung pada kualitas data latih yang digunakan. Sayangnya, dalam konteks krisis kemanusiaan, data latih justru cenderung bias, tidak lengkap, dan sering kali tidak relevan karena cepat usang. Ketika kita melatih algoritma untuk mengenali kerentanan, kita juga secara tidak sadar menanamkan asumsi tentang seperti apa kerentanan itu seharusnya tampak.

Penelitian terbaru dari Partnership on AI mengungkapkan bahwa model visi komputer sering kali menunjukkan performa lebih buruk ketika diterapkan pada gambar dari negara-negara berpenghasilan rendah. Padahal, wilayah-wilayah semacam itu yang paling sering menjadi sasaran pemetaan AI dalam situasi kemanusiaan. Jika algoritma dilatih terutama menggunakan data dari Eropa atau Amerika Utara, sangat mungkin ia akan keliru mendeteksi atau bahkan mengabaikan kelompok rentan di kawasan seperti Afrika atau Asia Selatan.

Pada akhirnya, masalah pemetaan AI bukan sekadar hal teknis, melainkan juga menyangkut keadilan. Kesalahan dalam mendistribusikan bantuan akibat bias algoritma bisa berdampak fatal. Dalam konteks kemanusiaan, kelalaian semacam itu bisa menjadi persoalan hidup dan mati. Maka, pertanyaan yang lebih mendasar perlu diajukan: apakah pemetaan AI membantu memperkuat atau justru mengurangi otonomi suatu komunitas masyarakat?

Selama ini, pendekatan tradisional dalam menilai kerentanan melibatkan partisipasi langsung warga dalam mengidentifikasi kebutuhan mereka sendiri. Sebaliknya, pemetaan AI cenderung memperlakukan komunitas sebagai objek yang harus dianalisis, bukan sebagai subjek aktif dalam proses pembangunan mereka. Pergeseran ini sangat penting karena puluhan tahun praktik pembangunan telah menunjukkan bahwa keberlanjutan hanya mungkin dicapai bila ada kepemilikan dan partisipasi komunitas.

Penggunaan pemetaan AI dalam memetakan populasi rentan bukanlah hal yang absolut baik atau absolut buruk. Kita perlu memahami bahwa AI hanyalah alat. Sebagai alat, ia bisa menjadi suatu hal yang berguna dan bisa menjadi hal sebaliknya. Dengan kata lain, pemetaan menggunakan AI bisa memperkuat ketimpangan atau justru membangun sistem respons kemanusiaan yang lebih adil. Perbedaannya tergantung pada bagaimana kita merancang dan mengimplementasikannya secara sadar dan bertanggung jawab.

Referensi data: United Kingdom Humanitarian Innovation Hub