Cyberthreat.id - Miriam masih berusia 21 tahun ketika dia menikah dengan Nick, seorang pemilik bisnis lokal di sebuah negara bagian di Amerika Serikat dan pernah bekerja di bidang keuangan. Dia tak pernah menyangka, pernikahannya dengan pria yang 16 tahun lebih tua darinya itu akan membuatnya terlilit masalah keuangan.

Itu bermula dari satu kartu kredit. Satu-satunya yang dia punya. Saat itu, Nick berencana membeli sebuah bisnis dan butuh uang tambahan sebesar US$ 5.000. Nick berjanji langsung melunasinya keesokan harinya.

Lantaran awalnya pembayarannya lancar, nilai skor kredit Miriam (yang meminta nama aslinya dirahasiakan) meningkat. Dia yang tidak punya pengetahuan keuangan, segera mempercayakan soal itu kepada Nick. Nick kemudian membuka lebih banyak kartu kredit atas nama Miriam.

Masalah muncul tiga tahun kemudian. Nick meminta Miriam berhenti bekerja dan membantu bisnis. Miriam menurut. Nick menyuruhnya mendaftar di sekolah pascasarjana dengan menambah hutang kartu kredit. Nick berjanji akan membereskan hutang-hutang itu, dan Miriam percaya saja.

Tak lama kemudian, Nick berhenti melunasi hutang kartu kredit atas nama Miriam. Akibatnya, skor kredit Miriam pun melorot.

Miriam berusaha memakluminya. Mempertahankan pernikahan dengan pria yang telah memberinya tiga anak. Hingga suatu hari, FBI datang ke rumah mereka dan menangkap Nick. Di pengadilan federal, hakim memvonisnya bersalah atas penipuan online senilai US$250 ribu.

Di sisi lain, Miriam harus menghadapi tagihan puluhan ribu dolar yang diambil Nick atas namanya.

"Pada hari dia masuk penjara, saya hanya punya uang tunai US$ 250 (setara Rp3,5 juta), rumah yang disita, mobil yang ditarik kembali oleh leasing, dan tiga anak," kata Miriam kepada penulis Karen Hao seperti dilansir dari MIT Technology Review.

Padahal, sebulan sebelumnya dia masih tinggal di rumah yang bagus dan memiliki pembantu. Kini, Miriam menemukan dirinya benar-benar miskin dan terjerat hutang akibat ulah suaminya.

Miriam adalah penyintas dari apa yang dikenal sebagai "hutang paksa", sebuah bentuk pemaksaaan yang biasanya dilakukan oleh pasangan atau anggota keluarga.

"Meskipun hal ini sudah berlangsung lama, perbankan digital telah mempermudah jalan untuk membuka rekening dan mengambil pinjaman atas nama korban," kata Carla Sanchez-Adams, pengacara di Texas RioGrande Legal Aid.

Di era penilaian layak tidaknya seseorang mendapat kucuran kredit dilakukan secara otomatis menggunakan algoritma skor kredit berbasis kecerdasan buatan (artificial intelligence), dampaknya bisa jauh lebih menghancurkan.

Di Amerika Serikat, skor kredit telah digunakan selama beberapa dekade untuk menilai kelayakan kredit konsumen, tetapi sekarang cakupannya jauh lebih besar karena didukung oleh algoritma: tidak hanya mempertimbangkan lebih banyak data, baik dalam volume dan jenis, tetapi juga semakin memengaruhi apakah Anda dapat membeli mobil, menyewa apartemen, atau mendapatkan pekerjaan penuh waktu.

Pengaruh komprehensifnya, jika skor Anda rusak, hampir tidak mungkin untuk pulih. Lebih buruk lagi, algoritma yang dimiliki oleh perusahaan swasta tidak mengungkapkan bagaimana mereka mengambil keputusan. Korban dapat tiba-tiba terpelanting ke titik terendah, yang terkadang berakhir dengan tunawisma atau kembali menjadi pelaku kekerasan di jalanan.

Algoritma penilaian kredit bukanlah satu-satunya yang memengaruhi kesejahteraan ekonomi masyarakat dan akses ke layanan dasar. Algoritma sekarang memutuskan pasien mana yang menerima perawatan medis, atau keluarga mana yang mendapatkan akses ke perumahan yang layak.

Bagi yang mampu, barangkali mereka bisa melaluinya. Tetapi bagi mereka yang berpenghasilan rendah, pertumbuhan yang cepat dan adopsi sistem pengambilan keputusan otomatis telah menciptakan jaring tersembunyi yang bisa melemparkan seseorang dalam jebakan tak berkesudahan.

Untungnya, sekelompok pengacara sipil mulai mengadvokasi perkara semacam ini. Berkaca dari skor algoritma penilaian risiko yang diterapkan di kasus-kasus kriminal, mereka membangun komunitas dan mengembangkan strategi litigasi.

Michele Gilman, seorang profesor hukum di Universitas Baltimore mengatakan,“Kami harus bangun, berlatih. Jika kita ingin menjadi pengacara holistik yang benar-benar baik, kita perlu menyadari hal itu."

Gilman telah membuka kantor hukum di Baltimore selama 20 tahun. Dalam pekerjaannya sebagai pengacara sipil dan pengacara kemiskinan, kasusnya selalu bermuara pada hal yang sama: mewakili orang-orang yang kehilangan akses ke kebutuhan dasar, seperti perumahan, makanan, pendidikan, pekerjaan, atau perawatan kesehatan. Terkadang itu membuatnya harus berhadapan dengan lembaga pemerintah. Di lain waktu, dia berurusan dengan agen pelaporan kredit, atau tuan tanah. Perselisihan tentang kelayakan klien kini semakin melibatkan beberapa jenis algoritma.

“Mereka terjerat dalam begitu banyak algoritma berbeda yang melarang mereka mengakses layanan dasar. Dan klien mungkin tidak menyadarinya, karena kebanyakan sistem ini yang tidak terlihat," ujarnya.

Dia tidak ingat persis kapan dia menyadari bahwa beberapa keputusan layak tidaknya seseorang mendapatkan sesuatu, diputuskan oleh algoritma.

Suatu kali, dia mewakili seorang lansia, klien penyandang disabilitas yang secara misterius terputus dari bantuan perawatan kesehatan di rumah yang didanai oleh Medicaid. “Kami tidak dapat menemukan alasannya,” kenang Gilman. “Dia semakin sakit, dan biasanya jika Anda semakin sakit, Anda mendapat lebih banyak jam perawatan, bukan lebih sedikit.”

Di persidangan, barulah Gilman menyadari penyebabnya. Saksi yang mewakili negara mengungkapkan bahwa pemerintah baru saja mengadopsi algoritma baru. Saksi, perawat, tidak bisa menjelaskan apapun tentang itu.

“Tentu saja tidak — mereka membelinya dari rak. Dia seorang perawat, bukan ilmuwan komputer. Dia tidak dapat menjawab faktor apa yang menyebabkannya. Bagaimana pembobotannya? Apa hasil yang Anda cari? Jadi saya bersama  tim saya berpikir itu seperti, 'Oh, apakah saya akan memeriksa ulang algoritma?'” ujarnya.

Bagi Kevin De Liban, pengacara di Legal Aid of Arkansas, perubahan itu sama bahayanya. Pada 2014, negara bagiannya juga menerapkan sistem baru untuk mendistribusikan bantuan di rumah yang didanai Medicaid, memangkas sejumlah orang yang sebelumnya memenuhi syarat. Saat itu, dia dan rekan-rekannya tidak dapat mengidentifikasi akar masalahnya. Mereka hanya tahu ada sesuatu yang berbeda.

“Kami dapat mengenali bahwa ada perubahan dalam sistem penilaian dari 20 pertanyaan kertas kuesioner menjadi 283 pertanyaan kuesioner elektronik,” katanya.

Dua tahun kemudian, ketika kesalahan dalam algoritma sekali lagi membawanya dalam kasus hukum, De Liban akhirnya sampai ke akar masalahnya. Dia menyadari bahwa perawat memberi tahu pasien, "Komputer yang melakukannya — bukan saya."

“Itulah yang memberi tahu kami,” katanya. “Jika saya mengetahui apa yang saya ketahui pada tahun 2016, saya mungkin akan melakukan pekerjaan advokasi yang lebih baik pada tahun 2014,” tambahnya.

Gilman sejak itu menjadi jauh lebih cerdas. Dari sudut pandangnya yang mewakili klien dengan berbagai masalah, dia mengamati naik turunnya dua jaringan algoritmik. Yang pertama terdiri dari algoritma pelaporan kredit, seperti yang menjerat Miriam, yang memengaruhi akses ke barang dan layanan pribadi seperti mobil, rumah, dan pekerjaan.

Yang kedua mencakup algoritma yang diadopsi oleh lembaga pemerintah, yang memengaruhi akses ke tunjangan publik seperti perawatan kesehatan, pengangguran, dan layanan tunjangan anak.

Di sisi pelaporan kredit, pertumbuhan algoritma telah didorong oleh perkembangan data, yang semakin mudah dikumpulkan dan dibagikan. Laporan kredit bukanlah hal baru, tetapi belakangan ini jejaknya jauh lebih luas. Agen pelaporan konsumen, termasuk biro kredit, perusahaan penyaringan penyewa, atau layanan verifikasi cek, mengumpulkan informasi ini dari berbagai sumber: catatan publik, media sosial, penjelajahan web, aktivitas perbankan, penggunaan aplikasi, dan banyak lagi. Algoritma kemudian menetapkan skor "kelayakan" orang, yang sangat penting dalam pemeriksaan latar belakang yang dilakukan oleh pemberi pinjaman, pemberi kerja, tuan tanah, bahkan sekolah.

Lembaga pemerintah, di sisi lain, didorong untuk mengadopsi algoritma ketika mereka ingin memodernisasi sistem mereka. Dorongan untuk mengadopsi aplikasi berbasis web dan alat digital dimulai pada awal tahun 2000-an dan berlanjut dengan pergerakan menuju lebih banyak sistem otomatis yang digerakkan oleh data dan AI. Ada alasan bagus untuk mengupayakan perubahan ini. Selama pandemi, banyak sistem tunjangan pengangguran berjuang untuk menangani permintaan baru dalam jumlah besar, yang menyebabkan penundaan yang signifikan. Memodernisasi sistem lama ini menjanjikan hasil yang lebih cepat dan lebih andal.

Tetapi proses pengadaan perangkat lunak jarang transparan, dan karenanya tidak memiliki akuntabilitas. Badan publik sering membeli alat pengambilan keputusan otomatis langsung dari vendor swasta. Hasilnya adalah ketika sistem menjadi kacau, individu yang terkena dampak —— dan pengacara mereka — dibiarkan dalam kegelapan.

"Mereka tidak mengiklankannya di mana pun,” kata Julia Simon-Mishel, pengacara di Philadelphia Legal Assistance.

“Ini sering tidak ditulis dalam panduan kebijakan atau manual kebijakan apa pun. Masyarakat berada dalam posisi yang dirugikan," ujarnya.

Kurangnya pemeriksaan publik juga membuat sistem lebih rentan terhadap kesalahan. Salah satu malfungsi yang paling parah terjadi di Michigan pada tahun 2013. Setelah upaya besar-besaran untuk mengotomatiskan sistem tunjangan pengangguran negara bagian, algoritma yang dipakai salah menandai lebih dari 34.000 orang karena melakukan penipuan.

“Ini menyebabkan hilangnya banyak manfaat,” kata Simon-Mishel. “Ada kebangkrutan; sayangnya ada kasus bunuh diri. Itu benar-benar berantakan."

Orang-orang dengan penghasilan rendah menanggung beban pergeseran penilaian oleh algoritma. Selama bertahun-tahun, Gilman telah melihat semakin banyak kasus di mana klien berisiko memasuki lingkaran setan.

“Satu orang berjalan melalui begitu banyak sistem setiap hari. Maksudku, kita semua begitu. Tapi konsekuensinya jauh lebih keras bagi orang miskin dan minoritas," katanya.

Dia mengangkat kasus terkini di kliniknya sebagai contoh. Seorang anggota keluarga kehilangan pekerjaan karena pandemi dan tidak diberi tunjangan pengangguran karena kegagalan sistem otomatis. Keluarga tersebut kemudian terlambat membayar sewa, yang menyebabkan pemilik rumah mengajukan tuntutan untuk mengusir mereka.

Meskipun penggusuran tidak sah karena moratorium CDC, gugatan pengusiran itu bisa diakses sebagai catatan publik. Artinya, ketika nanti mereka katakanlah hendak mencari rumah sewa lagi, maka catatan pengusiran itu otomatis menyulitkan mereka di masa depan.

Kegagalan mereka untuk membayar sewa dan utilitas juga bisa mempengaruhi skor kredit mereka, yang sekali lagi berdampak.

"Jika mereka mencoba mengakses layanan telepon seluler atau mengambil pinjaman atau membeli mobil atau melamar pekerjaan, itu akan menjadi efek beruntun,” kata Gilman.

Pada bulan September, Gilman, yang saat ini menjadi pengajar di lembaga penelitian Data dan Society, merilis laporan yang mendokumentasikan semua algoritma yang mungkin dihadapi oleh pengacara kemiskinan. Disebut Poverty Lawgorithms, itu dimaksudkan untuk menjadi panduan bagi rekan-rekannya di lapangan. Isinya menjelaskan cara menangani masalah yang disebabkan oleh algoritma dan teknologi berbasis data lainnya dalam cakupan hukum yang ada.

Jika klien ditolak mendapatkan apartemen karena nilai kredit yang buruk, misalnya, laporan tersebut merekomendasikan agar pengacara terlebih dahulu memeriksa apakah data yang dimasukkan ke dalam sistem penilaian akurat. Berdasarkan Fair Credit Reporting Act, agen pelapor diwajibkan untuk memastikan validitas informasi mereka, tetapi hal ini tidak selalu terjadi. Mempertanyakan klaim yang salah dapat membantu memulihkan kredit klien dan, dengan demikian, akses ke perumahan.

Gilman berharap laporan itu akan menjadi peringatan. Banyak koleganya masih tidak menyadari semua hal ini terjadi, dan mereka tidak dapat mengajukan pertanyaan yang tepat untuk mengungkap algoritma. Mereka yang menyadari masalah ini tersebar di seluruh AS, mempelajari, menavigasi, dan melawan sistem ini secara terpisah.

Gilman melihat peluang untuk menghubungkan mereka dan menciptakan komunitas yang lebih luas yang dapat membantu satu sama lain. “Kita semua membutuhkan lebih banyak pelatihan, lebih banyak pengetahuan — tidak hanya dalam hukum, tetapi dalam sistem ini,” katanya. “Pada akhirnya, sepertinya setiap kasus akan berubah menjadi kasus algoritma.”

Dalam jangka panjang, Gilman ingin mengikuti jejak rekan-rekannya para pengacara kriminal yang lebih berhasil mengorganisir dan menolak algoritma penilaian risiko untuk menentukan hukuman.

Sementara Miriam, yang sedang dalam proses perceraian dengan Nick, memutuskan pindah ke negara bagian baru dan bergabung dengan organisasi nirlaba yang mendukung para penyintas utang paksa dan kekerasan dalam rumah tangga. Melalui mereka, dia mengambil serangkaian kelas yang mengajarinya bagaimana mengelola keuangannya. Organisasi itu membantunya menyingkirkan banyak hutangnya yang dipaksakan dan mempelajari lebih lanjut tentang algoritma kredit. Ketika dia pergi untuk membeli mobil, nilai kreditnya hampir mencapai minimum dengan ayahnya sebagai penanda tangan bersama. Sejak itu, pembayaran yang konsisten untuk mobilnya dan hutang mahasiswanya perlahan-lahan memulihkan nilai kreditnya.

Namun, Miriam masih harus waspada. Nick memiliki nomor Jaminan Sosial-nya, dan mereka belum resmi bercerai. Dia terus-menerus khawatir bahwa dia dapat membuka lebih banyak akun, mengambil lebih banyak pinjaman atas namanya. Untuk sementara, dia memeriksa laporan kreditnya setiap hari untuk mengetahui ada tidaknya aktivitas penipuan.

Miriam, Gilman, dan mungkin masih banyak lagi yang lain, sedang menabuh genderang perang melawan mesin algoritma yang bisa melempar orang ke jurang kemiskinan.[]