Komputer Yang Membuat Banyak Keputusan Akan Berdampak Pada Algoritme Yang Liar

Komputer Yang Membuat Banyak Keputusan Akan Berdampak Pada Algoritme Yang Liar

Komputer Yang Membuat Banyak Keputusan Akan Berdampak Pada Algoritme Yang Liar

Berita Seputar Teknologi Terbaru – Ketika AS mulai menyampaikan imunisasi COVID-19 menjelang akhir tahun lalu, sebuah pertanyaan penting muncul: Siapa yang seharusnya perlu masuk ke infus? Banyak kantor klinis dan otoritas kesejahteraan memilih untuk mengimunisasi pekerja terlebih dahulu, termasuk petugas dan petugas kebersihan, yang melakukan kontak dekat dengan individu yang tercemar. Stanford Medicine, bagian dari salah satu perguruan tinggi terbaik di negara itu, malah membuat perhitungan untuk memutuskan permintaan tersebut.

Masalah tunggal dengan mengizinkan PC untuk menyimpulkan siapa yang seharusnya mendapatkan antibodi pada awalnya adalah bahwa “perhitungan yang sangat membingungkan” – yang akhirnya tidak rumit dengan cara apa pun – didasarkan pada anggapan dan informasi yang salah. Secara khusus, kalkulasi berfokus pada spesialis klinis di atas usia tertentu tanpa mempertimbangkan bahwa banyak spesialis lansia tidak rutin menemui pasien.

Komputer Yang Membuat Banyak Keputusan Akan Berdampak Pada Algoritme Yang Liar

Hanya tujuh dari 5.000 dosis dalam kelompok yang mendasari antibodi COVID-19 Stanford Medicine yang ditugaskan ke dokter-dokter terkemuka. Sebagian besar difokuskan pada tenaga kerja senior dan spesialis yang melakukan telecommute atau memiliki sedikit kontak dengan pasien yang terkontaminasi COVID-19. Stanford segera menolak perhitungannya dan berusaha untuk menginokulasi perwakilannya yang berdarah-darah.

“Perhitungan kami yang dilakukan oleh ahli etika dan spesialis penyakit yang tak tertahankan selama berminggu-minggu untuk memanfaatkan usia, tempat kerja yang berisiko tinggi [dan] kesamaan energi di kelas kerja … jelas tidak berfungsi dengan baik,” Tim Morrison, pengawas rawat jalan Stanford peduli. grup, kata dalam sebuah video yang diposting di Twitter pada pertengahan Desember.

Bencana imunisasi Stanford hanyalah salah satu ilustrasi dari banyak cara penghitungan dapat dilakukan sepihak, kesulitan yang semakin terlihat saat program PC menggantikan pemimpin manusia. Perhitungan menjamin untuk menentukan pilihan yang didorong informasi tanpa dampak perasaan: Keputusan dapat dibuat dengan lebih cepat, sopan dan tepat. Secara praktis, bagaimanapun, kalkulasi umumnya tidak didasarkan pada informasi yang baik, ketidakcukupan yang diperkuat ketika mereka menetapkan pilihan hidup dan mati seperti sirkulasi imunisasi yang signifikan.

Dampaknya secara signifikan lebih luas, seperti yang ditunjukkan oleh laporan yang disampaikan Selasa oleh Greenlining Institute, organisasi non-tunjangan yang berbasis di Oakland, California yang bekerja untuk ekuitas ras dan moneter, karena PC memutuskan apakah seseorang mendapat uang muka rumah, yang dipekerjakan dan berapa lama tahanan itu. melesat. Seringkali, perhitungan mempertahankan kecenderungan ras, jenis kelamin, dan gaji yang serupa dengan para pemimpin manusia, kata CEO Greenlining Debra Gore-Mann.

“Anda melihat perangkat ini digunakan untuk penilaian ekuitas kriminal, evaluasi penginapan, kredit moneter, instruksi, pencarian pekerjaan baru,” kata Gore-Mann dalam sebuah pertemuan. “Saat ini semakin tidak terhindarkan hingga sebagian besar dari kita sepertinya tidak menyadari bahwa semacam mekanisasi dan evaluasi informasi sedang diselesaikan.”

Laporan Greenlining menganalisis bagaimana perhitungan yang direncanakan secara tidak efektif mengambil langkah-langkah untuk memperkuat kefanatikan dasar, pemisahan jenis kelamin, dan bias terhadap individu dengan gaji rendah. Karena inovasi dibuat dan disiapkan oleh individu, perhitungan – jika disengaja – dapat menduplikasi contoh segregasi dan kecenderungan, seringkali tanpa individu menyadarinya. Pengakuan wajah adalah salah satu zona teknologi yang telah terbukti sepihak secara rasial. Gelang kebugaran telah berusaha tepat dalam memperkirakan denyut nadi etnis minoritas.

“Sebuah inovasi serupa yang digunakan untuk sangat fokus pada publikasi di seluruh dunia juga digunakan untuk membebankan individu berbagai biaya untuk barang-barang yang sangat penting bagi kemakmuran moneter, seperti, perlindungan barang kontrak, dan hal-hal yang kurang penting seperti sepatu,” kata Vinhcent Le, Inovasi menghargai penasihat hukum di Greenlining.

Pada model lain, Greenlining banner merupakan perhitungan yang dibuat oleh Optum Health yang dapat digunakan untuk fokus pada pertimbangan klinis bagi pasien. Salah satu faktornya adalah berapa banyak pasien menghabiskan biaya klinis, menerima orang yang paling banyak dihabiskan untuk perawatan medis. Memanfaatkan batasan itu saja tidak akan menganggap bahwa individu dengan uang lebih sedikit kadang-kadang perlu memilih antara membayar sewa atau mengurus biaya kunjungan dokter, sesuatu yang akan merugikan pasien gelap, kata Greenlining.