Pengenalan wajah AI menyebabkan penangkapan pembajakan mobil yang salah oleh wanita hamil 8 bulan di depan anak-anak: tuntutan hukum

Pengenalan wajah yang didukung kecerdasan buatan secara keliru memilih seorang wanita hamil delapan bulan yang melakukan pembajakan mobil dengan kekerasan, menurut sebuah tuntutan hukum.

Enam petugas polisi menyerbu rumah Porcha Woodruff di Detroit sebelum jam 8 pagi pada suatu pagi di bulan Februari ketika dia sedang mempersiapkan anak-anaknya yang berusia 12 dan 6 tahun untuk bersekolah, kata gugatan federal.

“Saya punya surat perintah penangkapan Anda, keluarlah,” salah satu petugas memberi tahu Woodruff, yang awalnya mengira itu hanya lelucon, menurut gugatan tersebut.

APA ITU AI?

Petugas memberitahunya bahwa dia ditangkap karena perampokan dan pembajakan mobil.

“Apakah kamu bercanda, Carcap? Apakah kamu melihat bahwa aku hamil delapan bulan?” dia menjawab sebelum diborgol.

PENGENALAN WAJAH AI GAGAL: 3 KALI KECERDASAN PEMECAHAN KEJAHATAN SALAH

Woodruff, 32, yang tinggal bersama tunangannya dan dua anaknya, menjadi tersangka melalui rangkaian foto yang ditunjukkan kepada korban “setelah kecocokan pengenalan wajah yang tidak dapat diandalkan,” kata gugatan tersebut.

Foto yang digunakan dalam serial tersebut adalah foto mug berusia 8 tahun dari penangkapan tahun 2015 di Canton, Michigan, meskipun polisi memiliki akses ke foto yang lebih baru di SIM-nya, menurut gugatan tersebut.

POLISI GUNAKAN AI UNTUK MELACAK PENGEMUDI DI JALAN SEBAGAI PERTANYAAN PENGACARA LEGALITAS

Petugas memborgol ibu hamil tersebut di depan anak-anaknya.

“Dia terpaksa memberitahu kedua anaknya, yang berdiri di sana sambil menangis, untuk naik ke atas dan membangunkan tunangan Woodruff untuk memberitahunya, ‘Mommy akan masuk penjara,'” isi gugatan tersebut.

Tunangan dan ibunya, yang dia telepon, mencoba membelanya di hadapan polisi, tetapi tidak berhasil.

Woodruff dibawa ke dalam kendaraan polisi, digeledah dan diborgol ketika tetangga dan keluarganya melihatnya, kata gugatan tersebut.

FOX NEWS DIGITAL EKSKLUSIF: CRUZ SHOT SCHUMER UPAYA MENGATUR AI: ‘LEBIH BANYAK DARI BAIK’

Saat diinterogasi, polisi bertanya tentang tatonya, apakah dia mengenal pria yang tidak dia kenal dan siapa operator telepon selulernya, menurut gugatan tersebut, kemudian menunjukkan tidak ada jawaban yang sesuai dengan deskripsi tersangka yang mereka cari.

Pada suatu saat, Woodruff bertanya kepada detektif tersebut, “Apakah korban mengatakan bahwa perempuan tersebut sedang hamil 8 bulan?”

Petugas itu menjawab, “Tidak.”

Patricia Woodruff, 32, sedang hamil delapan bulan ketika dia ditangkap oleh polisi Detroit karena pembajakan mobil dengan kekerasan berdasarkan pengenalan wajah AI yang salah. Kasus terhadapnya dibatalkan sebulan setelah penangkapannya. (Dokumen Pengadilan Federal)

Setelah diinterogasi, dia menghabiskan dua jam lagi di sel tahanan sampai dia dieksekusi.

“Dia duduk di bangku beton selama kurang lebih 11 jam sebelum dibebaskan karena tidak ada tempat tidur atau kursi yang tersedia,” demikian bunyi gugatan tersebut.

HACKERS MONITOR BAYI MENJUAL GAMBAR TELANJANG ANAK DI MEDIA SOSIAL: LAPORAN

Stres tersebut menyebabkan komplikasi medis pada bayi serta dehidrasi, menurut gugatan tersebut.

Semua ini terjadi antara pukul 07:50 dan 19:00 pada tanggal 16 Februari. Pada tanggal 7 Maret, kasus tersebut dibatalkan karena “tidak cukup bukti”.

Woodruff menggugat Departemen Kepolisian Detroit di pengadilan federal pada 3 Agustus.

Polisi Detroit tidak menanggapi permintaan komentar dari Fox News Digital.

Penangkapan salah AI sebelumnya di Detroit

Sebelum penangkapan yang salah terhadap Woodruff, yang berkulit hitam, polisi Detroit menangkap dua pria kulit hitam bernama Robert Williams dan Michael Oliver, yang menjadi kasus yang dipublikasikan secara luas.

Kedua pria tersebut dituduh secara salah oleh AI, sehingga menimbulkan tuntutan hukum dari American Civil Liberties Union.

Michael Oliver, kiri, ditangkap di Detroit pada tahun 2019 atas kecocokan palsu melalui pengenalan wajah, yang menggunakan gambar dari video kejadian tersebut, kanan. (Lebaran)

Ada kasus lain seperti ini di seluruh negeri, termasuk penangkapan yang salah terhadap seorang wanita berkulit hitam Georgia karena pencurian dompet di Louisiana.

APA ITU CHATGPT?

“Perlunya reformasi dan metode investigasi yang lebih akurat oleh kepolisian Detroit menjadi jelas saat kami menyelidiki implikasi yang meresahkan dari teknologi pengenalan wajah dalam kasus ini,” demikian bunyi gugatan tersebut.

Lusinan penelitian telah dilakukan selama 10 tahun terakhir di AS saja yang tampaknya mendukung klaim gugatan tersebut.

Warga Detroit, Robert Williams, adalah orang pertama yang melaporkan kesalahan penangkapan berdasarkan kecocokan pengenalan wajah. (ACLU)

Institut Standar dan Teknologi Nasional AS (NIST) penelitian pada tahun 2019dianggap sebagai studi penting pada saat itu, dan sering dikutip sebagai titik awal dalam artikel berita dan artikel penelitian lainnya.

Studi tersebut menunjukkan bahwa wajah orang Afrika-Amerika dan Asia 100 kali lebih mungkin salah diidentifikasi dibandingkan wajah kulit putih. Penduduk asli Amerika adalah yang paling salah diidentifikasi.

ACLU MENGAJUKAN KELUHAN ATAS PENANGKAPAN PENGENALAN WAJAH

Menurut NIST, warna kulit perempuan yang lebih gelap lebih mungkin salah diidentifikasi oleh pengenalan wajah yang didukung AI.

Penelitian akademis lain di seluruh dunia, termasuk di Inggris dan Kanada, juga menunjukkan kesenjangan serupa, menurut laporan Amnesty International pada bulan Mei.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Gugatan Woodruff meminta sejumlah uang dan repatriasi yang dirahasiakan.