Yapay zeka 6 kişiyi suçsuz yere gözaltına aldırdı

ABD’de polis ekipleri aralarında 8 aylık hamile Porcha Woodruff’un da olduğu birçok kişiyi yapay zeka kullanarak gözaltına aldı. 6 kişinin yanlışlıkla gözaltına alındığı ortaya çıktı.

ABD’de polis yapay zekalı yüz tanıma araçlarına güvenerek birçok kişiyi gözaltına aldı.

6 kişinin yanlışlıkla gözaltına alındığı ortaya çıkarken yapay zekayla gözaltına alınanların tamamının siyahi olması dikkat çekti.

Yanlışlıkla gözaltına alınanların arasında 8 aylık hamile olan Porcha Woodruff da var.

Dava açmaya hazırlanan Woodruff New York Times’a konuştu, şubat ayında çocuklarını okula göndereceği bir gün kapıya gelen Detroit polisi tarafından evinden alındığını söyledi:

“Hırsızlık ve araba çalmakla suçlandım. Hamileliğimin son döneminde olduğum için karakolda sancılandım ama nezarette birkaç saat beklemek zorunda kaldım.”

Woodruff’un bu suçları işlemediği ve polis teşkilatının kullandığı yüz tanıma yazılımının onu yanlışlıkla teşhis ettiği ortaya çıktı.

Yapay zeka 8 yaşındaki fotoğrafı baz aldı

Mahkeme belgelerine göre, Woodruff’un haksız yere gözaltına alınması, Detroit polisine bir benzin istasyonunun silahla soyulduğunun bildirilmesinin ardından yaşandı.

Polis olaya karışan bir kadının kamera kayıtlarını bulunca zanlının yüzünü DataWorks Plus adlı bir yüz tanıma aracına yükledi.

Yazılım programı, aramayı tamamlayınca Woodruff’un adını verdi. Üstelik Woodruff’un sisteme kayıtlı fotoğrafının henüz 8 yaşındayken çekildiği, yapay zekanın bu fotoğrafı kullanarak suçsuz kadının adını verdiği anlaşıldı.

3 farklı dava açılabilir

Detroit kenti yetkilileri, yapay zeka destekli yüz tanıma yazılımı nedeniyle yapılan yanlış gözaltıları nedeniyle üç farklı davayla karşı karşıya.

Uzmanlar yapay zekanın kolluk kuvvetleri içinde yaygın kullanılmaya başlamasından bu yana 6 siyah yurttaşın hukuksuzca gözaltına alındığını söylüyor.

Amerikan Sivil Haklar Birliği’nin kıdemli avukatı Phil Mayor, “kalitesiz teknoloji kalitesiz soruşturmaları beraberinde getiriyor. Polisin yürüteceği soruşturmaların ciddiyetine dair verdiği güvenceler kulağa doğru gelmiyor” dedi.