ถูกกล่าวหาอย่างไม่ถูกต้องโดยอัลกอริทึม
ในกรณีที่อาจเป็นกรณีแรกที่รู้จักในประเภทนี้ การจับคู่การจดจำใบหน้าที่ผิดพลาดนำไปสู่การจับกุมชายชาวมิชิแกนในข้อหาก่ออาชญากรรมที่เขาไม่ได้กระทำ
นี่ไม่ใช่ฉัน Robert Julian-Borchak Williams บอกผู้สืบสวน คุณคิดว่าผู้ชายผิวดำทุกคนเหมือนกันไหม?เครดิต...ซิลเวีย จาร์รัส จาก The New York Times
สนับสนุนโดย
อ่านต่อเนื้อเรื่องหลักหมายเหตุ: เพื่อตอบสนองต่อบทความนี้ สำนักงานอัยการของ Wayne County กล่าวว่า Robert Julian-Borchak Williams อาจมีคดีและข้อมูลลายนิ้วมือของเขาถูกล้างข้อมูล เราขออภัยอัยการ Kym L. Worthy กล่าวใน คำแถลง โดยเสริมว่า สิ่งนี้ไม่ได้ชดเชยชั่วโมงที่นายวิลเลียมส์อยู่ในคุกแต่อย่างใด
ฟังบทความนี้
บันทึกเสียงโดย Audmหากต้องการฟังเรื่องราวเสียงเพิ่มเติมจากผู้จัดพิมพ์เช่น The New York Times ดาวน์โหลด Audm สำหรับ iPhone หรือ Android .
ในบ่ายวันพฤหัสบดีของเดือนมกราคม Robert Julian-Borchak Williams อยู่ในสำนักงานของเขาที่บริษัทจัดหายานยนต์ เมื่อเขาได้รับโทรศัพท์จากกรมตำรวจดีทรอยต์บอกให้เขามาที่สถานีเพื่อจับกุม ทีแรกนึกว่าเป็นการล้อเล่น
หนึ่งชั่วโมงต่อมา เมื่อเขาดึงเข้าไปในถนนรถแล่นในเขตการปกครองอันเงียบสงบในฟาร์มิงตันฮิลส์ รัฐมิชิแกน รถตำรวจจอดขวางเขาไว้ เจ้าหน้าที่สองคนออกไปและใส่กุญแจมือนายวิลเลียมส์ที่สนามหญ้าด้านหน้าของเขา ภรรยาและลูกสาวสองคนที่กำลังท้อแท้ ตำรวจไม่ได้บอกว่าเหตุใดเขาจึงถูกจับกุม เพียงแสดงกระดาษหนึ่งแผ่นพร้อมรูปถ่ายของเขาและคำว่าหมายจับทางอาญาและการลักขโมย
เมลิสซ่าภรรยาของเขาถามว่าเขาถูกพาไปที่ไหน Google มันเธอจำได้ว่าเจ้าหน้าที่ตอบ
ตำรวจขับรถพาคุณวิลเลียมส์ไปที่ศูนย์กักกัน เขาถูกยิงด้วยแก้ว ลายนิ้วมือและ DNA และถูกกักตัวไว้ชั่วข้ามคืน ประมาณเที่ยงวันของวันศุกร์ นักสืบสองคนพาเขาไปที่ห้องสอบสวน และวางกระดาษสามแผ่นลงบนโต๊ะโดยคว่ำหน้าลง
คุณไปร้าน Shinola ครั้งสุดท้ายเมื่อไหร่? นักสืบคนหนึ่งถามในความทรงจำของมิสเตอร์วิลเลียมส์ Shinola เป็นร้านบูติกสุดหรูที่จำหน่ายนาฬิกา จักรยาน และเครื่องหนังในย่าน Midtown อันทันสมัยของ Detroit คุณวิลเลียมส์กล่าวว่าเขาและภรรยาได้ตรวจสอบร้านเมื่อเปิดร้านครั้งแรกในปี 2557
นักสืบพลิกกระดาษแผ่นแรก มันเป็นภาพนิ่งจากวิดีโอกล้องวงจรปิด แสดงให้เห็นชายร่างใหญ่ สวมชุดดำและสวมหมวกสีแดงของนักบุญหลุยส์ คาร์ดินัลส์ ยืนอยู่หน้าจอแสดงผลของนาฬิกา นาฬิกา 5 เรือน มูลค่า 3,800 ดอลลาร์ ถูกขโมยของในร้าน
นี่คือคุณ? ถามนักสืบ
กระดาษแผ่นที่สองเป็นแบบโคลสอัพ ภาพเบลอ แต่เห็นได้ชัดว่าไม่ใช่คุณวิลเลียมส์ เขาหยิบรูปนั้นขึ้นมาและถือไว้ใกล้ใบหน้าของเขา
ไม่ นี่ไม่ใช่ฉัน นายวิลเลียมส์กล่าว คุณคิดว่าผู้ชายผิวดำทุกคนหน้าตาเหมือนกันเหรอ?
คุณวิลเลียมส์รู้ว่าเขาไม่ได้ก่ออาชญากรรมที่เป็นปัญหา สิ่งที่เขาไม่สามารถรู้ได้ในขณะที่เขานั่งอยู่ในห้องสอบสวนคือคดีของเขาอาจเป็นบัญชีแรกที่รู้กันว่าชาวอเมริกันถูกจับกุมอย่างผิด ๆ จากการจับคู่ที่มีข้อบกพร่องจาก การจดจำใบหน้า อัลกอริธึมตามผู้เชี่ยวชาญด้านเทคโนโลยีและกฎหมาย
ระบบผิดพลาด
การอภิปรายระดับประเทศกำลังเดือดดาลเกี่ยวกับการเหยียดเชื้อชาติในการบังคับใช้กฎหมาย ทั่วประเทศ มีคนนับล้านประท้วงไม่เพียงแค่การกระทำของเจ้าหน้าที่แต่ละคน แต่ยังมีอคติในระบบที่ใช้ในการสอดส่องชุมชนและระบุตัวบุคคลเพื่อดำเนินคดี
ระบบจดจำใบหน้าถูกใช้โดยกองกำลังตำรวจเพื่อ กว่าสองทศวรรษ . การศึกษาล่าสุดโดย M.I.T. และสถาบันมาตรฐานและเทคโนโลยีแห่งชาติหรือ NIST พบว่าในขณะที่เทคโนโลยีทำงานได้ดีกับคนผิวขาว แต่ผลลัพธ์ก็แม่นยำน้อยกว่าสำหรับกลุ่มประชากรอื่น ๆ ส่วนหนึ่งเป็นเพราะขาดความหลากหลายในภาพที่ใช้ในการพัฒนาพื้นฐาน ฐานข้อมูล
ปีที่แล้ว ในระหว่างการรับฟังความคิดเห็นของสาธารณชนเกี่ยวกับการใช้การจดจำใบหน้าในดีทรอยต์ ผู้ช่วยผู้บัญชาการตำรวจเป็นหนึ่งในผู้ที่แจ้งข้อกังวล เจมส์ ไวท์ กล่าวถึงประเด็นเรื่องผลบวกลวง ซึ่งเป็นข้อเท็จจริงอย่างแท้จริง และได้รับการบันทึกไว้อย่างดี นั่นทำให้ฉันกังวลในฐานะชายแอฟริกัน - อเมริกัน
เดือนนี้, อเมซอน , Microsoft และ IBM ประกาศจะหยุดหรือหยุดการนำเสนอการจดจำใบหน้าสำหรับการบังคับใช้กฎหมาย ท่าทางส่วนใหญ่เป็นสัญลักษณ์ เนื่องจากบริษัทต่างๆ ไม่ใช่ผู้เล่นรายใหญ่ในอุตสาหกรรมนี้ เทคโนโลยีที่กรมตำรวจใช้นั้นจัดทำโดยบริษัทที่ไม่ใช่ชื่อครัวเรือน เช่น Vigilant Solutions, Cognitec, NEC, Rank One Computing และ เคลียร์วิว AI .
Clare Garvie ทนายความที่ศูนย์ความเป็นส่วนตัวและเทคโนโลยีของมหาวิทยาลัยจอร์จทาวน์ ได้เขียนเกี่ยวกับปัญหาที่เกิดขึ้นกับ การใช้การจดจำใบหน้าของรัฐบาล . เธอให้เหตุผลว่าควรแบนรูปภาพการค้นหาคุณภาพต่ำ เช่น ภาพนิ่งจากวิดีโอเฝ้าระวังที่เป็นเม็ดเล็กๆ และระบบที่ใช้อยู่ในปัจจุบันควรได้รับการทดสอบอย่างเข้มงวดเพื่อความถูกต้องและอคติ
มีอัลกอริธึมปานกลางและก็มีดี และการบังคับใช้กฎหมายควรซื้ออัลกอริธึมที่ดีเท่านั้น Ms. Garvie กล่าว
เกี่ยวกับประสบการณ์ของมิสเตอร์วิลเลียมส์ในรัฐมิชิแกน เธอเสริมว่า: I อย่างยิ่ง สงสัย นี่ไม่ใช่กรณีแรกที่จะระบุให้ผู้อื่นจับผิดในความผิดที่พวกเขาไม่ได้ก่อ นี่เป็นเพียงครั้งแรกที่เรารู้เรื่องนี้
ในกลุ่มผู้เล่นตัวจริงตลอดกาล
ภาพ
เครดิต...ซิลเวีย จาร์รัส จาก The New York Times
กรณีของนายวิลเลียมส์ผสมผสานเทคโนโลยีที่มีข้อบกพร่องเข้ากับการทำงานของตำรวจที่ไม่ดี ซึ่งแสดงให้เห็นว่าการจดจำใบหน้าอาจผิดพลาดได้
การขโมยของในร้าน Shinola เกิดขึ้นในเดือนตุลาคม 2018 Katherine Johnston นักสืบจาก Mackinac Partners ซึ่งเป็นบริษัทป้องกันการสูญเสีย ได้ตรวจสอบวิดีโอการเฝ้าระวังของร้านค้าและส่งสำเนาให้ตำรวจดีทรอยต์ตามรายงานของพวกเขา
ห้าเดือนต่อมา ในเดือนมีนาคม 2019 เจนนิเฟอร์ โคลสัน เจ้าหน้าที่ตรวจสอบภาพดิจิทัลของสำนักงานตำรวจแห่งรัฐมิชิแกน อัปโหลดภาพโพรบ — ภาพนิ่งจากวิดีโอที่แสดงชายสวมหมวกคาร์ดินัลส์ — ไปที่รัฐ ฐานข้อมูลการจดจำใบหน้า . ระบบก็จะมี ทำแผนที่ใบหน้าของชายคนนั้นและค้นหา สำหรับภาพที่คล้ายกันในคอลเลกชั่น 49 ล้านภาพ
เทคโนโลยีของรัฐมีไว้สำหรับ 5.5 ล้านเหรียญสหรัฐ โดยบริษัทที่ชื่อว่า DataWorks Plus . ทอดด์ ปาสโตรินี ผู้จัดการทั่วไป บริษัทก่อตั้งขึ้นในเซาท์แคโรไลนาในปี 2543 โดยให้บริการซอฟต์แวร์จัดการภาพแก้วแตกเป็นครั้งแรก ในปี 2548 บริษัทเริ่มขยายผลิตภัณฑ์ โดยเพิ่มเครื่องมือจดจำใบหน้าที่พัฒนาโดยผู้ค้าภายนอก
The Great Read
ต่อไปนี้คือเรื่องราวที่น่าสนใจอื่นๆ ที่คุณอดไม่ได้ที่จะอ่านจนจบ
- ความกลัวใน Cape Cod เมื่อฉลามตามล่าอีกครั้ง นักล่ายอดกลับมาตามชายหาดของนิวอิงแลนด์ จะต้องทำอย่างไรเพื่อให้ผู้คนปลอดภัย?
- การกลับมาของชาโดว์แมน ศิลปินลอบเร้นจากซีแอตเทิลได้จำลองภาพสตรีทอาร์ตยุค 80 ของริชาร์ด แฮมเบิลตันทั่วแมนฮัตตัน นี่เป็นเครื่องบรรณาการหรือเครื่องมือทางการตลาด - หรือทั้งสองอย่าง?
- คอลเล็กชั่นนักมายากลที่อยากรู้อยากเห็นและน่าอัศจรรย์ของ Ricky Jay นักเล่นกลลวงตา ไพ่นกกระจอก คนหลอกลวง และลูกกระสุนปืนใหญ่ของมนุษย์ทำให้หนังสือ โปสเตอร์ และแมลงเม่าหายากมีชีวิตชีวาขึ้น ซึ่งตอนนี้กำลังจะเปิดประมูลที่ Sotheby's
เมื่อหนึ่งในผู้รับเหมาช่วงเหล่านี้พัฒนาอัลกอริธึมสำหรับการจดจำใบหน้า DataWorks พยายามที่จะตัดสินประสิทธิภาพของมันโดยทำการค้นหาโดยใช้รูปภาพคุณภาพต่ำของบุคคลที่พวกเขารู้ว่ามีอยู่ในระบบ เราได้ทดสอบขยะจำนวนมากที่นั่น คุณปัสโตรินีกล่าว เขาเสริมว่าการตรวจสอบเหล่านี้ไม่ใช่วิทยาศาสตร์ — DataWorks ไม่ได้วัดความถูกต้องหรืออคติของระบบอย่างเป็นทางการ
เราได้กลายเป็นผู้เชี่ยวชาญด้านเทคโนโลยีจอมปลอมไปแล้ว นายพาสโตรินีกล่าว
ในรัฐมิชิแกน ซอฟต์แวร์ DataWorks ที่ใช้โดยตำรวจของรัฐนั้นรวมเอาส่วนประกอบที่พัฒนาโดย NEC ยักษ์ใหญ่ด้านเทคโนโลยีของญี่ปุ่น และโดย Rank One Computing ซึ่งตั้งอยู่ในโคโลราโด ตามที่นาย Pastorini และโฆษกตำรวจของรัฐกล่าว ในปี 2019 อัลกอริทึมจากทั้งสองบริษัทรวมอยู่ใน การศึกษาของรัฐบาลกลาง ของระบบการจดจำใบหน้ากว่า 100 ระบบที่พบว่ามีอคติ โดยระบุใบหน้าชาวแอฟริกัน-อเมริกันและเอเชียอย่างไม่ถูกต้อง 10 เท่าถึง 100 เท่าของใบหน้าชาวคอเคเชียน
Brendan Klare ผู้บริหารระดับสูงของ Rank One กล่าวว่าบริษัทได้พัฒนาอัลกอริธึมใหม่สำหรับ NIST เพื่อตรวจสอบซึ่งกระชับความแตกต่างในความแม่นยำระหว่างกลุ่มประชากรตามรุ่นต่างๆ
หลังจากที่นางสาวคูลสัน แห่งสำนักงานตำรวจแห่งชาติ ได้ดำเนินการค้นหาภาพโพรบ ระบบ จะให้ แถวของผลลัพธ์ที่สร้างโดย NEC และแถวจากอันดับที่หนึ่ง พร้อมด้วยคะแนนความมั่นใจ รูปถ่ายใบขับขี่ของมิสเตอร์วิลเลียมส์เป็นหนึ่งในการแข่งขัน คุณโคลสันส่งเรื่องให้ตำรวจดีทรอยต์เพื่อรายงานตัวหัวหน้าฝ่ายสืบสวน
เอกสารนี้ไม่ใช่การระบุตัวตนที่ดี ไฟล์ระบุด้วยอักษรตัวหนาที่ด้านบน เป็นเพียงหัวหน้าในการสืบสวนเท่านั้น ไม่น่าจะเป็นไปได้ที่จะถูกจับกุม
นี่คือสิ่งที่ผู้ให้บริการเทคโนโลยีและการบังคับใช้กฎหมายมักเน้นย้ำเสมอเมื่อปกป้องการจดจำใบหน้า: เป็นเพียงเบาะแสในกรณีเท่านั้น ไม่ใช่ปืนสูบบุหรี่ ก่อนจับกุมนายวิลเลียมส์ ผู้สืบสวนอาจค้นหาหลักฐานอื่นๆ ว่าเขาได้กระทำการโจรกรรม เช่น คำให้การของผู้เห็นเหตุการณ์ ข้อมูลตำแหน่งจากโทรศัพท์ของเขา หรือหลักฐานว่าเขาเป็นเจ้าของเสื้อผ้าที่ผู้ต้องสงสัยสวมอยู่
อย่างไรก็ตาม ในกรณีนี้ ตามรายงานของตำรวจดีทรอยต์ พนักงานสอบสวนเพียงแค่รวมรูปภาพของนายวิลเลียมส์ไว้ในกลุ่มภาพถ่าย 6 แพ็คที่พวกเขาสร้างขึ้นและแสดงต่อนางสาวจอห์นสตัน ผู้รับเหมาป้องกันการสูญเสียของชิโนลา และเธอก็ระบุตัวเขา (นางสาวจอห์นสตันปฏิเสธที่จะแสดงความคิดเห็น)
'ฉันเดาว่าคอมพิวเตอร์เข้าใจผิด'
ภาพเครดิต...ซิลเวีย จาร์รัส จาก The New York Times
คุณปัสโตรินีตกตะลึงเมื่อได้อธิบายกระบวนการนี้ให้เขาฟัง ฟังดูบางไปรอบ ๆ เขากล่าว
คุณ Klare จาก Rank One พบข้อบกพร่องกับบทบาทของ Ms. Johnston ในกระบวนการนี้ ฉันไม่แน่ใจว่าสิ่งนี้ทำให้พวกเขามีคุณสมบัติเป็นพยานหรือให้ประสบการณ์ของพวกเขาที่มีน้ำหนักมากกว่าคนอื่น ๆ ที่อาจดูวิดีโอเดียวกันนั้นหลังจากข้อเท็จจริง เขากล่าว John Wise โฆษกของ NEC กล่าวว่าการจับคู่โดยใช้การจดจำใบหน้าเพียงอย่างเดียวไม่ใช่วิธีการระบุตัวตนในเชิงบวก
วันศุกร์ที่มิสเตอร์วิลเลียมส์นั่งอยู่ในห้องสอบสวนของตำรวจดีทรอยต์คือวันก่อนวันเกิดปีที่ 42 ของเขา เช้าวันนั้น ภรรยาของเขาส่งอีเมลถึงเจ้านายเพื่อบอกว่าเขาจะเลิกงานเพราะเหตุฉุกเฉินในครอบครัว มันทำลายสถิติการเข้าร่วมที่สมบูรณ์แบบสี่ปีของเขา
ในความทรงจำของมิสเตอร์วิลเลียมส์ หลังจากที่เขาถือวิดีโอกล้องวงจรปิดไว้ใกล้ๆ ใบหน้าของเขา นักสืบทั้งสองก็เอนหลังพิงเก้าอี้แล้วมองหน้ากัน นักสืบคนหนึ่งซึ่งดูผิดหวังพูดกับคู่ของเขาว่า: ฉันเดาว่าคอมพิวเตอร์ทำผิดพลาด
พวกเขาพลิกกระดาษแผ่นที่สาม ซึ่งเป็นอีกรูปถ่ายของชายคนนั้นจากร้าน Shinola ถัดจากใบขับขี่ของนายวิลเลียมส์ คุณวิลเลียมส์ชี้ให้เห็นอีกครั้งว่าพวกเขาไม่ใช่คนเดียวกัน
คุณวิลเลียมส์ถามว่าว่างไหมที่จะไป น่าเสียดายที่ไม่มีนักสืบคนหนึ่งกล่าว
คุณวิลเลียมส์ถูกควบคุมตัวจนถึงเย็นวันนั้น หลังจากถูกจับกุม 30 ชั่วโมง และได้รับการปล่อยตัวด้วยเงินประกันตัว 1,000 ดอลลาร์ เขารออยู่ข้างนอกท่ามกลางสายฝนเป็นเวลา 30 นาที จนกว่าภรรยาของเขาจะรับเขาได้ เมื่อเขากลับถึงบ้านเวลา 22.00 น. ลูกสาววัย 5 ขวบของเขายังคงตื่นอยู่ เธอบอกว่าเธอรอเขาอยู่เพราะเขาบอกว่าตอนที่ถูกจับเขาจะกลับมาทันที
ตั้งแต่นั้นมา เธอได้รับบทเป็นตำรวจและโจร และกล่าวหาว่าพ่อของเธอขโมยของ โดยยืนกรานที่จะขังเขาไว้ในห้องนั่งเล่น
รับความช่วยเหลือ
ภาพเครดิต...ซิลเวีย จาร์รัส จาก The New York Times
ครอบครัวของวิลเลียมส์ติดต่อทนายฝ่ายจำเลย ซึ่งส่วนใหญ่พวกเขากล่าวว่า สันนิษฐานว่านายวิลเลียมส์มีความผิดในคดีนี้ และเสนอราคาประมาณ 7,000 ดอลลาร์เพื่อเป็นตัวแทนของเขา คุณวิลเลียมส์ ผู้อำนวยการฝ่ายการตลาดอสังหาริมทรัพย์และบล็อกเกอร์อาหารด้วย ทวีต ที่สหภาพเสรีภาพพลเมืองอเมริกันแห่งมิชิแกนซึ่งได้รับความสนใจทันที
Phil Mayor ทนายความขององค์กรกล่าวว่าเราพยายามส่งเสียงเตือนเกี่ยวกับการจดจำใบหน้า ทั้งในฐานะที่เป็นภัยคุกคามต่อความเป็นส่วนตัวเมื่อทำงานและเป็นภัยคุกคามทางเชื้อชาติต่อทุกคนเมื่อไม่เป็นเช่นนั้น เรารู้ว่าเรื่องราวเหล่านี้มีอยู่จริง แต่ก็ยากที่จะได้ยิน เพราะผู้คนมักไม่ตระหนักว่าพวกเขาตกเป็นเหยื่อของการค้นหาการจดจำใบหน้าที่ไม่ดี
สองสัปดาห์หลังจากการจับกุม มิสเตอร์วิลเลียมส์ใช้เวลาวันหยุดพักร้อนเพื่อไปขึ้นศาลที่เวย์นเคาน์ตี้เพื่อฟ้องร้อง เมื่อคดีถูกเรียก อัยการย้ายไปยกฟ้อง แต่ไม่มีอคติ หมายความว่านายวิลเลียมส์จะถูกตั้งข้อหาอีกครั้งในภายหลัง
มาเรีย มิลเลอร์ โฆษกอัยการกล่าวว่า พยานคนที่สองมาที่ร้านค้าในปี 2018 เมื่อมีการขโมยของในร้าน แต่ไม่ได้รับการขอให้ดูรายชื่อภาพถ่าย หากบุคคลดังกล่าวทำการระบุตัวตนในอนาคต เธอกล่าว สำนักงานจะเป็นผู้ตัดสินว่าจะออกค่าใช้จ่ายหรือไม่
นิโคล เคิร์กวูด โฆษกหญิงของตำรวจเมืองดีทรอยต์ กล่าวว่า ในตอนนี้ กรมฯ ยอมรับการตัดสินใจของพนักงานอัยการในการยกฟ้องคดีนี้ เธอยังกล่าวอีกว่าแผนกได้อัปเดต นโยบายการจดจำใบหน้า ในเดือนกรกฎาคม 2562 เพื่อใช้ในการสอบสวนอาชญากรรมรุนแรงเท่านั้น
เธอกล่าวในแถลงการณ์อีกฉบับหนึ่งว่าแผนกนี้ไม่ได้ทำการจับกุมโดยอาศัยการจดจำใบหน้าเพียงอย่างเดียว ผู้ตรวจสอบตรวจสอบวิดีโอ สัมภาษณ์พยาน จัดทำรายการภาพถ่าย
ในวันพุธที่ A.C.L.U. ของมิชิแกนยื่น ร้องเรียน กับทางเมือง โดยขอให้มีการยกฟ้องโดยสิ้นเชิง ขอคำขอโทษ และลบข้อมูลของมิสเตอร์วิลเลียมส์ออกจากฐานข้อมูลอาชญากรรมของดีทรอยต์
กรมตำรวจดีทรอยต์ควรหยุดใช้เทคโนโลยีการจดจำใบหน้าเป็นเครื่องมือในการสอบสวน นายนายกเทศมนตรีเขียนในคำร้อง โดยเสริมว่า เนื่องจากข้อเท็จจริงในคดีของนายวิลเลียมส์พิสูจน์ให้เห็นว่าทั้งเทคโนโลยีมีข้อบกพร่อง และผู้ตรวจสอบของ DPD ไม่มีความสามารถในการใช้ประโยชน์ ของเทคโนโลยีดังกล่าว
Victoria Burton-Harris ทนายความของ Mr. Williams กล่าวว่าลูกค้าของเธอโชคดี แม้ว่าเขาจะผ่านอะไรมาก็ตาม
เขายังมีชีวิตอยู่ นางเบอร์ตัน-แฮร์ริสกล่าว เขาเป็นผู้ชายที่ตัวใหญ่มาก ประสบการณ์ของฉันในฐานะทนายฝ่ายจำเลย เมื่อเจ้าหน้าที่โต้ตอบกับชายร่างใหญ่ คนดำตัวใหญ่มาก พวกเขาแสดงท่าทีหวาดกลัวทันที พวกเขาไม่รู้วิธีลดระดับสถานการณ์
'มันเป็นความอัปยศ'
คุณวิลเลียมส์และภรรยาไม่ได้พูดคุยกับเพื่อนบ้านเกี่ยวกับสิ่งที่เกิดขึ้น พวกเขาสงสัยว่าพวกเขาจำเป็นต้องนำลูกสาวเข้ารับการบำบัดหรือไม่ เจ้านายของนายวิลเลียมส์แนะนำให้เขาไม่บอกใครในที่ทำงาน
แม่ของฉันไม่รู้เรื่องนี้ มันไม่ใช่สิ่งที่ฉันภูมิใจเลย คุณวิลเลียมส์กล่าว มันอัปยศ
เขาได้รู้ว่าเขากำลังทำอะไรในตอนเย็นที่เกิดการขโมยของในร้าน เขากำลังขับรถกลับบ้านจากที่ทำงาน และได้โพสต์วิดีโอลงใน Instagram ส่วนตัวของเขาเพราะเพลงที่เขาชอบเปิดออกมา - We Are One ในปี 1983 โดย Maze และ Frankie Beverly เนื้อเพลงไป:
ไม่เข้าใจ
ทำไมถึงปฏิบัติต่อกันแบบนี้
หมดเวลา
กับเกมงี่เง่าที่เราเล่น
เขามีข้อแก้ตัว ให้ตำรวจดีทรอยต์ตรวจสอบข้อหนึ่ง
ฟัง 'The Daily': ถูกกล่าวหาอย่างไม่ถูกต้องโดยอัลกอริทึม
ในกรณีที่อาจเป็นกรณีแรกที่รู้จักในประเภทนี้ การจับคู่การจดจำใบหน้าที่ผิดพลาดนำไปสู่การจับกุมชายชาวมิชิแกนในข้อหาก่ออาชญากรรมที่เขาไม่ได้กระทำ การถอดเสียงกลับไปที่ The Dailyบาร์ 0:00/28:13 -28:13การถอดเสียง
ฟัง 'The Daily': ถูกกล่าวหาอย่างไม่ถูกต้องโดยอัลกอริทึม
เป็นเจ้าภาพโดย Annie Brown อำนวยการสร้างโดย Lynsea Garrison, Austin Mitchell และ Daniel Guillemette และเรียบเรียงโดย Lisa Tobin และ Larissa Anderson
ในกรณีที่อาจเป็นกรณีแรกที่รู้จักในประเภทนี้ การจับคู่การจดจำใบหน้าที่ผิดพลาดนำไปสู่การจับกุมชายชาวมิชิแกนในข้อหาก่ออาชญากรรมที่เขาไม่ได้กระทำ
- ไมเคิล บาร์บาโร
จาก The New York Times ฉันชื่อ Michael Barbaro นี่คือเดอะเดลี่
- [ดนตรี]
ปัจจุบัน: การจดจำใบหน้ากลายเป็นเครื่องมือที่นิยมมากขึ้นในการแก้ปัญหาอาชญากรรม แอนนี่ บราวน์ จากหนังสือพิมพ์เดอะเดลี่พูดกับแคชเมียร์ ฮิลล์ว่าซอฟต์แวร์นั้นไม่ได้ปฏิบัติต่อทุกคนอย่างเท่าเทียมกัน
เป็นวันจันทร์ที่ 3 สิงหาคม
- เนินเขาแคชเมียร์
ฉันแค่ไปบันทึกเทปด้วยแอปที่ฉันใช้ พวกคุณมีคำถามหรือข้อกังวลใด ๆ ก่อนที่เราจะเริ่มพูดถึงสิ่งที่เกิดขึ้นหรือไม่?
- โรเบิร์ต วิลเลียมส์
เลขที่.
- melissa williams
เลขที่.
- แอนนี่ บราวน์
ตกลง. คุณคิดว่าเราควรเริ่มเรื่องราวของคดีนี้ที่ไหน แคชเมียร์?
- เนินเขาแคชเมียร์
เรื่องราวเริ่มต้นขึ้นสำหรับครอบครัววิลเลียมส์ในเดือนมกราคมปี 2020
- โรเบิร์ต วิลเลียมส์
เมลิสซ่ารับสายก่อน ฉันได้รับโทรศัพท์จากเธอ
- เนินเขาแคชเมียร์
บ่ายวันพฤหัสบดีที่ฟาร์มิงตันฮิลส์ รัฐมิชิแกน ซึ่งอยู่นอกเมืองดีทรอยต์
- melissa williams
ฉันก็เลยไปรับจูเลียจากโรงเรียน ประจำวันพฤหัสบดี.
- เนินเขาแคชเมียร์
และเมลิสสา วิลเลียมส์ นายหน้า ขับรถกลับบ้านจากที่ทำงาน เธอมารับลูกสาวของเธอ
- melissa williams
และมันก็เป็นเวลาประมาณ 4 โมงเย็น และฉันได้รับโทรศัพท์
- เนินเขาแคชเมียร์
และเธอก็ได้รับโทรศัพท์จากใครบางคนที่บอกว่าพวกเขาเป็นเจ้าหน้าที่ตำรวจ
- melissa williams
พวกเขาพูดในทันทีว่า เรากำลังโทรหาโรเบิร์ตจากเหตุการณ์ในปี 2018 เขาต้องการมอบตัว ดังนั้นฉันจึงสับสน
- เนินเขาแคชเมียร์
เธอเป็นสีขาว และโรเบิร์ต วิลเลียมส์ สามีของเธอคือแบล็ก
- melissa williams
และพวกเขากล่าวว่าเราคิดว่าคุณเป็นแม่ลูกของเขาหรือว่าคุณไม่ได้อยู่ด้วยกันอีกต่อไป และ -
- เนินเขาแคชเมียร์
อะไร?
- melissa williams
ใช่. ฉันพูดว่านั่นคือสามีของฉัน และสิ่งนี้เกี่ยวกับอะไร? และพวกเขากล่าวว่าเราไม่สามารถบอกคุณได้ แต่เขาต้องมามอบตัว และฉันพูดว่า ทำไมคุณไม่โทรหาเขาล่ะ และพวกเขาพูดว่า คุณช่วยส่งข้อความหาเขาหน่อยไม่ได้เหรอ
- แอนนี่ บราวน์
รอ. แล้วเจ้าหน้าที่คนนี้เรียกเธอทำไม?
- เนินเขาแคชเมียร์
เธอไม่รู้ว่าทำไมเจ้าหน้าที่ถึงเรียกเธอ ทั้งหมดที่เธอรู้คือตำรวจต้องการติดต่อกับสามีของเธอ นางจึงให้เบอร์สามีแก่เจ้าหน้าที่ แล้วเธอก็โทรหาโรเบิร์ต
- melissa williams
และฉันก็พูดว่า ฉันเพิ่งได้รับสายที่แปลกมาก ผมก็แบบว่า คุณทำอะไร? นี่มันเรื่องอะไรกันเนี่ย?
- เนินเขาแคชเมียร์
และในขณะที่พวกเขากำลังคุยกันอยู่ โรเบิร์ต วิลเลียมส์ได้รับโทรศัพท์จากกรมตำรวจ
- โรเบิร์ต วิลเลียมส์
แน่นอน ฉันตอบไปอีกบรรทัด และเขาบอกว่าเขาเป็นนักสืบจากดีทรอยต์และฉันต้องมามอบตัว แน่นอนว่าฉันมาเพื่ออะไร และเขาก็แบบว่า ฉันไม่สามารถบอกคุณทางโทรศัพท์ได้ ฉันก็เลยเหมือนกัน ฉันไม่สามารถเปลี่ยนตัวเองได้ในตอนนั้น
- เนินเขาแคชเมียร์
สองสามวันก่อนวันเกิดของเขา ดังนั้นเขาจึงคิดว่าบางทีอาจเป็นการแกล้งกันก็ได้ แต่มันก็ค่อนข้างชัดเจนว่าบุคคลนั้นจริงจัง
- โรเบิร์ต วิลเลียมส์
ประมาณ เอ่อ อาจจะสิบนาทีต่อมา ฉันขับรถไปที่ถนน
- เนินเขาแคชเมียร์
และเมื่อเขาขับเข้าไปในถนนรถแล่น รถตำรวจก็เข้ามาขวางทางเขา ขวางเขาไว้ และเจ้าหน้าที่สองคนก็ออกไป
- โรเบิร์ต วิลเลียมส์
ใช่. ฉันจึงลงจากรถ และคนขับก็วิ่งขึ้น และเขาก็แบบว่า คุณคือโรเบิร์ต วิลเลียมส์? ฉันชอบใช่ เขาเป็นเหมือนคุณถูกจับกุม ฉันชอบ ไม่ฉันไม่ และผู้ชายคนนั้นก็คิดเหมือนกระดาษแผ่นหนึ่ง และมีคนบอกว่าความผิดทางอาญามีหมายจับอยู่ด้านบน การลักขโมย และฉันสับสน แบบว่า การลักขโมยไม่ใช่การลักขโมย?
- เนินเขาแคชเมียร์
ภรรยาของเขาออกมาพร้อมกับลูกสาวสองคนของเขา และลูกสาวคนโตของเขาซึ่งอายุ 5 ขวบกำลังเฝ้าดูสิ่งนี้เกิดขึ้น
- โรเบิร์ต วิลเลียมส์
ฉันพูดว่า Juju (ph) กลับบ้าน ฉันจะกลับมาในอีกสักครู่ พวกเขาแค่ทำผิดพลาด ผู้ชายที่เป็นตำรวจอีกคนหนึ่ง อยู่ข้างหลังฉัน พร้อมใส่กุญแจมือของเขาแล้ว ดังนั้นเขาจึงชอบมาเลย คุณแล้ว — คุณรู้จักการฝึกซ้อม และฉันก็แบบ อะไรนะ?
- เนินเขาแคชเมียร์
เจ้าหน้าที่จับกุมเขา พวกเขาต้องใช้กุญแจมือสองคู่เพื่อเอามือไปไว้ข้างหลัง เพราะเขาตัวใหญ่มาก
- โรเบิร์ต วิลเลียมส์
เราเริ่มขยับที่นั่งไปรอบๆ พยายามดึงฉันให้ไปนั่งที่เบาะหลังของอิมพาลาตัวเล็กๆ ตัวนี้ และไปกันเถอะ
- เนินเขาแคชเมียร์
แล้วพวกเขาก็ขับรถไปที่ศูนย์กักกัน
- [ดนตรี]
- โรเบิร์ต วิลเลียมส์
ฉันเอาลายนิ้วมือ ฉันเอา-
- เนินเขาแคชเมียร์
แก้วช็อตของคุณ
- โรเบิร์ต วิลเลียมส์
ภาพยิงแก้ว.
- เนินเขาแคชเมียร์
จากนั้นเขาก็ถูกขังไว้ในห้องขังเพื่อนอนข้ามคืน
- โรเบิร์ต วิลเลียมส์
ณ จุดนี้ ฉันอยู่ในห้องขังกับผู้ชายอีกสองคน และพวกเขาชอบคุณมาที่นี่เพื่ออะไร? และฉันก็แบบ ไม่รู้สิ
- เนินเขาแคชเมียร์
แล้วเมื่อไหร่ที่คุณทราบจริง ๆ ว่าทำไมคุณถึงถูกจับกุม นอกเหนือจากการลักขโมยที่คลุมเครือแบบนี้?
- โรเบิร์ต วิลเลียมส์
อืม -- อาจจะเหมือนตอนเที่ยงของวันถัดไป
- เนินเขาแคชเมียร์
ประมาณเที่ยงวันรุ่งขึ้น เขาถูกนำตัวไปที่ห้องสอบสวน และมีนักสืบสองคนอยู่ที่นั่น และพวกเขามีกระดาษสามแผ่นคว่ำหน้าลง และพลิกกระดาษแผ่นแรก และเป็นภาพจากวิดีโอกล้องวงจรปิดของชายผิวสีร่างใหญ่ยืนอยู่ในร้าน สวมหมวกคาร์ดินัลสีแดงและแจ็กเก็ตสีดำ และนักสืบถามว่า นี่คุณหรือเปล่า
- โรเบิร์ต วิลเลียมส์
ฉันหัวเราะเล็กน้อยและพูดว่า ไม่ นั่นไม่ใช่ฉัน จากนั้นเขาก็พลิกกระดาษอีกแผ่นหนึ่ง
- เนินเขาแคชเมียร์
และพวกเขาพลิกกระดาษแผ่นที่สอง ซึ่งเป็นภาพระยะใกล้ของใบหน้าชายคนเดียวกัน
- โรเบิร์ต วิลเลียมส์
และเขาบอกว่าฉันคิดว่านั่นไม่ใช่คุณเช่นกัน และฉันก็พูดว่าไม่ นี่ไม่ใช่ฉัน.
- เนินเขาแคชเมียร์
โรเบิร์ตจึงหยิบแผ่นกระดาษขึ้นมา ชูมันไว้ใกล้ใบหน้าของเขาเอง —
- โรเบิร์ต วิลเลียมส์
ฉันก็แบบ ว่านายคิดยังไง ผู้ชายผิวดำทุกคนหน้าตาเหมือนกันหมด?
- เนินเขาแคชเมียร์
— และพูดว่า ผู้ชายผิวดำทุกคนหน้าตาเหมือนกันกับคุณหรือเปล่า
- แอนนี่ บราวน์
แล้วแคชเมียร์ของคุณมีความเข้าใจอย่างไรเกี่ยวกับสิ่งที่เกิดขึ้นในการนำโรเบิร์ต วิลเลียมส์ มาที่กรมตำรวจนั้น
- เนินเขาแคชเมียร์
ดังนั้นโรเบิร์ต วิลเลียมส์จึงไม่รู้ว่าเกิดอะไรขึ้น แต่เมื่อสองปีก่อนในเดือนตุลาคม 2018 ชายที่ไม่ใช่เขาเดินเข้าไปในร้าน Shinola ในตัวเมืองดีทรอยต์ และ Shinola ก็เหมือนร้านค้าระดับไฮเอนด์ที่ขายนาฬิกาและจักรยานราคาแพง ผู้ชายคนนี้จึงเข้ามา เขาอยู่ที่นั่นสองสามนาที เขาขโมยนาฬิกาห้าเรือนมูลค่า 3,800 ดอลลาร์และเดินออกไป ไม่มีพนักงานคนใดเห็นการโจรกรรมเกิดขึ้นจริง ดังนั้นพวกเขาจึงต้องตรวจสอบภาพการเฝ้าระวัง และพวกเขาพบช่วงเวลาที่มันเกิดขึ้น ดังนั้นพวกเขาจึงส่งภาพกล้องวงจรปิดที่โรเบิร์ต วิลเลียมส์แสดงให้ตำรวจดีทรอยต์ดู และตำรวจก็หันไปหาสิ่งที่ตำรวจหลายๆ คนหันมามองในทุกวันนี้ เมื่อพวกเขาสงสัยว่าพวกเขาไม่รู้จัก – ระบบจดจำใบหน้า ดังนั้นพวกเขาจึงทำการค้นหาสิ่งนี้ สิ่งที่พวกเขาเรียกว่าภาพโพรบ ภาพนี้สำหรับวิดีโอการเฝ้าระวัง ซึ่งหยาบมาก มันไม่ใช่ภาพถ่ายที่ดีมาก และวิธีการทำงานของระบบเหล่านี้ก็คือ พวกมันไม่เพียงแค่เข้าถึงภาพถ่ายแก้วมัคเท่านั้น แต่ยังรวมถึงภาพถ่ายใบขับขี่ด้วย คุณจะได้ผลลัพธ์ที่หลากหลาย และมีมนุษย์ที่เกี่ยวข้องซึ่งตัดสินใจว่าผลลัพธ์ใดที่ดูเหมือนผู้ที่ก่ออาชญากรรมมากที่สุด
- แอนนี่ บราวน์
มม. คุณกำลังพูดว่าอัลกอริธึมการจดจำใบหน้าโดยพื้นฐานแล้วสร้างกลุ่มผู้ต้องสงสัยที่อาจเกิดขึ้น แล้วจากรายชื่อนั้น มีคนเลือกคนที่คิดว่าดูเหมือนผู้ชายที่สุดในวิดีโอวงจรปิดมากที่สุด
- เนินเขาแคชเมียร์
ถูกต้อง. นั่นคือวิธีที่พวกเขาจับกุมโรเบิร์ต วิลเลียมส์
- [ดนตรี]
กลับมาที่ห้องนี้ ตอนนี้นักสืบทั้งสองมีโรเบิร์ต วิลเลียมส์ตัวจริงอยู่ตรงหน้าพวกเขา และเขาดูไม่เหมือนผู้ชายคนนี้
- โรเบิร์ต วิลเลียมส์
รู้ไหมพวกเขานั่งหันหลังมองหน้ากันและทำหน้าอุ๋งๆ ใช่ไหม? พูดอย่างนั้นฉันเดาว่าคอมพิวเตอร์ก็ผิดพลาดเช่นกัน
- เนินเขาแคชเมียร์
ดังนั้นพวกเขาจึงเอนหลังและพูดว่า ฉันเดาว่าคอมพิวเตอร์ทำผิดพลาด
- โรเบิร์ต วิลเลียมส์
คอมพิวเตอร์ทำผิดพลาดคือสิ่งที่ทำให้ฉันผิดหวัง และฉันก็แบบว่า คอมพิวเตอร์ทำผิดพลาด?
- แอนนี่ บราวน์
และความหมายของข้อความนั้น ที่คอมพิวเตอร์ทำผิดพลาดคืออะไร?
- เนินเขาแคชเมียร์
นักสืบยอมรับว่าเป็นคอมพิวเตอร์ที่ชี้นิ้วไปที่โรเบิร์ต วิลเลียมส์ และนั่นสำคัญมาก เพราะนี่เป็นคดีแรกที่ถูกจับได้ว่าเป็นผู้บริสุทธิ์ที่ถูกจับกุมเนื่องจากการจับคู่การจดจำใบหน้าที่มีข้อบกพร่อง
- [ดนตรี]
- แอนนี่ บราวน์
และเพียงเพื่อให้ทั้งหมดนี้ในบริบทเป็นวินาที ครั้งสุดท้ายที่คุณและฉันพูดคุยกัน แคชเมียร์ เรากำลังพูดถึงการพัฒนาที่แตกต่างกันในการจดจำใบหน้า — อัลกอริธึมใหม่นี้ถูกใช้โดยหน่วยงานตำรวจบางแห่งที่ดึงภาพจากทั่วทุกมุม โซเชียลมีเดียและทั่วอินเทอร์เน็ตเพื่อสร้างอัลกอริธึมขั้นสูง แต่ความกลัวไม่ใช่ว่ามันไม่ถูกต้อง มันเกือบจะแม่นยำเกินไปจนรู้มากเกินไป แต่สิ่งที่คุณอธิบายนั้นแตกต่างไปจากเดิมอย่างสิ้นเชิง ถูกต้อง?
- เนินเขาแคชเมียร์
เมื่อเราพูดถึงการจดจำใบหน้า เรามักจะคิดว่ามันเป็นเสาหิน นั่นคือมีการจดจำใบหน้าแบบเดียว แต่ในความเป็นจริง มีบริษัทหลายแห่งที่มีอัลกอริธึมเป็นของตัวเอง และบางส่วนทำงานได้ดี และบางอย่างก็ใช้งานไม่ได้ และบางครั้งทำงานได้ดี เช่น การระบุภาพที่ชัดเจนจริงๆ ง่ายกว่าการระบุภาพจากกล้องวงจรปิด
- แอนนี่ บราวน์
และเหตุใดกรมตำรวจจึงไม่ใช้ซอฟต์แวร์เวอร์ชันล่าสุดที่ทันสมัยที่สุดและทันสมัยที่สุด
- เนินเขาแคชเมียร์
ฉันหมายความว่านี่คือที่ที่คุณทำงานในระบบราชการ ถูกต้อง? คุณมีสัญญากับบริษัทที่ย้อนหลังไปหลายปีและมีผู้ขายหลายราย ในกรณีนี้ ฉันพยายามหาให้แน่ชัดว่าอัลกอริธึมของใครที่ทำให้โรเบิร์ต วิลเลียมส์ถูกจับได้ และฉันต้องขุดลงไปจริงๆ และฉันพบว่าตำรวจไม่มีความคิด คุณรู้ไหม พวกเขาทำสัญญากับบริษัทที่ชื่อ DataWorks Plus และ DataWorks Plus ได้ทำสัญญากับบริษัทอื่นอีกสองแห่งที่เรียกว่า N.E.C. และอันดับ 1 ที่ให้อัลกอริทึมจริง นี่คือบริษัทในเครือทั้งหมดที่เกี่ยวข้อง และไม่มีการทดสอบที่ได้มาตรฐาน ไม่มีใครควบคุมสิ่งนี้ได้จริงๆ ไม่มีใครบอกว่าอัลกอริธึมใดผ่านการทดสอบเพื่อให้หน่วยงานบังคับใช้กฎหมายใช้ มันขึ้นอยู่กับเจ้าหน้าที่ตำรวจ ซึ่งโดยส่วนใหญ่แล้ว ดูเหมือนจะทดสอบมันในสนามเพื่อดูว่ามันใช้ได้ผลหรือไม่ ถ้ามันระบุตัวคนได้ถูกต้องหรือไม่
แต่ปัญหาใหญ่จริงๆ คือระบบเหล่านี้ได้รับการพิสูจน์แล้วว่ามีอคติ
- [ดนตรี]
- ไมเคิล บาร์บาโร
เราจะกลับมาทันที
- แอนนี่ บราวน์
ดังนั้น แคชเมียร์ ช่วยฉันเข้าใจว่าอัลกอริธึมสามารถมีอคติได้อย่างไร
- เนินเขาแคชเมียร์
อคติมักจะมาจากวิธีการฝึกฝนอัลกอริทึม และอัลกอริธึมเหล่านี้มักจะได้รับการฝึกฝนโดยพื้นฐานแล้วให้ภาพผู้คนจำนวนมาก แต่ปัญหาของอัลกอริธึมคือพวกเขามักจะฝึกด้วยชุดข้อมูลที่ไม่หลากหลาย
- แอนนี่ บราวน์
มม.
- เนินเขาแคชเมียร์
ตัวอย่างที่ดีประการหนึ่งก็คือ อัลกอริธึมจำนวนมากที่ใช้โดยหน่วยงานบังคับใช้กฎหมายในสหรัฐอเมริกา โดยรัฐบาลในสหรัฐฯ นั้นเก่งมากในการจดจำชายผิวขาว และไม่รู้จักคนผิวดำหรือชาวอเมริกันเชื้อสายเอเชีย แต่ถ้าคุณไปที่อัลกอริทึมจากบริษัทแห่งหนึ่งในจีน ที่พวกเขาใส่ภาพคนเอเชียจำนวนมากเข้าไป พวกเขาจะจำคนเอเชียได้ดีมาก และไม่รู้จักผู้ชายผิวขาวเก่งเท่า คุณจะเห็นความเอนเอียงที่มาจากประเภทข้อมูลที่เราป้อนเข้าสู่ระบบเหล่านี้
- แอนนี่ บราวน์
และนี่คือความจริงที่ตกลงกันอย่างกว้างขวางหรือไม่ เนื่องจากวิธีการเหล่านี้ อัลกอริธึมที่ใช้ในสหรัฐฯ จึงระบุใบหน้าที่ไม่ใช่ชายผิวขาวได้แย่กว่านั้น
- เนินเขาแคชเมียร์
ใช่. เมื่อหลายปีก่อน สถาบัน M.I.T. นักวิจัยได้ทำการศึกษาครั้งนี้และพบว่าอัลกอริธึมการจดจำใบหน้ามีอคติเพื่อให้สามารถจดจำชายผิวขาวได้ดีขึ้น และหลังจากนั้นไม่นาน NIST สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ ได้ตัดสินใจดำเนินการศึกษาเรื่องนี้ด้วยตนเอง และพบสิ่งเดียวกัน โดยดูอัลกอริธึมต่างๆ กว่า 100 แบบ และพบว่ามีอคติ และที่จริงแล้ว อัลกอริทึมทั้งสองที่เป็นหัวใจสำคัญของกรณีนี้ — กรณีของ Robert Williams — อยู่ในการศึกษานั้น
- แอนนี่ บราวน์
ดังนั้น อัลกอริทึมที่ใช้โดยกรมตำรวจนี้จึงได้รับการศึกษาโดยรัฐบาลกลางจริงๆ และได้รับการพิสูจน์แล้วว่ามีอคติต่อใบหน้าอย่างโรเบิร์ต วิลเลียมส์
- เนินเขาแคชเมียร์
อย่างแน่นอน.
- แอนนี่ บราวน์
เมื่อพิจารณาถึงปัญหาที่เข้าใจกันอย่างกว้างขวางเกี่ยวกับอัลกอริธึมเหล่านี้ กรมตำรวจจะพิสูจน์เหตุผลในการใช้งานต่อไปได้อย่างไร
- เนินเขาแคชเมียร์
ดังนั้นกรมตำรวจจึงตระหนักถึงปัญหาอคติ แต่พวกเขารู้สึกว่าการจดจำใบหน้าเป็นเพียงเครื่องมือที่มีค่าเกินไปในชุดเครื่องมือเพื่อแก้ปัญหาอาชญากรรม และการป้องกันของพวกเขาคือพวกเขาไม่เคยจับกุมใครซักคนโดยอาศัยการจดจำใบหน้าเพียงอย่างเดียว การจดจำใบหน้านั้นเป็นเพียงสิ่งที่พวกเขาเรียกว่าหัวหน้าฝ่ายสืบสวน ไม่ได้ระบุสาเหตุที่น่าจะเป็นไปได้สำหรับการจับกุม
ดังนั้นสิ่งที่ตำรวจควรทำคือพวกเขาได้รับการจับคู่การจดจำใบหน้าและคุณควรทำการสอบสวนเพิ่มเติม ดังนั้นคุณสามารถไปที่บัญชีโซเชียลมีเดียของบุคคลนั้นและดูว่ามีรูปถ่ายอื่น ๆ ของพวกเขาสวมเสื้อผ้าแบบเดียวกับที่พวกเขาสวมในวันที่พวกเขาก่ออาชญากรรมนี้หรือไม่ หรือคุณอาจลองหาหลักฐานว่าพวกเขาอยู่ในส่วนนั้นของเมืองในวันที่เกิดการโจรกรรม คุณรู้ไหม พยายามรับข้อมูลตำแหน่ง โดยพื้นฐานแล้ว ให้หาหลักฐานอื่นๆ ที่แสดงว่าบุคคลนี้เป็นผู้ก่ออาชญากรรม
นักสืบเพิ่งไปหาผู้หญิงคนหนึ่งที่เห็นการโจรกรรมในวิดีโอและแสดงรูปคนหกคนให้เธอดู พวกเขาเรียกว่ามีซิกแพ็ค และเธอบอกว่าโรเบิร์ต วิลเลียมส์ดูเหมือนคนในวิดีโอมากที่สุด
- แอนนี่ บราวน์
มม. ดังนั้นพวกเขาจึงควรใช้การจับคู่การจดจำใบหน้าเป็นเบาะแส จากนั้นโปรโตคอลก็เรียกร้องให้พวกเขาทำงานตำรวจมากขึ้นเพื่อตรวจสอบ แต่ในกรณีนี้ โดยพื้นฐานแล้ว พวกเขาเพียงแค่ให้ใครบางคนดูวิดีโอ จากนั้นระบุ Robert Williams ว่าเป็นคนที่ดูเหมือนผู้ชายในวิดีโอมากที่สุด
- เนินเขาแคชเมียร์
ใช่ พวกเขาเพิ่งจดจำใบหน้าครั้งที่สอง แต่กับมนุษย์ที่ไม่ได้รับการฝึกฝนจริงๆ และพวกเขาไม่ได้ทำการตรวจสอบอื่นใด ตามนั้น พวกเขาออกไปและจับกุมมิสเตอร์วิลเลียมส์
- แอนนี่ บราวน์
แต่ถ้าตำรวจทำงานอย่างถูกต้อง — ถ้าพวกเขาได้ตรวจสอบบัญชีโซเชียลมีเดียของเขา ถ้าพวกเขาพยายามรับข้อมูลตำแหน่งของเขาจากบันทึกในโทรศัพท์ของเขา โดยพื้นฐานแล้วการสอดส่องเขาอย่างใกล้ชิดยิ่งขึ้น — นั่นไม่ใช่การละเมิดแบบของตัวเอง ? เพียงเพราะเทคโนโลยีของพวกเขาระบุชายคนนี้อย่างไม่ถูกต้อง เขาจึงถูกจับตาดูอย่างใกล้ชิดโดยตำรวจโดยที่เขาไม่รู้
- เนินเขาแคชเมียร์
ถูกต้อง. และนี่คือสิ่งที่ตำรวจขอให้ผู้ขายจดจำใบหน้าทำจริงๆ พวกเขาต้องการมีมากกว่านั้น สิ่งที่คุณเรียกว่าผลบวกลวง เพราะพวกเขาต้องการมีผู้ต้องสงสัยจำนวนมากที่สุดเท่าที่จะทำได้ เพราะพวกเขาต้องการหาคนร้าย
- แอนนี่ บราวน์
ฮะ.
- เนินเขาแคชเมียร์
แต่มีจำนวนจริงจากเรื่องนั้น
- แอนนี่ บราวน์
อืม.
- เนินเขาแคชเมียร์
ฉันเพิ่งรู้ว่าในฐานะคนที่รายงานเกี่ยวกับเทคโนโลยีมาสิบปีแล้ว ฉันแค่คิดว่าผู้คนเชื่อถือคอมพิวเตอร์ และแม้ว่าเราจะรู้ว่ามีบางอย่างผิดพลาด แต่ถ้าเป็นคอมพิวเตอร์ที่บอกให้เราทำ เราก็คิดว่ามันถูกต้อง และนี่คือเหตุผลที่เราเคยเห็นมาเป็นเวลานาน เมื่อมีการพัฒนาเทคโนโลยีการทำแผนที่ครั้งแรก และมันก็ไม่ได้ยอดเยี่ยมขนาดนั้น อย่างที่รู้ๆ กันว่าผู้คนจะขับรถเข้าไปในทะเลสาบ พวกเขาจะขับรถข้ามหน้าผาเพราะแอพแผนที่บอกว่าคุณควรตรงไปที่นี่
- แอนนี่ บราวน์
ถูกต้อง.
- เนินเขาแคชเมียร์
และแม้ว่าพวกเขาจะมองได้เห็นว่าชีวิตของพวกเขากำลังตกอยู่ในอันตราย พวกเขาจะคิดว่า อืม แอปนี้ต้องรู้ว่ามันพูดถึงอะไร นั่นคือการจดจำใบหน้าในตอนนี้ และเมื่อฉันรายงานเรื่องนี้ ผู้เชี่ยวชาญทั้งหมดที่ฉันคุยด้วยกล่าวว่านี่ไม่ใช่กรณีแรกที่มีคนเข้าใจผิดอย่างแน่นอน — ผู้บริสุทธิ์ถูกจับกุมโดยไม่ได้ตั้งใจเพราะการจับคู่การจดจำใบหน้าที่ไม่ดี แต่คนทั่วไปมักไม่รู้เรื่องนี้ ตำรวจไม่บอกผู้คนว่าพวกเขาอยู่ที่นั่นเนื่องจากการจดจำใบหน้า
- แอนนี่ บราวน์
อืม.
- เนินเขาแคชเมียร์
โดยปกติ เมื่อพวกเขาตั้งข้อหา พวกเขาจะบอกว่าพวกเขาถูกระบุตัวตนด้วยวิธีการสืบสวน มันค่อนข้างคลุมเครือ มีเงื่อนงำที่ชี้มาที่คุณ ด้วยวิธีนี้ คดีของโรเบิร์ตจึงไม่ใช่เรื่องปกติ เพราะมีหลักฐานที่กล่าวหาเขาน้อยมาก โดยพื้นฐานแล้วพวกเขาต้องบอกเขาว่าพวกเขาใช้การจดจำใบหน้าเพื่อทำให้เขาอยู่ที่นั่น
- แอนนี่ บราวน์
ถูกต้อง. พวกเขาแสดงให้เขาเห็นสิ่งที่คนส่วนใหญ่ไม่ได้เห็น ซึ่งเป็นการจับคู่ที่ผิดระหว่างรูปถ่ายของเขากับรูปถ่ายของอาชญากรรม
- เนินเขาแคชเมียร์
ถูกต้อง.
- แอนนี่ บราวน์
และเกิดอะไรขึ้นตั้งแต่โรเบิร์ตถูกจับ?
- เนินเขาแคชเมียร์
โรเบิร์ตจึงต้องจ้างทนายความมาแก้ต่าง แต่เมื่อเขาไปขึ้นศาล อัยการจึงตัดสินใจถอนฟ้อง แต่พวกเขาทำมันหล่นโดยไม่มีอคติ ซึ่งหมายความว่าพวกเขาสามารถตั้งข้อหาเขาได้อีกครั้ง
- แอนนี่ บราวน์
สำหรับอาชญากรรมเดียวกัน?
- เนินเขาแคชเมียร์
กับอาชญากรรมแบบเดียวกัน ตอนที่ฉันรายงานเรื่องนี้ คุณก็รู้ ฉันไปที่สำนักงานอัยการ ฉันไปที่กรมตำรวจดีทรอยต์ และฉันก็พูดว่า คุณรู้ไหม เกิดอะไรขึ้นที่นี่ คุณมีหลักฐานอื่นหรือไม่? ดูเหมือนว่าจะเป็นการเข้าใจผิดและการใช้การจดจำใบหน้าในทางที่ผิด และทุกคนที่เกี่ยวข้องก็ค่อนข้างตั้งรับ และกล่าวว่า อาจมีหลักฐานมากกว่านี้ที่พิสูจน์ว่าโรเบิร์ต วิลเลียมส์ทำมัน
แต่หลังจากที่เรื่องราวออกมา ท่วงทำนองของทุกคนก็เปลี่ยนไปอย่างมาก สำนักงานอัยการขอโทษกล่าวว่า Robert Williams ไม่ควรใช้เวลาในคุก กรมตำรวจดีทรอยต์กล่าวว่านี่เป็นการสอบสวนที่น่าสยดสยอง เจ้าหน้าที่ตำรวจที่เกี่ยวข้องเพียงแค่ทำผิดทั้งหมด นี่ไม่ใช่วิธีการทำงาน และพวกเขากล่าวว่าโรเบิร์ต วิลเลียมส์ จะต้องลบข้อมูลของเขาออกจากระบบ — แก้วช็อตของเขา ดีเอ็นเอของเขา และพวกเขาก็ขอโทษครอบครัววิลเลียมส์เป็นการส่วนตัว แม้ว่าครอบครัววิลเลียมส์จะบอกฉันว่าไม่มีใครโทรหาพวกเขาเพื่อขอโทษเป็นการส่วนตัว
- แอนนี่ บราวน์
แต่เขาไม่สามารถถูกตั้งข้อหาได้อีกต่อไปสำหรับอาชญากรรมนี้ในอนาคต?
- เนินเขาแคชเมียร์
ถูกต้องแล้ว
- แอนนี่ บราวน์
แล้วการใช้ซอฟต์แวร์จดจำใบหน้าของพวกเขาล่ะ? มีการเปลี่ยนแปลงใด ๆ ที่นั่นหรือไม่?
- เนินเขาแคชเมียร์
สิ่งหนึ่งที่กรมตำรวจดีทรอยต์กล่าวคือ นี่เป็นกรณีที่เกิดขึ้นก่อนนโยบายใหม่นี้ที่เรามี ซึ่งบอกว่า คุณรู้ไหม เราควรจะใช้การจดจำใบหน้าสำหรับอาชญากรรมรุนแรงเท่านั้น
- แอนนี่ บราวน์
อืม. และคุณคิดอย่างไรกับสิ่งนั้น ทำไมต้องใช้เครื่องมือนี้เพื่อสิ่งนั้น?
- เนินเขาแคชเมียร์
เหตุผลของพวกเขาคือ เมื่อพูดถึงอาชญากรรมรุนแรง เมื่อพูดถึงการฆาตกรรม การข่มขืน พวกเขาต้องคลี่คลายคดีเหล่านี้ และพวกเขาจะใช้เบาะแสที่ทำได้ รวมถึงการจดจำใบหน้า แต่ฉันนึกถึงบางสิ่งที่ภรรยาของโรเบิร์ตพูด
- melissa williams
เมื่อพวกเขามาถึงบ้านของเรา พวกเขาทะเลาะกันทางโทรศัพท์แล้ว พวกเขาก้าวร้าวตรงทางเข้าประตูของฉัน เกิดอะไรขึ้นถ้าเขาได้รับการโต้แย้ง? ถ้าเขาตั้งรับ ถ้าเขาไม่ปฏิบัติตาม คุณรู้ไหม อะไรที่จะกลายเป็นในบ้านของเรา? เช่น มันอาจจะไปในทางที่ต่างออกไป และข่าวล่าสุดได้แสดงให้เราเห็นว่ามันสามารถไปในทางที่ต่างออกไปได้อย่างแน่นอน
- [ดนตรี]
- เนินเขาแคชเมียร์
คุณรู้สึกอับอายไหมที่ตำรวจจับคุณทั้งๆ ที่คุณไม่ได้ทำอะไรเลย?
- โรเบิร์ต วิลเลียมส์
มันน่าละอายเล็กน้อย รู้ไหม มันไม่ใช่อะไรที่หลุดปากง่ายๆ อย่าง อ๋อ งั้นเหรอ แล้วเดาสิว่ายังไง? ฉันถูกจับ
- [ดนตรี]
- แอนนี่ บราวน์
แล้วสำหรับตัวโรเบิร์ตเองล่ะ? ชีวิตของเขาเป็นอย่างไรหลังจากถูกจับกุม?
- เนินเขาแคชเมียร์
ดังนั้นมันจึงน่าอายมากสำหรับเขาและเจ็บปวดในบางเรื่อง ดังนั้นเขาจึงทำงานอย่างเต็มที่จนถึงวันที่เขาถูกจับ และภรรยาของเขาต้องส่งอีเมลถึงเจ้านายและบอกว่าพวกเขามีเหตุฉุกเฉินในครอบครัวและเขาไม่สามารถมาปรากฏตัวในวันนั้นได้ เมื่อเขาบอกเจ้านายของเขาว่าเกิดอะไรขึ้น เจ้านายของเขาบอกว่า คุณไม่ต้องการบอกคนอื่นในที่ทำงาน คุณรู้ไหมว่ามันอาจจะไม่ดีสำหรับคุณ ในคืนที่เขากลับถึงบ้าน ลูกสาวของเขา — ลูกวัย 5 ขวบของเขายังคงตื่นอยู่
- โรเบิร์ต วิลเลียมส์
จูเลียยังคงตื่นอยู่ และฉันก็แบบว่า คุณกำลังทำอะไรอยู่ และเธอก็เป็นเหมือนฉันรอคุณอยู่ และฉันก็แบบ ฉันบอกคุณแล้วว่าฉันจะกลับมา และเธอก็แบบว่า คุณไม่ได้กลับมาทันที ฉันก็เลยเอาแต่บอกเธอว่าพวกเขาทำผิดพลาด และมันก็ใช้เวลานานกว่าที่เราคาดไว้ แต่ -
- เนินเขาแคชเมียร์
เธอเริ่มอยากเล่นเป็นตำรวจและโจร และเธอมักจะแสร้งทำเป็นว่าเขาเป็นโจรที่ขโมยของบางอย่าง และเธอจะต้องขังเขาไว้ในห้องนั่งเล่น
- แอนนี่ บราวน์
อืม.
- melissa williams
ใช่เลย. เธอบอกเราว่าเธอบอกคนหนึ่งของเธอ — แจ็คสัน เพื่อนของเธอที่โรงเรียน และเราไม่แน่ใจ เธอบอกครูของเธอหรือไม่? เธอบอกเพื่อน ๆ ของเธอหรือไม่? เราก็ไม่แน่ใจ และเราไม่รู้จะพูดอะไรกับผู้คน แบบว่าเอามันมาจากไหนก็ไม่รู้ แบบว่า เออ เผื่อมีใครพูดถึงก็โดนจับแต่ไม่ได้ทำอะไร
- เนินเขาแคชเมียร์
สิ่งนี้ทำให้คุณมองย้อนกลับไปเพื่อดูว่าคุณอยู่ที่ไหน — เช่น คุณอยู่ที่ไหนในเดือนตุลาคม 2018?
- โรเบิร์ต วิลเลียมส์
ใช่. ฉันดึงมันขึ้น ตอนนั้นฉันเล่น Facebook หรือ Instagram Live
- เนินเขาแคชเมียร์
เขาได้มองย้อนกลับไปและตระหนักว่าเขาได้โพสต์ไปยัง Instagram ในเวลาเดียวกับที่เกิดการขโมยของในร้าน เขากำลังขับรถกลับบ้านจากที่ทำงาน และเพลงที่แม่ของเขาชอบก็ดังขึ้นมาทางวิทยุ นั่นคือเพลง We Are One ของ Maze และ Frankie Beverly
- โรเบิร์ต วิลเลียมส์
ฉันกำลังร้องเพลงระหว่างทางกลับบ้านในรถ
- แอนนี่ บราวน์
ดังนั้น หากตำรวจตรวจสอบสื่อสังคมของเขา หากพวกเขาพยายามยืนยันว่าเป็นไปได้ว่าเขาอาจก่ออาชญากรรมนี้ พวกเขาอาจพบวิดีโอนี้
- เนินเขาแคชเมียร์
ถูกต้อง. ถ้าตำรวจทำการสอบสวนจริง พวกเขาจะพบว่าเขามีข้อแก้ตัวในวันนั้น
- การบันทึกที่เก็บถาวร
[เราเป็นคนหนึ่งที่เล่น]
- แอนนี่ บราวน์
แคชเมียร์ขอบคุณมาก
- เนินเขาแคชเมียร์
ขอขอบคุณ.
- [ดนตรี]
- ไมเคิล บาร์บาโร
เราจะกลับมาทันที
นี่คือสิ่งที่คุณต้องรู้อีกในวันนี้ ผลประโยชน์การว่างงานของรัฐบาลกลางได้สิ้นสุดลงแล้วสำหรับชาวอเมริกันหลายสิบล้านคนหลังจากที่สภาคองเกรสล้มเหลวในการบรรลุข้อตกลงในการต่ออายุเมื่อสัปดาห์ที่แล้ว
- การบันทึกที่เก็บถาวร
คุณพูดอะไรกับคนอเมริกัน 30 ล้านคนที่ตอนนี้ไม่ได้รับความช่วยเหลือจากการว่างงานของรัฐบาลกลาง?
- การบันทึกที่เก็บถาวร (nancy pelosi)
ฉันพูดกับพวกเขา คุยกับประธานาธิบดีทรัมป์ เขาเป็นคนที่ยืนอยู่ในทางนั้น เราได้รับเงิน 600 ดอลลาร์ พวกเขามีข้อเสนอ $200 ซึ่งไม่ตรงกับความต้องการของครอบครัววัยทำงานของอเมริกา และ -
- ไมเคิล บาร์บาโร
ในการให้สัมภาษณ์เมื่อวันอาทิตย์ที่ ABC's Week โฆษกสภาผู้แทนราษฎร Nancy Pelosi กล่าวหาพรรครีพับลิกันเพื่อเรียกร้องให้ลดผลประโยชน์รายสัปดาห์ลงอย่างมาก ในขณะที่ Steve Mnuchin รัฐมนตรีกระทรวงการคลังอ้างว่าการจ่ายเงินจำนวน 600 ดอลลาร์เสี่ยงที่จะจ้างแรงงานที่ตกงานมากเกินไป
- การบันทึกที่เก็บถาวร
คุณคิดว่ามันไม่จูงใจที่จะหางานทำถ้าคุณมีเงินพิเศษ 600 ดอลลาร์หรือไม่?
- การบันทึกที่เก็บถาวร (สตีเวน มนูชิน)
ไม่มีคำถาม ในบางกรณีที่เราจ่ายเงินให้คนอยู่บ้านมากกว่าทำงาน นั่นสร้างปัญหาให้กับเศรษฐกิจทั้งหมด
- ไมเคิล บาร์บาโร
และเดอะไทมส์รายงานว่าเดือนกรกฎาคมเป็นเดือนแห่งความหายนะสำหรับการระบาดใหญ่ในสหรัฐฯ โดยประเทศนี้มีผู้ติดเชื้อรายใหม่เกือบ 2 ล้านคน มากกว่าเดือนก่อนๆ ถึง 2 เท่า
- การบันทึกที่เก็บถาวร (deborah birx)
ฉันต้องการที่จะชัดเจนมาก สิ่งที่เราเห็นในวันนี้แตกต่างไปจากเดือนมีนาคมและเมษายน เป็นที่แพร่หลายมากเป็นพิเศษ มันเข้าไปในชนบทเป็นเขตเมืองที่เท่าเทียมกัน
- ไมเคิล บาร์บาโร
ในการให้สัมภาษณ์กับ CNN เมื่อวันอาทิตย์ ดร. Deborah Birx ที่ปรึกษาระดับสูงของทำเนียบขาวเกี่ยวกับการระบาดใหญ่ ยอมรับว่าสหรัฐอเมริกาล้มเหลวในการกักกันไวรัส
- การบันทึกที่เก็บถาวร (deborah birx)
และสำหรับทุกคนที่อาศัยอยู่ในพื้นที่ชนบท คุณไม่มีภูมิคุ้มกันหรือป้องกันจากไวรัสนี้ นั่นคือเหตุผลที่เราพูดอยู่เสมอ ไม่ว่าคุณจะอยู่ที่ไหนในอเมริกา คุณต้องสวมหน้ากากและเว้นระยะห่างทางสังคม ทำสุขอนามัยส่วนบุคคล -
- ไมเคิล บาร์บาโร
แค่นั้นแหละสำหรับ The Daily ฉันชื่อไมเคิล บาร์บาโร เจอกันพรุ่งนี้.
- [ดนตรี]
Aaron Krolik สนับสนุนการรายงาน