Cô Porcha Woodruff đang mang thai 8 tháng khi cảnh sát ở Detroit, Michigan đến bắt vì nghi cướp xe và cướp tài sản. Cô đang chuẩn bị cho hai đứa con đi học thì 6 viên cảnh sát gõ cửa nhà cô và đọc lệnh bắt giữ. Vào thời điểm đó Woodruff còn nghĩ nghĩ đây chỉ là một trò đùa.
"Các anh đùa à, cướp xe? Các anh có thấy tôi đang mang thai 8 tháng không?", Woodruff, một phụ nữ da màu sống tại Detroit, Michigan (Mỹ), nói với sáu cảnh sát vừa gõ cửa nhà cô.
Cô bị giam giữ và thẩm vấn trong 11 giờ và được thả với số tiền thế chân 100.000 USD. Cô ngay lập tức đến bệnh viện, nơi cô được điều trị mất nước.
Woodruff sau đó phát hiện rằng mình là nạn nhân mới nhất do AI nhận dạng sai khuôn mặt. Sau khi hình ảnh của cô bị nhận dạng với đoạn video quay cảnh một người phụ nữ tại trạm xăng nơi xảy ra vụ cướp ô tô, hệ thống dữ liệu ngay lập tức quét khuôn mặt và cho rằng Woodruff chính là thủ phạm. Theo đơn kiện, nạn nhân đã chọn ảnh của Woodruff là người phụ nữ có liên quan đến vụ cướp. Tuy nhiên, trong báo cáo của điều tra viên không hề xác nhận rằng người phụ nữ trong đoạn video đang mang thai.
Một tháng sau, các cáo buộc đã bị bác bỏ do không đủ bằng chứng.
Woodruff là trường hợp thứ 3 được biết đến vì bị bắt giữ do sở cảnh sát Detroit nhận dạng khuôn mặt sai - và là trường hợp thứ 6 ở Hoa Kỳ. Tất cả 6 người bị bắt oan đều là người da màu. Trong nhiều năm, các chuyên gia và những người ủng hộ quyền riêng tư đã gióng lên hồi chuông cảnh tỉnh về việc công nghệ không thể xác định chính xác người da màu và đã cảnh báo về các hành vi vi phạm quyền riêng tư và sự nguy hiểm của hệ thống có mục đích nhận dạng người dân. Tuy nhiên, các cơ quan thực thi pháp luật và chính phủ tại Hoa Kỳ và trên toàn thế giới vẫn tiếp tục ký hợp đồng với nhiều công ty nhận dạng khuôn mặt khác nhau từ Rekognition của Amazon đến Clearview AI.
Được biết, các quốc gia khác bao gồm Pháp, Đức, Trung Quốc và Ý đều đang sử dụng công nghệ tương tự. Đầu năm nay, các nhà lập pháp Pháp đã thông qua dự luật trao cho cảnh sát quyền sử dụng AI tại các không gian công cộng trước Thế vận hội Paris 2024, khiến nước này trở thành quốc gia đầu tiên ở EU phê duyệt việc sử dụng giám sát AI. Năm ngoái, Wired đã báo cáo về các đề xuất gây tranh cãi cho phép lực lượng cảnh sát ở EU chia sẻ cơ sở dữ liệu bao gồm hình ảnh khuôn mặt của người dân – được một cố vấn chính sách dân quyền mô tả “đây là cơ sở hạ tầng giám sát sinh trắc học rộng lớn nhất mà chúng ta từng thấy ở thế giới".
Trở lại Detroit, vụ kiện của Woodruff đã làm dấy lên những lời kêu gọi mới ở Hoa Kỳ về việc cấm hoàn toàn cảnh sát và cơ quan thực thi pháp luật sử dụng nhận dạng khuôn mặt. Cảnh sát Detroit đã đưa ra những hạn chế mới đối với việc sử dụng nhận dạng khuôn mặt kể từ khi vụ kiện được đệ trình. Nhưng các nhà hoạt động nói rằng điều đó là không đủ.
Albert Fox Cahn, thuộc Dự án giám sát công nghệ giám sát phi lợi nhuận tại Mỹ, nói: "Chính sách duy nhất có thể ngăn chặn các vụ bắt giữ do nhận diện sai là cấm hoàn toàn công nghệ này. Đáng buồn thay, có lẽ vẫn có hàng chục người Mỹ bị buộc tội sai và không bao giờ đòi được công lý. Những hệ thống AI phân biệt chủng tộc, dễ mắc lỗi đơn giản này không nên có chỗ đứng trong một xã hội công bằng".
Khi chính phủ trên khắp thế giới triển khai AI, tác hại của nó đã bắt đầu tác động đến người dân. Các hệ thống giám sát là một góc khuất của công nghệ nhưng ít được nhắc đến. Ngay cả khi Đạo luật AI của EU đưa ra một số điều khoản hạn chế đối việc sử dụng AI có rủi ro cao như nhận dạng khuôn mặt, một số chuyên gia cho rằng sự cường điệu xung quanh AI tạo sinh đã làm sao nhãng các cuộc thảo luận liên quan đến đạo đức, công bằng AI.
Sarah Chander, cố vấn chính sách cấp cao của tổ chức vận động Quyền kỹ thuật số châu Âu, nói: "ChatGPT khiến nhiều người quên đi thực tế tai hại mà AI mang lại. Tương tự những hệ thống dữ liệu lớn khác, công nghệ nhận dạng khuôn mặt chỉ hoạt động tốt khi dữ liệu đầu vào được làm sạch. Nhưng hình ảnh đào tạo AI thường là về người da trắng, tỷ lệ nhận diện người da đen rất kém, đặc biệt với nữ giới 18-30 tuổi". Chander dẫn các nghiên cứu của Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ cho thấy trong 140 thuật toán nhận dạng khuôn mặt, "tỷ lệ nhầm lẫn cao nhất của AI thường tập trung vào người Đông Phi, Đông Á và sai số thấp nhất là với người Đông Âu".
Ngay cả khi công nghệ hoàn toàn chính xác, nó cũng sẽ không an toàn với cộng đồng. Các nhà nghiên cứu, hoạt động xã hội cho rằng AI có khả năng tạo ra một mạng lưới giám sát rộng lớn và vô tận, phá vỡ bất kỳ sự riêng tư nào trong không gian công cộng. Hệ thống có thể xác định bất cứ nơi nào một người đặt chân đến, ngay cả khi những địa điểm đó được pháp luật bảo vệ về quyền riêng tư.
Được biết, một số hệ thống nhận dạng khuôn mặt, như Clearview AI, đang sử dụng hình ảnh được lấy từ internet mà không có sự đồng ý. Vì vậy, hình ảnh trên mạng xã hội, ảnh chụp chuyên nghiệp và bất kỳ ảnh nào khác tồn tại trên không gian kỹ thuật số công cộng đều có thể được sử dụng để đào tạo hệ thống nhận dạng khuôn mặt. Clearview đã bị cấm ở một số quốc gia châu Âu bao gồm Ý và Đức, đồng thời bị cấm bán dữ liệu nhận dạng khuôn mặt cho các công ty tư nhân ở Mỹ.
Về phần Woodruff, cô ấy đang đòi bồi thường thiệt hại tài chính. Cảnh sát trưởng Detroit - James E White cho biết sở đang xem xét vụ kiện cho rằng điều này là "rất đáng lo ngại".
Theo The Guardian
