Theo Cnet, ảnh cá nhân nhạy cảm bị phát tán dưới hình thức “trả thù tình” đang trở thành một vấn nạn trên mạng xã hội. Những người bị phát tán ảnh cá nhân nhạy cảm thường cảm thấy suy sụp và xấu hổ. Họ là nạn nhân của những mối tình không thành và sau đó quay ra làm nhục nhau trên mạng xã hội. Những bức ảnh nhạy cảm của họ không chỉ bị phát tán ở một website hay mạng xã hội, mà nó còn được đăng đi đăng lại ở nhiều nơi. Chính vì thế Facebook đã đưa ra một thuật toán để lọc các hình ảnh nhạy cảm từ các vụ “trả thù tình”, không cho nó xuất hiện trên Facebook, Messenger và Instagram.
Nói cách khác, Facebook sẽ sử dụng công nghệ tìm kiếm hình ảnh trùng lặp, đánh dấu những tấm hình được người dùng báo cáo là nhạy cảm, sau đó xóa chúng đi. Facebook cũng cảnh báo những người có ý định chia sẻ hay tải lên các tấm hình đó rằng họ có thể bị phạt vì vi phạm chính sách của hãng.
Ảnh cá nhân nhạy cảm đã bị phát tán trên Internet từ nhiều năm nay, tuy nhiên do sự phổ biến của mạng xã hội mà vấn nạn này càng trở nên trầm trọng. Sự kết nối lẫn nhau giữa các thành viên gia đình, bạn bè và đồng nghiệp đã làm tăng cơ hội phát tán “ảnh nóng” và khiến cho nạn nhân dễ bị làm nhục.
Theo Trung tâm Nghiên cứu sức khỏe cộng đồng Hoa Kỳ, 2% số người dùng mạng xã hội là nạn nhân của các vụ phát tán ảnh nóng trả thù tình. Con số này ở những người đồng tính nam, đồng tính nữ và lưỡng tính là 17%. Có 82% nạn nhân nói rằng ảnh “nóng” đã khiến cuộc sống của họ trở nên tồi tệ. Những hậu quả tai hại cả ảnh “nóng” trả thù tình chính là lý do để các nhà lập pháp và các công ty công nghệ phải tìm cách chiến đấu với tệ nạn này.
Công nghệ lọc hình ảnh mà Facebook áp dụng không phải là mới, nhưng nó chưa bao giờ được triển khai trên mạng xã hội. Trước đây Microsoft cũng có công cụ PhotoDNA dùng để lọc các nội dung khiêu dâm trẻ em trên Internet.
PhotoDNA hoạt động theo nguyên lý chuyển các bức ảnh thành màu xám và chia chúng thành các ô vuông nhỏ. Các ô vuông được đánh số thứ tự, sau đó được lưu trữ trong cơ sở dữ liệu. Khi hình ảnh mới được tải lên, chúng sẽ tự động được tham chiếu chéo với cơ sở dữ liệu. Nếu tìm thấy hình ảnh trùng hợp, tấm ảnh tải lên sẽ bị chặn lại.
Facebook cũng có một cơ chế báo cáo đặc biệt trong mục Help Center (Trung tâm Trợ giúp) dành những người đang bị tống tiền hoặc là nạn nhân của bạo lực gia đình. Họ có thể liên kết với các tổ chức pháp lý để nhận được sự hỗ trợ.
