Người am hiểu về deepfake cũng dễ bị lừa

Nghiên cứu cho thấy việc giả mạo các nội dung deepfake dễ dàng đánh lừa người khác, kể cả những người am hiểu lĩnh vực này.

Theo một khảo sát của Đại học Công nghệ Nanyang (NTU) có trụ sở tại Singapore với 1.231 người, nhiều người dễ dàng bị thuyết phục với các nội dung giả mạo bằng deepfake - công nghệ cho phép ghép hình ảnh khuôn mặt vào video dựa trên AI. Điều đáng lo ngại hơn là ngay cả những người tự nhận mình am hiểu sâu về deepfake cũng dễ dàng bị "qua mặt".

Người am hiểu về deepfake cũng dễ bị lừa ảnh 1
Khuôn mặt nam diễn viên hài Mỹ Jim Carrey được ghép trên cơ thể một phụ nữ với biểu cảm như thật. Video này được tạo bằng phần mềm DeepFaceLab. Video: Facial Deception.

Khảo sát của NTU cho thấy có 54% số người được hỏi cho biết họ có tìm hiểu về deepfake, nhưng không phải ai cũng phân biệt được các nội dung giả mạo. Cụ thể, cứ ba người được khảo sát thì có một người vô tình chia sẻ nội dung deepfake trên mạng xã hội vì họ tin rằng chúng là thật. Chính những người này cũng tuyên bố đã biết về các trò lừa đảo về deepfake, nhưng chỉ nhận ra khi tìm hiểu thông tin sau đó.

Cuộc khảo sát cũng cho thấy cứ 5 người thì có một người thừa nhận thường xuyên gặp các nội dung deepfake khi online, đặc biệt là tin giả dạng video. "Các video tin tức giả mạo xuất bản dưới vỏ bọc của các kênh chính thống, mạo danh khuôn mặt của những người nổi tiếng để đánh lừa mọi người. Chúng được giả mạo một cách tinh vi hơn rất nhiều so với trước", Phó giáo sư Saifuddin Ahmed, người đứng đầu nhóm nghiên cứu của NTU, cho biết.

Ahmed cũng lo ngại rằng việc công nghệ AI ngày càng phát triển đang khiến các video deepfake ngày càng khó nhận ra. "Deepfake trước đây chỉ dùng cho các nội dung khiêu dâm. Tuy nhiên, bây giờ nó còn ứng dụng cho cả việc truyền bá tin tức, kích động nỗi sợ hãi và bạo lực cũng như khiến mọi người nghi ngờ mọi thứ", Ahmed nói.

Trong khi đó, tốc độ phát triển của các nội dung deepfake trên môi trường trực tuyến cũng đáng lo ngại. Theo Sensity, một công ty chuyên nghiên cứu deepfake nói rằng có tới 49.081 nội dung deepfake đã được phát hiện trên Internet trong 6 tháng đầu năm 2020, gấp đôi so với năm ngoái. Không ít trong số đó mạo danh người nổi tiếng như CEO Facebook Mark Zuckerberg, tỷ phú Bill Gates, Elon Musk... và truyền đi thông tin sai sự thật.

Theo VnExpress