Lượng người hâm mộ cuồng nhiệt “Swifties” của Taylor Swift đã nhanh chóng phát động một cuộc phản công trên mạng xã hội X với hashtag #ProtectTaylorSwift (bảo vệ Taylor Swift) để chống lại những hình ảnh nude của nữ ca sĩ được kẻ xấu sử dụng công nghệ deepfake tạo ra. Một số cho biết họ đang báo cáo các tài khoản đang chia sẻ các hình ảnh deepfake.
Nhóm Reality Defender cho biết họ đã theo dõi rất nhiều hình ảnh của Taylor Swift trên nền tảng X, một số hình ảnh cũng đã được đưa đến Facebook và các nền tảng truyền thông xã hội khác.
Mason Allen, người đứng đầu bộ phận phát triển của Reality Defender cho biết: “Thật không may, chúng đã lan rộng tới hàng triệu triệu người dùng”. Các nhà nghiên cứu đã tìm thấy ít nhất vài chục hình ảnh do AI tạo ra.
Trước làn sóng phẫn nộ của người dùng, đại diện của X cho biết: "Việc đăng tải hình ảnh nude không có sự đồng thuận bị nghiêm cấm trên X. Chúng tôi có chính sách để xử lý những nội dung đó".
Khi ngành công nghiệp AI bùng nổ, các công ty chạy đua để phát hành công cụ hỗ trợ người dùng tạo ảnh, video, văn bản và giọng nói với những câu lệnh đơn giản. Nhưng mặt trái là ảnh và video deepfake tràn ngập Internet vì việc làm ra chúng ngày càng rẻ, đơn giản.
Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí bao gồm cả hình ảnh và tiếng nói.
Các nhà nghiên cứu hiện lo ngại deepfake dần trở thành nguồn tin sai lệch bị lan truyền mạnh mẽ. Nó cho phép bất cứ ai cũng tạo được ảnh khỏa thân, chân dung bôi nhọ các ứng cử viên chính trị, người nổi tiếng. AI thậm chí được dùng trong các cuộc gọi tự động, giả mạo giọng nói người nổi tiếng.
Hiện 9 tiểu bang của Mỹ đang thực thi luật cấm tạo hoặc chia sẻ ảnh deepfake, bắt chước ngoại hình của ai đó bằng AI mà không có sự cho phép từ chính chủ.
Trong cuộc họp ngày 26-1, thư ký báo chí Nhà Trắng, bà Karine Jean-Pierre bày tỏ sự lo ngại trước vụ việc của Taylor Swift và cho biết đây là một trong những vấn đề về AI mà chính quyền đã ưu tiên.
"Thật đáng buồn vì điều này có tác động xấu đến phụ nữ và trẻ em gái. Chúng tôi cam kết sẽ có biện pháp và tiếp tục hành động để ngăn chặn những rủi ro về hình ảnh do AI tạo ra. Quốc hội cũng phải thực hiện hành động lập pháp chiến lược để chống lại những hành vi xấu này".
Trong khi đó, Microsoft, hãng đầu tư mạnh mẽ vào trình tạo hình ảnh DALL-E, cho biết rằng họ đang trong quá trình điều tra xem liệu công cụ của mình có bị lạm dụng hay không. Giống như các dịch vụ AI thương mại khác, công ty cho biết họ không cho phép “nội dung nhạy cảm dành cho người lớn hoặc không có sự đồng thuận. Mọi nỗ lực tạo ra nội dung đi ngược lại chính sách của Microsoft có thể bị mất quyền truy cập vào dịch vụ”.
Khi được hỏi về deepfake của Taylor Swift trên “NBC Nightly News”, Giám đốc điều hành Microsoft Satya Nadella đã nói với người dẫn chương trình Lester Holt trong một cuộc phỏng vấn rằng vẫn còn rất nhiều việc phải làm trong việc thiết lập các biện pháp bảo vệ AI và “chúng tôi cần phải tiến hành nhanh vấn đề này”.
Nadella nói: “Hoàn toàn đáng báo động và khủng khiếp, vì vậy, chúng tôi phải hành động".
Theo Seattle Times
