Một chiến dịch quảng cáo mới có hình ảnh của một cô gái được công nghệ deep fake tái tạo đang cảnh báo các bậc cha mẹ không nên chia sẻ ảnh và video về con mình trên mạng xã hội.
Chiến dịch quảng cáo gây sốc do công ty viễn thông Deutsche Telekom tạo ra đã lan truyền rộng rãi vì cảnh báo về hậu quả tiềm tàng của việc cha mẹ đăng ảnh con cái họ lên mạng.
Đoạn video đầy ám ảnh – đã thu hút hơn 5,5 triệu lượt xem trên mạng xã hội trong những ngày qua – cho thấy hình ảnh của một đứa trẻ có thể bị thao túng dễ dàng như thế nào bằng trí tuệ nhân tạo (AI).
Quảng cáo đi sâu vào câu chuyện của cô bé Ella chín tuổi. Giống như nhiều bậc cha mẹ ngày nay, bố mẹ Ella thường xuyên đăng video và ảnh của con gái nhỏ lên mạng xã hội.
Tuy nhiên, cha mẹ của Ella chưa bao giờ nghĩ đến việc tương lai của con gái họ có thể bị hủy hoại như thế nào bởi việc “chia sẻ” - một thói quen phổ biến của các bậc cha mẹ là chia sẻ ảnh hoặc video của con họ lên mạng.
'Sự khởi đầu cho một tương lai khủng khiếp'
Trong quảng cáo, một phiên bản deepfake của Ella trưởng thành được tạo ra với sự trợ giúp của AI - chỉ sử dụng một bức ảnh duy nhất của bé gái chín tuổi mà cha mẹ cô bé đã chia sẻ trên mạng.
"AI Ella" có thể cử động, nói chuyện không khác người thật đã gây sốc cho cha mẹ khi nhìn thấy hình ảnh con gái mình trên màn ảnh lớn của rạp chiếu phim. Thậm chí, cô có thể khóc và biểu đạt y hệt con người.
Phiên bản deepfake của con gái họ tiết lộ những hậu quả đáng sợ xảy ra sau khi cha mẹ cô đăng ảnh và video của cô lên mạng xã hội.
"Con biết với cha mẹ, những bức hình này là kỷ niệm. Nhưng với người khác, đó là dữ liệu. Còn với con, đó có thể là sự khởi đầu của một tương lai khủng khiếp, tồi tệ, nơi danh tính của con có thể bị đánh cắp, con có thể phải ngồi tù vì những việc mình không hề làm... Những gì cha mẹ chia sẻ lên mạng là những dấu mốc kỹ thuật số sẽ theo con tới hết cuộc đời", nhân vật AI Ella chia sẻ.
Quảng cáo giải thích một cách lạnh lùng rằng những đứa trẻ có hình ảnh được đăng trực tuyến có thể trở thành nạn nhân của lạm dụng danh tính, lừa đảo giả mạo và nội dung khiêu dâm trẻ em cùng các hành vi phạm tội khác.
Trung bình một đứa trẻ 5 tuổi có 1.500 bức ảnh trực tuyến
Trang tin Adweek báo cáo rằng một số nghiên cứu đã ước tính rằng đến năm 2030, gần 2/3 số trường hợp gian lận danh tính ảnh hưởng đến thế hệ trẻ sẽ bắt nguồn từ việc “chia sẻ thông tin lên mạng xã hội”.
Christian Loefert, Trưởng phòng Truyền thông - Marketing của Deutsche Telekom cho biết: "Các nghiên cứu mới đây chỉ ra rằng trung bình một trẻ em 5 tuổi có khoảng 1.500 bức hình bị đăng lên mạng mà không có sự đồng ý, người đăng không ai khác chính là những người các em tin tưởng nhất: cha và mẹ".
Deutsche Telekom cũng chỉ ra rằng hơn 75% bậc cha mẹ hiện nay chia sẻ dữ liệu về con trên mạng xã hội. Trong khi đó, cứ 10 phụ huynh thì 8 người đang có những người theo dõi tài khoản mà họ chưa hề gặp ngoài đời.
Tháng trước, PetaPixel đã báo cáo về việc Giám đốc điều hành Meta Mark Zuckerberg đã gây xôn xao khắp mạng xã hội khi anh đăng một bức chân dung gia đình lên Instagram khi che khuôn mặt hai đứa con lớn của anh bằng biểu tượng cảm xúc.
Điều này tiết lộ nhận thức của Zuckerberg rằng khuôn mặt của những đứa con của anh hoàn toàn có thể trở thành dữ liệu cho những vụ mạo danh trên mạng.
Theo Peta Pixel
