|
|
| Ảnh: Reuters |
"Bạn muốn thấy bản thân trên TV hay đang đóng phim không? Có bao giờ bạn tự hỏi bản thân sẽ trông thế nào nếu được hoán đổi gương mặt với bạn bè hay người nổi tiếng?" là mô tả của một ứng dụng deepfake trên kho ứng dụng trực tuyến. Cùng một ứng dụng nhưng ở hàng chục trang web người lớn, chúng lại quảng cáo : "Tạo phim khiêu dâm chỉ trong một giây, với khuôn mặt của bất cứ ai".
Cách thức công nghệ ngày càng tinh vi được áp dụng là một trong những sự phức tạp mà các nền tảng đa phương tiện phải đối mặt, nơi công nghệ Machine Learning được sử dụng để tạo mô hình kỹ thuật số khuôn mặt từ hình ảnh và sau đó hoán đổi chúng thành phim một cách hoàn hảo nhất.
Theo các cuộc phỏng vấn của Reuters với các công ty, nhà nghiên cứu, nhà hoạch định chính sách và nhà vận động, công nghệ này có thể rất nguy hiểm.
Các chuyên gia cho biết giờ đây nó đã đủ tiên tiến để người xem phải vật lộn để phân biệt nhiều video giả với thực tế và công nghệ này đã phát triển đến mức hầu hết mọi người dùng đều có thể sử dụng nó mà không cần bất kỳ chuyên môn gì.
Adam Dodge, một luật sư và là người sáng lập tổ chức an toàn trực tuyến cho biết: "Một khi điểm đầu vào thấp đến mức không cần kiến thức, chuyên môn gì mà vẫn có thể sử dụng công nghệ deepfake một cách dễ dàng thì đây là điều rất đáng lo ngại".
Nhiều nhà vận động an toàn trực tuyến, nhà nghiên cứu và nhà phát triển phần mềm cho biết chìa khóa là đảm bảo sự đồng ý từ những người được mô phỏng, mặc dù điều này khá khó để thực hiện. Một số chuyên gia khác ủng hộ việc áp dụng cách tiếp cận cứng rắn hơn khi người dùng sử dụng công nghệ deep fake có liên quan đến nội dung khiêu dâm, vì những video này sẽ có nguy cơ bị lạm dụng.
Theo thống kê của Sensity, trong hơn 14.000 video deepfake được đăng tải, có đến 96% là video khiêu dâm chưa được cho phép. Số video deepfake cũng tăng gần gấp đôi sau 6 tháng.
Ajder, một trong những tác giả nghiên cứu và là người đứng đầu chính sách và quan hệ đối tác tại công ty AI Metaphysic cho biết: “Phần lớn tác hại do deepfakes gây ra hiện nay là một dạng bạo lực kỹ thuật số, phụ nữ thường là những mục tiêu bị nhắm đến trên toàn thế giới".
Vấn đề quảng cáo
ExoClick, chuyên cung cấp dịch vụ quảng cáo trực tuyến, đã gỡ quảng cáo "tạo phim khiêu dâm trong một giây" và khẳng định sẽ không quảng bá cho công nghệ hoán đổi khuôn mặt một cách vô trách nhiệm như thế nữa.
Sáu trang mạng quảng cáo trực tuyến lớn khác mà Reuters liên lạc đã không trả lời yêu cầu bình luận về việc liệu họ có quảng cáo cho các phần mềm deepfake hay có chính sách liên quan đến nó hay không.
Trên các kho ứng dụng như App Store, Google Play, ứng dụng deepfake này không đề cập tới việc có thể dùng để tạo video khiêu dâm. Đại diện Apple cho biết họ không có quy định cụ thể về ứng dụng deepfake, nhưng có các nguyên tắc chung là cấm các ứng dụng có nội dung phỉ báng, phân biệt đối xử hoặc có khả năng làm nhục, đe dọa hoặc làm hại bất kỳ ai. Bên cạnh đó, hãng cũng cấm nhà phát triển tiếp thị sản phẩm sai lệch, có thể khiến người dùng hiểu lầm.
Sau khi được Reuters liên hệ về việc quảng cáo "Deepfake khiêu dâm" trên các trang web người lớn, Google đã tạm thời gỡ ứng dụng này khỏi Google Play, vốn đã được xếp hạng E cho Mọi người. Ứng dụng này cũng đã được khôi phục sau khoảng hai tuần và hiện đã được xếp hạng T cho Thanh thiếu niên do có liên quan tới "Nội dung nhạy cảm".
Mặc dù có những tác nhân xấu trong ngành công nghiệp phần mềm hoán đổi khuôn mặt đang phát triển, nhưng cũng có rất nhiều ứng dụng đã thực hiện các bước để cố gắng ngăn chặn việc lạm dụng công nghệ này.
Một số ứng dụng chỉ cho phép người dùng hoán đổi hình ảnh trong các cảnh được chọn trước, yêu cầu xác minh ID từ người được hoán đổi hoặc sử dụng AI để phát hiện nội dung khiêu dâm.
Reface là một trong những ứng dụng hoán đổi khuôn mặt phổ biến nhất thế giới, đã thu hút hơn 100 triệu lượt tải xuống trên toàn cầu kể từ năm 2019, người dùng được khuyến khích chuyển đổi khuôn mặt với những người nổi tiếng, siêu anh hùng và các nhân vật meme để tạo video clip vui nhộn.
Cần có sự can thiệp cụ thể của pháp luật
Song song với tốc độ phát triển của công nghệ, các nhà lập pháp cũng đang chật vật tìm cách đặt ra quy định cho deepfake. Họ phải đối mặt với những khó khăn mới về kỹ thuật và đạo đức. Tại Trung Quốc, Hàn Quốc và bang California ở Mỹ, đã có quy định cho deepfake. Ví dụ, bất cứ ai cố ý mô phỏng người nào đó trong video khiêu dâm mà chưa được phép có thể bị phạt 150.000 USD.
Các nhà nghiên cứu tại Nghị viện châu Âu cho biết trong một nghiên cứu được trình bày trước một hội đồng các nhà lập pháp vào tháng 10 rằng: "Sự can thiệp cụ thể của pháp luật hoặc hình sự hóa nội dung khiêu dâm deepfake vẫn chưa thực sự thỏa đáng".
Marietje Schaake, Giám đốc chính sách quốc tế tại Trung tâm chính sách mạng Đại học Stanford, cho biết các luật mới cho không gian mạng, bao gồm Đạo luật AI được đề xuất ở Mỹ và GDPR ở châu Âu có thể điều chỉnh lại phạm vi hoạt động của công nghệ deepfake, nhưng vẫn còn nhiều lỗ hổng. Bà cho rằng nhiều nạn nhân của deepfake có thể sợ lên tiếng tố cáo.
Các nhà nghiên cứu về vấn đề này cho rằng: "Ngày nay, chỉ người đăng video phải chịu trách nhiệm. Tuy nhiên, nhiều người đã sử dụng các biện pháp khác nhau để phát tán video mà không bị lộ danh tính. Sự can thiệp cụ thể của luật pháp với nội dung khiêu dâm deepfake còn thiếu".
Theo Reuters