Mấy ngày vừa qua, hai vụ sử dụng AI thay đổi khuôn mặt để lừa tiền được đưa tin rộng rãi, đang gây chấn động cộng đồng mạng Trung Quốc khiến nhiều cư dân mạng bức xúc.
Một người đàn ông An Huy bị lừa 1,32 triệu Nhân dân tệ chỉ trong 9 giây
Vào ngày 22/5, tại thành phố An Khánh, tỉnh An Huy đã xảy ra một vụ thay đổi khuôn mặt bằng công nghệ AI để lừa đảo, số tiền bị lừa lên tới 1,32 triệu NDT (4,62 tỉ đồng) và toàn bộ quá trình lừa đảo chỉ mất 9 giây.
Nguyên nhân vụ việc là do một người đàn ông họ Hà ở An Khánh, An Huy nhận được một cuộc gọi video từ một người thân quen nhờ chuyển cho anh ta vay một khoản tiền lớn. Nhưng 9 giây sau, đầu dây bên kia nhanh chóng cúp máy với lý do "đang họp" và nói: "Không thể nói qua WeChat và điện thoại, sẽ nhắn QQ". Nói cách khác, chỉ trong 9 giây, ông Hà đã bị lừa mất 1,32 triệu NDT chỉ do tin vào cú gọi có hình ảnh của người quen.
Trước đó, Đài Truyền hình trung ương Trung Quốc (CCTV) cũng đưa tin về một vụ lừa đảo bằng cách sử dụng app AI đổi mặt, số tiền bị lừa lên đến 4,3 triệu NDT, quy trình diễn ra tương tự vụ này: hôm 20/4, một người bạn thân của ông Quách, đại diện pháp lý của một công ty công nghệ ở thành phố Phúc Châu, tỉnh Phúc Kiến, đột nhiên liên lạc với ông qua trò cuộc gọi video WeChat. Sau một cuộc trò chuyện qua video ngắn, dựa vào sự tin tưởng của qua cuộc trò chuyện video, ông Quách đã bị lừa 4,3 triệu NDT (15,05 tỉ VND) trong vòng 10 phút do “người bạn” đề nghị giúp chuyển khoản tiền để đấu thầu công trình. Cuối cùng, ông Quách mới phát hiện ra rằng kẻ lừa đảo đã sử dụng AI thay đổi khuôn mặt, mạo xưng người bạn để dụ ông vào tròng.
Sau khi các tin tức liên quan được lan truyền, nó đã lập tức đứng đầu top tìm kiếm nóng. Cư dân mạng Trung Quốc phẫn nộ: "AI lừa đảo thành tinh rồi sao?", "Thật ghê gớm! Không dám trả lời điện thoại nữa”…Cũng có người nghi ngờ: “AI dễ huấn luyện vậy sao? Muốn làm được như thế nó phải nắm được rất nhiều thông tin của đối tác chứ?”.
Theo các dữ liệu liên quan hiện có, sau khi xuất hiện các vụ lừa đảo kiểu mới của công nghệ AI, tỷ lệ lừa đảo thành công dường như có thể đạt tới 100%.
Trên thực tế, công nghệ AI thay đổi khuôn mặt hiện nay không chỉ được sử dụng trong lừa đảo viễn thông mà còn xuất hiện trong các chương trình phát sóng trực tiếp (livestream) bán hàng của các ngôi sao. Trước đó, nhiều cư dân mạng đã phản ánh một số streamer đã sử dụng khuôn mặt của những người nổi tiếng để bán hàng hóa: "Vừa nhấp vào phòng phát sóng trực tiếp là thấy Địch Lệ Nhiệt Ba, Dương Mịch và Angelababy đang bán hàng trên sóng trực tiếp."
Vì vậy, nhiều cư dân mạng không khỏi bức xúc: "AI đang trở thành công cụ thế hệ mới của những cao thủ lừa đảo".
Cốt lõi của lừa đảo kiểu mới liên quan đến công nghệ AI thay đổi giọng nói và khuôn mặt
Hiện nay qua tìm hiểu được biết, trong các vụ lừa đảo nêu trên, cốt lõi của AI liên quan đến hai công nghệ: thay đổi khuôn mặt và tổng hợp giọng nói. Đối với tính năng dùng AI thay đổi khuôn mặt, ngay cả chỉ với một bức ảnh 2D cũng có thể khiến miệng người cử động được.
Tờ Xinhua Daily Telegraph từng đưa tin chi phí tổng hợp một đoạn video động chỉ từ 2 đến 10 NDT. Một nghi phạm liên quan đến vụ án lừa đảo từng tiết lộ, mỗi "khách hàng" thường mua hàng trăm, hàng nghìn tệ hàng, không gian kiếm lời rất lớn. Đối với các nền tảng phát sóng trực tiếp quy mô lớn, giá mua một bộ mô hình đầy đủ để thay đổi khuôn mặt video theo thời gian thực là 35.000 NDT, không có độ trễ hay lỗi. Và Bark, một công cụ có chức năng tổng hợp giọng nói, từng đứng đầu danh sách GitHub, ngoài âm sắc gần với người thật, nó còn có thể thêm vào tiếng ồn xung quanh, tiếng cười, tiếng thở dài hay tiếng khóc có độ chân thực cao. Người vận hành chỉ cần một app phần mềm là có thể sử dụng bất kỳ nguồn video nào trong cuộc gọi video.
Công nghệ cốt lõi này do ngưỡng thấp của nó, đã tạo cơ hội cho bọn tội phạm lợi dụng.
Tỷ lệ thành công của trò lừa đảo là gần 100%
Trên thực tế, kiểu lừa đảo trực tuyến mới dưới sự hỗ trợ của AI không chỉ giới hạn ở loại hoạt động lừa chuyển tiền. Nó đã có mặt từ chuyện nhỏ như mua sắm trực tuyến và thanh toán bán thời gian, lớn như giả làm nhân viên dịch vụ khách hàng, nhân viên đầu tư và quản lý tài sản, v.v., để lừa chiếm đoạt mật khẩu tài khoản thẻ ngân hàng rồi chuyển trực tiếp khoản tiền lớn.
Theo cảnh sát Nam Kinh, trước đây cũng đã xảy ra trường hợp bị video AI QQ lừa 3.000 NDT. Nạn nhân là Tiểu Lý, nói bạn cùng lớp đại học của cô là Tiểu Vương hỏi vay 3.000 NDT qua QQ, nói anh ta đang cần gấp vì người chị phải nhập viện. Tiểu Lý thoáng chút nghi ngờ, thì Tiểu Vương đã nhanh chóng gửi cho cô một đoạn video QQ động dài khoảng 4 đến 5 giây, không chỉ có bối cảnh là bệnh viện mà còn có lời chào hỏi.
Điều này đã khiến Tiểu Lý xua tan mọi nghi ngờ và chuyển cho “Tiểu Vương” 3.000 NDT, tuy nhiên ngay sau đó cô phát hiện ra rằng phía bên kia đã xóa và chặn cô, đoạn video gửi đến là do AI làm giả.
Về vấn đề này, Trung tâm Chống lừa đảo mạng viễn thông Vũ Hán cũng đã nhắc nhở rằng hiện nay một trò lừa đảo mới bằng công nghệ AI đã xuất hiện và tỷ lệ lừa đảo thành công là gần như 100%.
Hiệp hội Internet Trung Quốc ngày 24/5 cho biết, kể từ đầu năm nay, việc áp dụng các công nghệ như ChatGPT và GPT-4 đã trở thành điểm nóng trong lĩnh vực công nghệ thông tin, thu hút sự chú ý và nhiệt tình rộng rãi của công chúng đối với công nghệ AI. Tuy nhiên, với nguồn mở của công nghệ tổng hợp sâu, các sản phẩm và dịch vụ tổng hợp sâu đang dần tăng lên và việc sử dụng âm thanh và video giả mạo như “Hoán đổi khuôn mặt AI” và “Thay đổi giọng nói AI” để thực hiện hành vi lừa đảo và phỉ báng là điều không hiếm gặp.
Thật khó để phòng vệ trước những hành vi “làm giả như thật” như vậy. Đâu là ranh giới pháp lý của “AI hoán đổi diện mạo”? Làm sao người bình thường có thể phòng ngừa được?
Để điều chỉnh, quy phạm sự phát triển của trí tuệ nhân tạo, vào tháng 12 năm ngoái, Trung Quốc đã chính thức ban hành “Quy định quản lý tổng hợp sâu dịch vụ thông tin Internet”, trong đó nêu rõ các quy phạm quản lý công nghệ và dữ liệu tổng hợp.
Hiệp hội Internet Trung Quốc nhắc nhở mọi người dùng internet hãy là người chịu trách nhiệm đầu tiên về bảo mật thông tin cá nhân của mình, tăng cường nhận thức về bảo vệ thông tin cá nhân và ngăn chặn rò rỉ thông tin; khi chuyển khoản từ xa phải yêu cầu xác minh nhiều lần. Trong thời đại AI, văn bản, âm thanh, hình ảnh và video đều có thể được tổng hợp sâu. Trong các tình huống điển hình như chuyển tiền và trao đổi vốn, cần xác minh và xác nhận thông qua các phương thức liên lạc bổ sung như gọi lại số điện thoại di động của đối tác, không nên chuyển tiền chỉ thông qua một kênh liên lạc duy nhất mà không cần xác minh. Trong trường hợp bị mất tiền, cần kịp thời báo cảnh sát.
(Theo Sohu, NetEasy)
