Dùng AI lừa đảo và sử dụng AI chống lừa đảo qua mạng viễn thông ở Trung Quốc

- "Xin chào, đây là Cục Cảnh sát hình sự, tài khoản ngân hàng X của bạn có liên quan đến vụ án rửa tiền, xin hãy bấm phím 1 để hợp tác điều tra..."

- "Xin chào, số tiền 5 triệu tệ bạn vay đã tới hạn thanh toán, nếu có thắc mắc gì đề nghị gọi tới số XXXX ..."

- "Xin chào, đây là dịch vụ chăm sóc khách hàng của chuyển phát nhanh A, bạn có một bưu kiện quà tặng bị thất lạc, hãy gọi tới XXX để hoàn tất thủ tục nhận tiền bồi thường ..."

Trong những năm gần đây, khi cuộc sống của con người ngày càng tăng tốc chuyển sang giao dịch online, việc lừa đảo qua mạng viễn thông và internet ngày càng trở nên tràn lan. Theo số liệu của Bộ Công an Trung Quốc, trong 3 quý đầu năm 2021 đã có tổng cộng 262.000 vụ lừa đảo qua mạng viễn thông bị phá, 373.000 nghi phạm hình sự bị bắt giữ, tăng 41,1% và 116,4% so với cùng kỳ năm trước.

Không chỉ vậy, với việc ứng dụng các công nghệ mới như trí tuệ nhân tạo (AI), blockchain, tiền ảo,… thì việc lừa đảo qua mạng viễn thông ngày càng trở nên khó lường. Ví dụ, những kẻ lừa đảo có thể sử dụng trí thông minh nhân tạo để làm giả các thông tin nhạy cảm về quyền riêng tư cá nhân như khuôn mặt và giọng nói, dễ dàng đánh lừa lòng tin của nạn nhân.

Vì vậy, các chính phủ, tổ chức và các công ty đang tích cực khám phá việc sử dụng những công nghệ mới này trong lĩnh vực chống lừa đảo và chống sử dụng AI lừa đảo thậm chí được quan tâm nhiều hơn. Các công ty bao gồm Ant Group và China Telecom đã đưa AI vào cuộc chiến chống lừa đảo. Nhưng điều này cũng đặt ra vấn đề, làm thế nào để đảm bảo rằng những AI chống lừa đảo này là đáng tin cậy?

Lừa đảo qua mạng viễn thông - vấn nạn toàn cầu

Hiện nay, lừa đảo qua mạng viễn thông đã trở thành một vấn đề toàn cầu trong việc quản trị xã hội.

Viện Nghiên cứu Kinh tế Kỹ thuật số khu vực Đại Loan (Vịnh Lớn) Quảng Đông-Hồng Kông-Macao chỉ ra rằng các vụ gian lận mạng viễn thông ở các nước phát triển lớn trên thế giới đang gia tăng nhanh chóng. Một mặt, trong bối cảnh của đại dịch COVID-19, sản xuất và đời sống của người dân được chuyển tải lên mạng Internet với tốc độ nhanh, làm gia tăng số vụ lừa đảo; mặt khác cơ cấu tổ chức của ngành công nghiệp đen chuỗi lừa đảo mạng đã trưởng thành, ẩn sâu và lưu hành khắp trên mạng. Với sự trợ giúp của các công nghệ mới và các định dạng mới như blockchain, tiền ảo, trí tuệ nhân tạo, GOIP, điều khiển từ xa và chia sẻ màn hình, bọn tội phạm liên tục cập nhật và nâng cấp các công cụ phạm tội, đặc điểm của các tổ chức xuyên quốc gia ngày càng trở nên rõ ràng hơn.

Học viện Công nghệ Thông tin và Truyền thông Trung Quốc đã nêu trong "Báo cáo nghiên cứu về quản trị lừa đảo mạng viễn thông trong tình hình mới": lừa đảo qua mạng viễn thông đang ngày càng xuất hiện các xu hướng mới với các đặc điểm như tính đối kháng kỹ thuật mạnh mẽ, đổi mới nhanh các phương thức lừa đảo và các mục tiêu lừa đảo ngày càng trẻ hóa. Gian lận mạng viễn thông đang thay đổi từ gian lận qua điện thoại sang lừa đảo trên Internet, từ "lừa đảo ngẫu nhiên" sang "lừa đảo chính xác", trở nên có mục tiêu và định hướng hơn, tăng tính lừa đảo và tính nhầm lẫn.

Những rắc rối do "tiến bộ" công nghệ gây ra đặc biệt nổi bật. Tờ Nhật báo Pháp chế Trung Quốc ngày 7/9 đưa tin, khi soạn và tung ra thông tin lừa đảo, các băng nhóm lừa đảo đã bắt đầu sử dụng các công cụ tự động thực thi kịch bản, giúp cải thiện đáng kể hiệu quả của việc phát hành thông tin lừa đảo; khi giao tiếp với nạn nhân, các băng nhóm lừa đảo đã bắt đầu sử dụng các công cụ tập lệnh tự động. Robot AI được sử dụng để trò chuyện thông minh và chi phí lao động sẽ được giảm xuống bằng cách sử dụng đám mây điện thoại di động, máy ảo và thiết bị điều khiển nhóm. Kết quả là, chi phí cho hoạt động lừa đảo ngày càng thấp, phương thức hoạt động ngày càng được che giấu, còn chi phí thực thi pháp luật lại ngày càng cao.

Lừa đảo mạng viễn thông ngày càng phát triển đã thu hút sự chú ý của toàn xã hội. Năm 2021, Tân Hoa xã từng chỉ ra trong một bài báo: "Lừa đảo mạng viễn thông hiện đã trở thành một trong những tội hình sự gia tăng nhanh nhất, ảnh hưởng nghiêm trọng đến cảm giác an toàn của người dân, ảnh hưởng nghiêm trọng đến sự ổn định lâu dài của xã hội và cuộc sống bình yên hạnh phúc của người dân."

Năm ngoái, "Luật Chống lừa đảo mạng viễn thông (Dự thảo)" đã được đưa ra trưng cầu ý kiến. Ngày 2/9/2022, Hội nghị lần thứ 36 Ủy ban Thường vụ Đại hội Đại biểu Nhân dân toàn quốc (Quốc hội) Trung Quốc khóa 13 đã biểu quyết thông qua luật này; trong đó quy định rõ các nhà khai thác kinh doanh viễn thông, các tổ chức tài chính ngân hàng và các tổ chức thanh toán phi ngân hàng, các nhà cung cấp dịch vụ Internet phải chịu trách nhiệm chính về bảo mật và thiết lập một cơ chế phòng ngừa và kiểm soát rủi ro nội bộ để chống lừa đảo qua mạng viễn thông và một chế độ trách nhiệm về an toàn mạng.

Đối với các vụ lừa đảo viễn thông liên tục sử dụng công nghệ mới để tự trang bị, luật này cũng yêu cầu tất cả các bên phải đưa ra "vũ khí" công nghệ. Luật quy định cơ quan công an, ngành quản lý tài chính, cơ quan chủ quản viễn thông và thông tin mạng quốc gia của Quốc Vụ viện phải chịu trách nhiệm chung về việc xây dựng các biện pháp đối phó trong lĩnh vực này và thúc đẩy việc chia sẻ thông tin và dữ liệu mẫu liên quan đến lừa đảo qua mạng viễn thông, có thể nói đã khẳng định ở cấp độ pháp luật lộ trình phòng chống lừa đảo bằng công nghệ.

AI chống lừa đảo, sử dụng “gậy ông đập lưng ông”

Trước khi ban hành "Luật chống lừa đảo qua mạng viễn thông", Bộ Công an, Bộ Công nghiệp và Công nghệ thông tin, Ngân hàng Nhân dân Trung Quốc và các cơ quan ban ngành khác đã cho ra mắt các Ứng dụng (App) chống lừa đảo như App Trung tâm Chống lừa đảo Quốc gia, Đường dây cảnh báo 96110, Hệ thống SMS cảnh báo và chống lừa đảo 12381 và Ứng dụng thanh toán Cloud Flash, App “kiểm tra thẻ bằng một cú nhấp chuột"….

Dữ liệu cho thấy vào năm 2021, các cơ quan công an đã sử dụng công nghệ chống lừa đảo để khẩn cấp ngăn chặn được việc thanh toán 329,1 tỷ Nhân dân tệ của những người bị lừa đảo; Hệ thống tin nhắn SMS phổ biến và cảnh báo gian lận 12381 của Bộ Công nghiệp và Công nghệ thông tin đã nhận biết, cảnh báo sớm qua tin nhắn văn bản cho những người dùng tiềm năng bị lừa dối và tỷ lệ chính xác của sự khuyên ngăn chính xác đạt tới trên 60%.

Các công ty cũng đang tích cực làm theo. Trước tình trạng lừa đảo viễn thông không ngừng “tiến hóa”, họ sử dụng trí tuệ nhân tạo như một xung lực để dùng “gậy ông đập lưng ông”, tức là dùng trí tuệ nhân tạo chống lừa đảo để chống lại trí tuệ nhân tạo lừa đảo.

Ví dụ, nhóm nghiên cứu Thanh Trí (Trí tuệ âm thanh) của Viện Âm học thuộc Học viện Khoa học Trung Quốc, đã phát triển AI chống lừa đảo, có thể thực hiện 60.000 đến 70.000 cuộc gọi thuyết phục mỗi ngày; gã khổng lồ tìm kiếm Baidu đã tung ra một nền tảng phát hiện deepfake dựa trên công nghệ AI, có thể nhận biết khuôn mặt và nhận dạng giọng nói có tỷ lệ chính xác hơn 99%.

Gã khổng lồ thanh toán di động Alipay cũng đã có những động thái lớn trong thời gian gần đây. Tại Hội nghị Trí tuệ nhân tạo Thế giới vừa diễn ra đầu tháng 9, "Hệ thống chống lừa đảo nhận thức và ứng phó rủi ro thông minh" của Ant Group đã giành được giải thưởng cao nhất. Nhân viên Ant nói với Observer.com rằng hệ thống của họ có thể sử dụng các cuộc gọi điện thoại, lời nhắc bật lên (Pop up) và câu trả lời chống lừa đảo để liên hệ với 400.000 người dùng được coi là nạn nhân mỗi ngày, liên quan đến số tiền 20 triệu NDT. Trong số đó, 80.000 người dùng nhận được các cuộc gọi AI do hệ thống thực hiện. Các cuộc điện thoại AI này có tỷ lệ hoàn thành 20% -30%. Sau khi nhận cuộc gọi, 70% đến 80% số nạn nhân từ bỏ hành vi định chuyển khoản và thanh toán. Nếu đối với người cao tuổi, xác suất từ ​​bỏ chuyển khoản, thanh toán có thể đạt tới 90%.

Hệ thống chống lừa đảo này hiện đã được áp dụng cho Alipay và các đối tác. Theo "Báo cáo thường niên về quản trị chống lừa đảo năm 2021" do Ant Group phát hành, trong năm qua, số vụ gian lận và lừa đảo chiếm tiền trên nền tảng Alipay đã giảm khoảng 40%. Trong đó "hủy bỏ các khoản vay trong khuôn viên nhà trường" hiệu quả tốt nhất, số tiền tổn thất giảm 85%. Hệ thống AI đã có thể tự động xác định hơn 50 loại phương thức lừa đảo và thông qua hỗ trợ kỹ thuật, đã mang lại 790.000 manh mối cảnh báo sớm cho các cơ quan công an, đồng thời hỗ trợ cảnh sát chống lừa đảo trên toàn quốc ngăn chặn và bảo vệ được khoản tiền 990 triệu NDT không bị lừa đảo.