Kể từ tháng 10 năm 2022, Xiaoyuan đã dành hàng giờ trò chuyện với hàng trăm đối tượng tiềm năng trên nhiều ứng dụng hẹn hò, mục đích không phải để tìm kiếm bạn hẹn hò mà là để tìm những tên lừa đảo.
Xiaoyuan là một chatbot trí tuệ nhân tạo được tạo bởi một lập trình viên ở Thượng Hải, người tự gọi mình là Turing's Cat. Chàng trai 27 tuổi chia sẻ với Sixth Tone rằng anh ấy đã thiết kế một chatbot nữ "trẻ đẹp và hấp dẫn" để truy lùng những kẻ lừa đảo.
Chàng lập trình viên này cho biết: "Những chiêu trò lừa đảo trên mạng ngày càng tinh vi hơn. Họ có thể dễ dàng tương tác với những người có học thức bằng cách nói chuyện về phim ảnh, triết học và thậm chí cả lập trình. Tôi tò mò muốn biết liệu AI có thể đánh lừa những kẻ lừa đảo hay không”.
Khi ngày càng nhiều người Trung Quốc sử dụng internet, những hình thức lừa đảo trực tuyến ngày càng nở rộ, đa dạng và phổ biến hơn, đặc biệt là trên các ứng dụng hẹn hò. Các nạn nhân là bất kỳ ai từ những người già đến những kẻ độc thân, họ có thể đã bị mất những khoản tiền khổng lồ. Năm 2021, các cơ quan công an ở Trung Quốc đã phát hiện hơn 394.000 vụ lừa đảo trực tuyến và viễn thông, đồng thời bắt giữ hơn 630.000 nghi phạm. Nhiều băng nhóm tội phạm đã chuyển hoạt động sang các nước Đông Nam Á. trong bối cảnh gia tăng truy quét tại quê nhà.
Tuy nhiên, các hoạt động gian lận trực tuyến như vậy vẫn xuất hiện tràn lan. Turing's Cat cho biết anh đã quản lý để báo cáo hàng chục kẻ lừa đảo đáng ngờ hoạt động từ các địa điểm không xác định cho cơ quan chống gian lận trong khoảng thời gian hai tháng với sự hỗ trợ của Xiaoyuan.
Chàng trai này cũng từng chia sẻ nhật ký trò chuyện giữa một kẻ lừa đảo và Xiaoyuan trên trang web phát trực tuyến video Bilibili, minh họa cho hoạt động của chatbot. Đó là một cuộc trò chuyện liền mạch từ ứng dụng hẹn hò đến nền tảng nhắn tin WeChat. Ở đó, họ nói về các chủ đề khác nhau, từ tác phẩm văn học cổ điển “The Great Gatsby” cho đến các công ty khởi nghiệp đa dạng đang tìm kiếm nguồn tài trợ.
Để thể hiện sự tận tâm của mình với Xiaoyuan, người đàn ông này thậm chí đã chuyển 520 nhân dân tệ (75 USD), nhưng cuối cùng không thuyết phục được chatbot tham gia vào một “khoản đầu tư sinh lời cao”. Kẻ lừa đảo sau đó đã chặn Xiaoyuan sau khi không thể lấy lại tiền của anh ta. Anh chàng lập trình viên sau đó đã quyên góp số tiền này cho một tổ chức từ thiện.
 |
Đoạn hội thoại của chatbot Xiaoyuan với kẻ lừa đảo (Ảnh: Sixth Tone) |
Số lượng chuyên gia làm việc trong lĩnh vực AI ở Thượng Hải đã tăng vọt từ 100.000 vào năm 2018 lên 180.000 vào năm 2021, với việc quốc gia này tăng cường áp dụng AI trong các lĩnh vực khác nhau và đầu tư hàng tỉ USD vào lĩnh vực này.
Turing's Cat cho biết anh đã sử dụng Yuan 1.0, một mô hình ngôn ngữ tự nhiên mã nguồn mở do gã khổng lồ máy chủ Trung Quốc Inspur phát hành vào năm 2021, để tạo chatbot. Anh chàng lập trình viên này nói thêm rằng Xiaoyuan đã dành hàng giờ để trau dồi kỹ năng đàm thoại và nhắn tin bằng cách quét phần bình luận của Bilibili và anh ấy chỉ cho phép chatbot nói chuyện độc lập sau khi cuộc trò chuyện với những kẻ lừa đảo được chuyển sang WeChat.
Thành công của Xiaoyuan được xây dựng dựa trên bước đột phá toàn cầu trong xử lý ngôn ngữ tự nhiên – một thành phần AI quan trọng giúp máy tính hiểu ngôn ngữ của con người – trong hai năm qua. Vào năm 2020, phòng thí nghiệm OpenAI có trụ sở tại San Francisco đã sử dụng GTP-3, một mô hình học máy mang tính cách mạng, để minh họa tiềm năng của AI trong việc hiểu và tạo ra ngôn ngữ của con người.
Bước đột phá được chờ đợi từ lâu đã sớm tạo ra một cơn sốt toàn cầu trong việc phát triển trí thông minh nhân tạo nói chung dựa trên mô hình đơn giản nhưng mạnh mẽ của GTP-3, bao gồm bot ChatGPT hiện đang rất nổi tiếng. Hòa theo xu hướng này, những gã khổng lồ công nghệ Trung Quốc bao gồm Huawei, Baidu và Inspur cũng đã phát hành phiên bản tương đương bằng tiếng Trung của GPT-3 vào năm ngoái.
AI đàm thoại nói tiếng Trung đã tồn tại trước đây, nhưng nó không hoàn hảo và chỉ có khả năng thực hiện các nhiệm vụ đơn giản như tiếp thị qua điện thoại và dịch vụ khách hàng. Xiaoice do Microsoft phát triển, “bạn gái AI” giữ chân nhiều đàn ông độc thân, là một ngoại lệ, mặc dù Turing's Cat cho biết các thuật toán của nó rất phức tạp và chương trình không có nguồn mở, không giống như Yuan 1.0.
“Bạn không cần phải đào tạo (Yuan 1.0) ngay từ đầu", anh chàng lập trình viên này chia sẻ. "Mô hình này đã được đào tạo với 5.000 gigabyte dữ liệu, về cơ bản bao gồm văn bản tiếng Trung chất lượng cao trực tuyến trong 5 năm qua. Nó đã đáp ứng đầy đủ nhu cầu cơ bản của tôi về đàm thoại AI.”
Tuy nhiên, các chuyên gia đã cảnh báo về những sai sót trong mô hình của GTP-3, nói rằng nó có thể tạo ra nội dung sai lệch và củng cố sự thiên vị, làm xấu đi hệ thống thông tin trực tuyến. Trong khi các nhà phát triển AI trên toàn thế giới đang cố gắng kiểm soát những sai sót như vậy, thì các cơ quan quản lý cũng đang cố gắng thiết lập các tiêu chuẩn xung quanh việc sử dụng công nghệ một cách có đạo đức.
Nhưng các lập trình viên như Turing's Cat hy vọng rằng phát minh của họ có thể truyền cảm hứng cho những người khác sử dụng các kỹ thuật tiên tiến liên quan đến AI đàm thoại, có thể thay thế một phần các nhiệm vụ giám sát trực tuyến sử dụng nhiều lao động. Lập trình viên người Trung Quốc đã đăng tải mã code của mình trên GitHub, một nền tảng thuộc sở hữu của Microsoft cho phép các nhà phát triển chia sẻ mã code và giúp nhau xây dựng phần mềm.
Turing's Cat cho biết: “Mặc dù một kẻ lừa đảo có thể trò chuyện với hàng chục người cùng lúc, nhưng AI không có giới hạn trên. “Miễn là máy chủ đủ mạnh, nó có thể trò chuyện với hàng nghìn kẻ lừa đảo cùng lúc. Ngay cả khi những kẻ lừa đảo sớm phát hiện ra họ đang trò chuyện với AI, thì chúng cũng sẽ mất thời gian để tiếp cận người thật, và do đó làm giảm khả năng các nạn nhân khác bị lừa đảo.”
Theo Sixth Tone
