Cảnh sát Trung Quốc đã bắt giữ một người đàn ông bị nghi ngờ đã sử dụng ChatGPT để tạo tin tức giả mạo và phát tán nó lên mạng, theo cách mà truyền thông nhà nước gọi là vụ án hình sự đầu tiên của Trung Quốc liên quan đến chatbot AI.
Theo một tuyên bố từ cảnh sát ở tỉnh Cam Túc phía tây bắc, nghi phạm được cho là đã sử dụng ChatGPT để tạo một báo cáo không có thật về một vụ tai nạn tàu hỏa, sau đó anh ta đăng lên mạng để kiếm lời. Bài báo đã nhận được khoảng 15.000 lượt xem, cảnh sát cho biết trong tuyên bố hôm Chủ nhật.
ChatGPT, được phát triển bởi OpenAI do Microsoft hậu thuẫn, bị cấm ở Trung Quốc, mặc dù người dùng internet có thể sử dụng mạng riêng ảo (VPN) để truy cập dịch vụ này.
Tai nạn tàu hỏa là một vấn đề nhạy cảm ở Trung Quốc kể từ năm 2011, khi các nhà chức trách phải đối mặt với áp lực giải thích lý do tại sao truyền thông nhà nước không cung cấp thông tin cập nhật kịp thời về vụ va chạm tàu cao tốc ở thành phố Ôn Châu khiến 40 người thiệt mạng.
Chính quyền Cam Túc cho biết nghi phạm họ Hong đã bị thẩm vấn tại thành phố Đông Quan, tỉnh Quảng Đông, miền nam Trung Quốc vào ngày 5/5.
“Hong đã sử dụng công nghệ hiện đại để bịa đặt thông tin sai lệch, phát tán nó trên internet và được phổ biến rộng rãi,” cảnh sát Cam Túc cho biết trong tuyên bố.
“Hành vi của anh ta giống như gây gổ và gây rắc rối,” họ nói thêm, giải thích hành vi phạm tội mà Hong bị cáo buộc phạm phải.
Luật mới
Cảnh sát cho biết đây là vụ bắt giữ đầu tiên ở Cam Túc kể từ khi Cục quản lý không gian mạng của Trung Quốc ban hành các quy định mới vào tháng 1 để hạn chế việc sử dụng deep fake. Đài truyền hình nhà nước CGTN cho biết đây là quốc gia đầu tiên bắt giữ người bị cáo buộc sử dụng ChatGPT để bịa đặt và lan truyền tin tức giả mạo.
Một bộ luật mới đã được đưa ra nhằm cấm người dùng tạo nội dung giả về các chủ đề đã bị cấm theo luật hiện hành trên mạng internet bị kiểm duyệt gắt gao của Trung Quốc.
Vụ bắt giữ cũng diễn ra trong bối cảnh một chiến dịch kéo dài 100 ngày do chi nhánh internet của Bộ Công an phát động vào tháng 3 nhằm trấn áp việc lan truyền tin đồn trên mạng.
Kể từ đầu năm, những gã khổng lồ internet Trung Quốc như Baidu (BIDU) và Alibaba (BABA) đã tìm cách bắt kịp OpenAI, tung ra các phiên bản dịch vụ ChatGPT của riêng họ.
Baidu đã tiết lộ “ERNIE Bot” vào tháng Ba. Hai tháng sau, Alibaba ra mắt “Tongyi Qianwen”, tạm dịch là tìm kiếm sự thật bằng cách hỏi hàng nghìn câu hỏi.
Trong dự thảo hướng dẫn được ban hành vào tháng trước để thu hút phản hồi của công chúng, cơ quan quản lý không gian mạng của Trung Quốc cho biết các dịch vụ AI tổng quát sẽ được yêu cầu trải qua đánh giá bảo mật trước khi chúng có thể hoạt động.
Các nhà cung cấp dịch vụ cũng sẽ được yêu cầu xác minh danh tính thực của người dùng, cũng như cung cấp thông tin chi tiết về quy mô và loại dữ liệu họ sử dụng, các thuật toán cơ bản và thông tin kỹ thuật khác của họ.
Theo CNN
