Kaspersky cảnh báo: Xuất hiện chatbot AI gợi ý nội dung khiêu dâm cho trẻ em

Ảnh minh hoạ.

Các chuyên gia của Kaspersky đã chia sẻ các xu hướng an ninh mạng trong năm 2024 và hướng dẫn các bậc phụ huynh cách bảo vệ trẻ em trên những hoạt động trực tuyến.

Hiện tại, hầu hết trẻ em có thể truy cập internet hoặc sở hữu điện thoại thông minh, máy tính bảng, do đó, các bậc phụ huynh phải luôn cập nhật thông tin về các mối đe dọa an ninh mạng mới nhất nhắm mục tiêu vào trẻ em để bảo vệ chúng khỏi những rủi ro tiềm năng.

Theo Kaspersky, tần suất trẻ em sử dụng công cụ trí tuệ nhân tạo (AI) sẽ tăng cao, tuy nhiên những công cụ này chưa cung cấp nội dung phù hợp với lứa tuổi và đảm bảo mức độ an ninh mạng cần thiết cho người dùng

Theo nghiên cứu của Liên Hợp Quốc, khoảng 80% thanh niên cho biết trong một ngày họ tương tác với AI rất nhiều lần. Với sự phát triển của AI, nhiều ứng dụng ít được biết đến đã xuất hiện những tính năng tưởng chừng là vô hại, chẳng hạn như tải ảnh lên để chỉnh sửa. Tuy nhiên, khi trẻ em làm điều tương tự, các em sẽ không bao giờ biết được ảnh của chúng sẽ lưu trữ ở cơ sở dữ liệu nào và liệu những hình ảnh ấy có được sử dụng cho những mục đích khác hay không.

Các ứng dụng AI, cụ thể là chatbot, cũng dễ dàng cung cấp nội dung không phù hợp với lứa tuổi. Có nhiều chatbot AI được thiết kế để mang lại nội dung khiêu dâm. Mặc dù một số chatbot yêu cầu xác minh độ tuổi nhưng điều này vẫn nguy hiểm vì một số trẻ sẽ chọn cách nói dối tuổi của mình. Hiện tại, những cách thức ngăn chặn trường hợp này vẫn chưa phù hợp và đầy đủ.

Cũng theo thống kê trực tuyến mới nhất, có 91% trẻ em từ 3-15 tuổi chơi game trên một số thiết bị cụ thể. Đối với một số trò chơi, thì việc trò chuyện bằng giọng nói và tin nhắn là một phần quan trọng của trải nghiệm nhưng các nội dung này lại chưa thông qua kiểm duyệt.

Với ngày càng nhiều người trẻ tuổi tham gia các hoạt động trực tuyến, tội phạm mạng có xu hướng kết bạn, tặng người chơi trẻ nhiều món quà giá trị hoặc hứa hẹn nhằm xây dựng lòng tin với nạn nhân. Sau khi có được sự tin tưởng, tội phạm mạng sẽ đánh cắp thông tin cá nhân bằng cách yêu cầu nạn nhân nhấp vào liên kết lừa đảo để tải tệp độc hại xuống thiết bị của họ được ngụy trang dưới dạng mod trò chơi.

Các chuyên gia cũng cảnh báo, số lượng mối đe dọa từ thiết bị nhà thông minh nhắm vào trẻ em sẽ tăng cao. Mặc dù số lượng các trường hợp đe dọa thiết bị nhà thông minh ngày càng gia tăng, các nhà sản xuất vẫn chưa tạo ra công nghệ miễn dịch mạng nhằm ngăn chặn các hành vi khai thác lỗ hổng tiềm năng.

Tuy nhiên, điều này đồng nghĩa với việc trẻ em có thể trở thành công cụ cho tội phạm trong một cuộc tấn công mạng. Ví dụ: nếu một thiết bị thông minh trở thành một công cụ giám sát đầy đủ chức năng và khi một đứa trẻ ở nhà một mình, tội phạm mạng có thể liên hệ với chúng thông qua thiết bị và yêu cầu những thông tin nhạy cảm như tên, địa chỉ và thời gian cha mẹ chúng không có ở nhà - hoặc thậm chí cả thẻ tín dụng của bố mẹ.

Trong trường hợp như vậy, hơn cả việc thiết bị bị hack, nguy cơ mất dữ liệu tài chính hoặc thậm chí là một cuộc tấn công vật lý có thể diễn ra.