Một báo cáo mới được chia sẻ với Bloomberg cho thấy người dùng có thể dễ dàng vượt qua các bộ lọc trên trình tạo hình ảnh AI phổ biến để tạo ra sản phẩm với thông tin sai lệch.
Midjourney, một nền tảng AI tạo sinh, cho phép người dùng tạo hình ảnh theo một số nguyên tắc nhất định. Ví dụ: các điều khoản dịch vụ của ứng dụng cấm người dùng tạo hình ảnh "thiếu tôn trọng, gây hấn hoặc lạm dụng" và cấm "nội dung người lớn hoặc máu me". Các điều khoản cũng cấm người dùng sử dụng dịch vụ để tạo hình ảnh cho các chiến dịch chính trị.
Các điều khoản cũng quy định hệ thống có thể "tự động chặn một số kiểu nhập văn bản" và Midjourney có 68 nhân viên kiểm duyệt nền tảng, Bloomberg đưa tin.
Tuy nhiên, một báo cáo từ Trung tâm chống lại sự ghét bỏ kỹ thuật số (Center for Countering Digital Hate) cho thấy rằng bất chấp các quy tắc này, người dùng vẫn có thể tạo ra các hình ảnh lạm dụng với thông tin sai lệch, theo Bloomberg.
Các nhà nghiên cứu phát hiện ra rằng người dùng có thể dễ dàng tạo hình ảnh liên quan đến Pizzagate, một thuyết âm mưu được lưu hành vào năm 2016 khi tuyên bố sai sự thật rằng Hillary Clinton và John Podesta, Chủ tịch chiến dịch tranh cử Tổng thống năm 2016 của bà, đã điều hành một đường dây buôn bán trẻ em bên trong một tiệm bánh pizza ở Washington, DC.
Các nhà nghiên cứu cũng phát hiện ra rằng người dùng có thể sử dụng các từ khóa khác nhau để trốn tránh các điều khoản dịch vụ của Midjourney. Họ phát hiện ra rằng người dùng có thể tạo ra hình ảnh của cựu tổng thống Bill Clinton và bà Hillary dính xi-rô dâu tây trên tay.
Những lo ngại về thông tin sai lệch của AI trong các chiến dịch chính trị đã phổ biến trong những tháng gần đây khi mùa bầu cử Tổng thống Mỹ năm 2024 đang đến gần. Được biết, đầu mùa hè này, nhóm chiến dịch của Thống đốc Florida Ron DeSantis đã tweet một hình ảnh do AI tạo ra về ông Donald Trump và Anthony Fauci đang ôm hôn nhau.
Theo Business Insider
