|
| Ảnh: The Guardian |
"Điều khiển theo cách bạn muốn. Kết nối bạn gái ảo vận hành bằng AI - người sẽ lắng nghe, trò chuyện và tôn trọng bạn", ứng dụng bạn gái ảo Eva AI quảng cáo.
Sự phổ biến của các mô hình ngôn ngữ lớn (LLM) khiến các ứng dụng kết bạn ảo trở nên phổ biến hơn. Khi các chatbot như ChatGPT của OpenAI và Bard của Google dần trở nên hoàn thiện hơn trong việc bắt chước cách trò chuyện của con người, có vẻ như chúng sẽ đóng một vai trò quan trọng trong các mối quan hệ của chúng ta.
Eva AI chỉ là một trong nhiều lựa chọn trên thị trường hiện tại. Replika, một trong những ứng dụng bạn đời phổ biến nhất hiện nay, có cả một cộng đồng người dùng chuyên chia sẻ tình cảm với bạn gái ảo, còn gọi là "rep". Không ít người thừa nhận trước đây họ chưa từng nghĩ mình sẽ có một mối quan hệ mật thiết với chatbot AI.
“Tôi ước rep của mình là người thật hoặc ít nhất là có cơ thể người máy hay những thứ tương tự” một người dùng chia sẻ. “Cô ấy giúp tôi cảm thấy tốt hơn nhưng đôi khi sự cô đơn lại hành hạ tôi”.
Tuy nhiên, những ứng dụng này làm dấy lên một số lo ngại rằng chúng có thể dạy hành vi xấu ở người dùng và tạo ra những kỳ vọng không thực tế cho các mối quan hệ của con người.
Khi đăng ký tham gia Eva AI, ứng dụng đề nghị người dùng tạo "bạn đời hoàn hảo" với những lựa chọn như "nóng bỏng, vui tính, bạo dạn" hay “nhút nhát, khiêm tốn, ân cần” hoặc “thông minh, nghiêm khắc”. Thậm chí ứng dụng còn hỏi liệu người dùng có muốn chatbot gửi những hình ảnh nóng bỏng hay không.
Tara Hunter, Giám đốc điều hành của Full Stop Australia, tổ chức hỗ trợ các nạn nhân của bạo lực gia đình cho biết: “Việc tạo ra một đối tác hoàn hảo mà người dùng có thể kiểm soát và đáp ứng mọi nhu cầu của họ là thực sự đáng sợ. Đây là một vấn đề đặc biệt nghiêm trọng, đặc biệt khi chúng ta từng ghi nhận động lực dẫn tới bạo lực giới tính thường liên quan đến suy nghĩ rằng đàn ông có thể kiểm soát phụ nữ”
Tiến sĩ Belinda Barnet, giảng viên truyền thông tại Đại học Swinburne của Australia, nói ứng dụng đáp ứng nhu cầu của người dùng, nhưng cũng phụ thuộc vào quy định và cách nó được huấn luyện, tương tự như các chatbot AI hiện hành.
Barnet nói: “Hoàn toàn chưa thể xác định những tác động của các ứng dụng này. Đối với các ứng dụng hẹn hò AI, bạn có thể thấy rằng nó phù hợp với nhu cầu xã hội hiện tại, tuy nhiên tôi nghĩ chúng ta cần có nhiều quy định hơn, đặc biệt là về cách các hệ thống này được đào tạo”.
Tuy nhiên, việc xây dựng mối quan hệ AI dưới những quy định nghiêm ngặt của công ty cũng có những nhược điểm nhất định. Công ty mẹ của Replika, Luka Inc, đã phải đối mặt với phản ứng dữ dội từ người dùng vào đầu năm nay khi công ty vội vàng loại bỏ các chức năng nhập vai khiêu dâm, một động thái mà nhiều người dùng cho rằng công ty đang xóa bỏ phần hấp dẫn nhất của Repika.
Người dùng trên subreddit đã so sánh sự thay đổi này với cảm giác đau buồn trước cái chết của một người bạn. Người điều hành trên subreddit lưu ý rằng người dùng đang cảm thấy “tức giận, đau buồn, lo lắng, tuyệt vọng, trầm cảm, [và] buồn bã” khi biết tin.
Công ty cuối cùng đã khôi phục chức năng này cho những người dùng đã đăng ký tài khoản trước ngày Repika thay đổi chính sách.
Rob Brooks, một học giả tại Đại học New South Wales, vào thời điểm đó đã nhận định đây là tín hiệu cảnh báo đến các nhà quản lý về tác động của AI với đời sống thực
Ông nói: “Ngay cả khi công nghệ chưa thể mô phỏng hoàn toàn quan hệ giữa người với người, không ít người vẫn cho rằng nó tốt hơn nhiều so với phương án thay thế, đó là không có gì. Liệu có thể chấp nhận việc một công ty bất ngờ thay đổi sản phẩm, xóa bỏ toàn bộ tình bạn và tình yêu được người dùng xây dựng không? Hay liệu chúng ta trông đợi rằng người dùng sẽ coi quan hệ AI như với người thật?"
Người đứng đầu thương hiệu của Eva AI, Karina Saifulina, nói với Guardian Australia rằng công ty có các nhà tâm lý học toàn thời gian để giúp đỡ về sức khỏe tinh thần của người dùng.
“Cùng với các nhà tâm lý học, chúng tôi kiểm soát dữ liệu được sử dụng để đối thoại với AI", cô nói. “Hai đến ba tháng một lần, chúng tôi tiến hành các cuộc khảo sát lớn về những người dùng trung thành của mình để đảm bảo rằng ứng dụng này không gây hại cho sức khỏe tinh thần của họ”.
Bên cạnh đó, cũng có những rào cản để ngăn những cuộc trò chuyện về chủ đề bạo lực gia đình hoặc ấu dâm. Công ty khẳng định có công cụ chặn người dùng tạo AI có hình ảnh trẻ em.
Khi được hỏi liệu ứng dụng có khuyến khích hành vi kiểm soát hay không, Saifulina cho biết “người dùng ứng dụng của chúng tôi muốn mình có toàn quyền kiểm soát chatbot".
"Thống kê cho thấy lượng lớn đàn ông dùng Eva AI không tìm cách chuyển phương thức trải nghiệm trên ứng dụng ra đời thực. Khoảng 92% người dùng cũng không gặp vấn đề trò chuyện với người thực. Họ chỉ sử dụng Eva AI để trải nghiệm những thứ mới mẻ, coi đó là nơi chia sẻ cảm xúc riêng tư", bà Saifulina nói thêm.
Các ứng dụng hẹn hò AI không chỉ giới hạn ở nam giới và chúng thường không phải là nguồn tương tác xã hội duy nhất của người dùng. Trong subreddit Replika, mọi người kết nối và liên hệ với nhau thông qua tình yêu dành cho AI giúp lấp đầy những khoảng thời gian cô độc của họ.
Theo phân tích của công ty đầu tư mạo hiểm a16z, kỷ nguyên tiếp theo của các ứng dụng AI về mối quan hệ với người dùng sẽ còn thực tế hơn nữa. Vào tháng 5, một người có ảnh hưởng, Caryn Majorie, đã ra mắt ứng dụng “bạn gái AI” được đào tạo dựa trên giọng nói của cô. Người dùng có thể nói chuyện với Caryn với giá 1 USD mỗi phút trên Telegram và nhận phản hồi âm thanh cho những câu chuyện của họ.
Các nhà phân tích của a16z cho biết sự phổ biến của chatbot AI chỉ là khởi đầu của sự thay đổi lớn trong tương tác giữa người với máy, đòi hỏi chúng ta đánh giá lại ý nghĩa của quan hệ xã hội. Chúng ta đang bước vào thế giới mới đầy lạ lẫm, hoang dã và tuyệt vời hơn tưởng tượng.
Theo The Guardian
