Nvidia đã công bố phần mềm mới giúp các nhà sản xuất ngăn chặn các mô hình AI nêu sai sự thật, nói về các chủ đề có hại hoặc để lộ lỗ hổng bảo mật. Phần mềm này được gọi là NeMo Guardrails.
Các hệ thống trí tuệ nhân tạo cao cấp như ChatGPT, Bard được huấn luyện trên hàng terabyte dữ liệu để có thể trả lời câu hỏi giống như con người. Tuy nhiên, chúng có xu hướng bịa ra nội dung sai lệch. Trong một cuộc phỏng vấn với CBS tuần trước, CEO Google Sundar Pichai thừa nhận rằng ngay cả Google cũng không thể hiểu hết về trí tuệ nhân tạo khi chúng có thể tạo ra câu trả lời ngớ ngẩn và thậm chí nguy hiểm.
Phần mềm NeMo Guardrails có thể giảm thiểu nội dung sai lệch bằng cách thêm nhiều lớp kiểm tra để hạn chế trí tuệ nhân tạo nói về các chủ đề ngoài tầm hiểu biết. Phần mềm mới đóng vai trò như một lớp lọc, chỉ cho chatbot nói về các chủ đề cụ thể, loại bỏ nội dung độc hại và hạn chế thực hiện các lệnh có hại trên máy tính.
Theo Jonathan Cohen, Phó chủ tịch nghiên cứu ứng dụng của Nvidia, một hệ thống trí tuệ nhân tạo cao cấp cần được mã hóa cứng trong các logic thực thi của hệ thống bảo vệ, đảm bảo không tạo ra nội dung sai lệch bằng cách nói về các chủ đề khác với những gì người dùng đang đề cập hoặc nhắc đến các nội dung có hại.
Nvidia hiện cung cấp hàng ngàn bộ xử lý đồ họa cần thiết để đào tạo và triển khai phần mềm như ChatGPT. Theo các nhà phân tích, Nvidia có hơn 95% thị trường chip AI, nhưng sự cạnh tranh ngày càng gia tăng.
NeMo Guardrails là một lớp phần mềm được đặt giữa người dùng và mô hình ngôn ngữ lớn hoặc siêu AI, nhằm lọc và hạn chế các câu trả lời có khả năng độc hại, vô nghĩa hoặc chứa từ khóa xấu có thể xuất hiện trong dữ liệu học máy của các nền tảng.
Ông Jonathan Cohen đã đưa ra ví dụ về một chatbot phục vụ khách hàng, được thiết kế để nói về sản phẩm của công ty. Nhờ NeMo Guardrails, chatbot này sẽ không trả lời về các sản phẩm của đối thủ cạnh tranh, ngay cả khi khách hàng hỏi. Thậm chí, phần mềm còn có thể ngăn chatbot trả lời những câu liên quan đến nhân sự nội bộ và thông tin bảo mật của công ty.
Ngoài ra, lớp bảo vệ này của Nvidia sử dụng một mô hình ngôn ngữ lớn khác để kiểm tra các câu trả lời tự đưa ra của siêu AI. Nếu chatbot không đưa ra câu trả lời phù hợp, NeMo Guardrails sẽ không hiển thị nội dung đến người dùng. NeMo Guardrails là một phần mềm mã nguồn mở, được cung cấp qua các dịch vụ của Nvidia và có thể được sử dụng trong các ứng dụng thương mại.
Nvidia đang ngày càng tập trung vào lĩnh vực AI khi hãng này hiện đang thống trị các con chip được sử dụng để tạo ra công nghệ này. Tận dụng làn sóng AI bùng nổ đã khiến Nvidia trở thành doanh nghiệp có cổ phiếu tăng nhiều nhất trong S&P 500 từ đầu năm 2023, với mức tăng 85%.
Theo CNBC
