ChatGPT là một chatbot được hỗ trợ bởi AI, có khả năng tạo cuộc trò chuyện, tương tác trực tiếp một cách tự nhiên với người dùng. Được phát triển bởi OpenAI, ChatGPT được biết đến với khả năng đưa ra các phản hồi giống như con người. Được biết, OpenAI đang chi rất nhiều tiền để duy trì hoạt động của ChatGPT.
ChatGPT "ngốn" 100.000 USD mỗi ngày
Theo Goldstein, Phó giáo sư tại Maryland, riêng việc tải và xử lý một đoạn văn bản trong GPT-3 đã cần năm GPU tải mô hình và văn bản. Trong khi đó, ChatGPT hiện có khả năng tạo khoảng 15-20 từ mỗi giây, do đó cần một máy chủ với ít nhất tám GPU A100.
Theo Goldstein, một GPU NVIDIA A100 duy nhất có khả năng chạy mô hình 3 tỉ tham số trong khoảng 6ms. Với tốc độ này, một GPU NVIDIA A100 có thể mất 350 mili giây để tạo ra chỉ một từ trên ChatGPT. Với hơn 175 tỉ tham số, để có đưa ra câu trả lời ChatGPT sẽ cần ít nhất năm GPU A100 để tải mô hình và văn bản.
Trung bình, mỗi GPU A100 tốn khoảng 3 USD mỗi giờ sử dụng, đồng nghĩa với 0,0003 USD cho mỗi từ được tạo ra đối với ChatGPT. Trung bình, mỗi câu trả lời của AI này chứa 30-40 từ, tương đương 1 cent (0,01 USD). Với một đoạn hội thoại ngắn 5-10 câu trả lời mỗi ngày, số tiền sẽ là 0,05-0,1 USD. Nếu một triệu cuộc hội thoại diễn ra, mức phí là 50.000-100.000 USD, 3 triệu USD mỗi tháng. Đây có thể là mức tối thiểu, chưa tính đến các chi phí khác để phát triển và vận hành mô hình.
Con số của Goldstein có thể thấp hơn thực tế, trong bối cảnh lượng người dùng ChatGPT tăng vọt. Theo ước tính của ngân hàng đầu tư UBS, siêu AI đã đạt 100 triệu người dùng sau ba tháng ra mắt.
ChatGPT không có câu trả lời cho toàn bộ câu hỏi của bạn
Mặc dù ChatGPT hiện là mô hình trò chuyện AI tiềm năng nhất, nhưng chatbot này chỉ được đào tạo bằng các mô hình cũ, được tạo ra trước năm 2021. Do đó, ChatGPT có thể không cung cấp cho bạn câu trả lời chính xác cho tất cả các câu hỏi.
ChatGPT đã bắt đầu tính phí người dùng
Mới đây, OpenAI đã công bố phiên bản ChatGPT trả phí, với giá 20 USD một tháng, sẽ cho phép người dùng nhận được một số đặc quyền mà người dùng thông thường không có.
Theo đó, những người dùng này sẽ có “quyền truy cập vào ChatGPT kể cả trong giờ cao điểm, tốc độ phản hồi nhanh hơn và ưu tiên sử dụng các tính năng và cải tiến mới.
Theo India Express, Tech Crunch
