Cực sốc khi biết việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày của Microsoft

Tiết lộ việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

Báo cáo mới đến từ Dylan Patel, nhà phân tích chính của công ty nghiên cứu SemiAnalysis, đã cho biết chi phí vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày, hoặc 36 xu cho mỗi truy vấn của người dùng. Microsoft là người chi trả để duy trì hoạt động của chatbot này.

Trên thực tế, nó đắt đến mức Microsoft có thể đang phát triển chip AI độc quyền của riêng mình để hỗ trợ duy trì hoạt động ChatGPT của OpenAI, theo Windows Central.

Xem thêm:

• Cha đẻ ChatGPT Sam Altman xác nhận tạm dừng phát triển GPT-5 vô thời hạn.
• Elon Musk hé lộ AI Truth GPT của mình - Sẵn sàng vượt mặt Chat GPT.

Các khó khăn khác của việc vận hành ChatGPT

Ngoài việc nhanh chóng đạt được 100 triệu người dùng tích cực vào tháng 1, một kỳ tích mà trước đây các thương hiệu công nghệ phải mất nhiều năm mới đạt được, ChatGPT đã phải vật lộn với các vấn đề về lưu lượng truy cập và dung lượng cao làm chậm và sập máy chủ. Công ty đã cố gắng khắc phục điều này bằng cách giới thiệu cấp ChatGPT Plus trả phí, có giá 20 đô la mỗi tháng, tuy nhiên, không có thông tin nào về số lượng người dùng đăng ký tùy chọn trả phí.

OpenAI hiện đang sử dụng GPU Nvidia để duy trì không chỉ các quy trình ChatGPT của riêng mình mà còn của các thương hiệu mà nó hợp tác. Các nhà phân tích trong ngành kỳ vọng công ty có thể sẽ cần thêm 30.000 GPU từ Nvidia để duy trì hiệu suất thương mại chỉ trong thời gian còn lại của năm 2023.

Phương hướng giải quyết của OpenAI

Với Microsoft là một trong những cộng tác viên và nhà đầu tư chính của mình, OpenAI có thể đang xem xét thương hiệu công nghệ này để hỗ trợ phát triển phần cứng nhằm giảm chi phí hoạt động cho ChatGPT. Theo Windows Central, Microsoft đã có sẵn con chip AI này. Có tên mã là Athena, nó hiện đang được thử nghiệm nội bộ với các nhóm riêng của thương hiệu. Con chip này dự kiến sẽ được giới thiệu vào năm tới cho các dịch vụ Azure AI của Microsoft.

Không có thông tin nào về cách thức hoặc thời điểm con chip sẽ chuyển sang OpenAI và ChatGPT, nhưng giả định là nó sẽ xảy ra. Kết nối đến từ thực tế là ChatGPT được hỗ trợ bởi các dịch vụ Azure. Chip AI có thể không thay thế hoàn toàn GPU Nvidia, nhưng có thể giúp giảm nhu cầu về phần cứng, do đó giảm chi phí chạy ChatGPT, Windows Central cho biết thêm.

ChatGPT là gì?

ChatGPT là một chatbot trả lời bằng ngôn ngữ tự nhiên. Khác với các chatbot khác trên thị trường, ChatGPT được xây dựng trên mô hình LLM (Mô hình ngôn ngữ lớn). Các mạng thần kinh này được đào tạo dựa trên lượng thông tin khổng lồ từ internet để học sâu. Phiên bản ChatGPT hiện tại được đào tạo dựa trên mô hình GPT-3.5 LLM.

Mô hình đằng sau ChatGPT đã được đào tạo trên tất cả các loại nội dung web bao gồm trang web, sách, phương tiện truyền thông xã hội, tin bài, v.v. — tất cả đều được tinh chỉnh trong mô hình ngôn ngữ bằng cả phương pháp học có giám sát và RLHF (Học tăng cường từ phản hồi của con người). OpenAI cho biết việc sử dụng các huấn luyện viên AI của con người này thực sự là điều khiến ChatGPT trở nên nổi bật. Có lẽ vì các mô hình này mà việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày.