Cực sốc khi biết việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày của Microsoft

Cực sốc khi biết việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày của Microsoft

21/04/2023

392

0

Chia sẻ lên Facebook
Cực sốc khi biết việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày của Microsoft

Bạn có tin được là việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày của Microsoft không? Một báo cáo mới tuyên bố họ đã khám phá ra chi phí vận hành công nghệ ChatGPT mỗi ngày của OpenAI, một công ty thuộc quyền sở hữu của Microsoft. Chatbot hội thoại tự nhiên như con người này có thể đã tạo ra một cuộc cách mạng công nghệ 24h vào tháng 11 năm 2022, nhưng việc duy trì đã được chứng minh là cực kỳ tốn kém.

Tiết lộ việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

Báo cáo mới đến từ Dylan Patel, nhà phân tích chính của công ty nghiên cứu SemiAnalysis, đã cho biết chi phí vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày, hoặc 36 xu cho mỗi truy vấn của người dùng. Microsoft là người chi trả để duy trì hoạt động của chatbot này.

vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày
Tiết lộ việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

Trên thực tế, nó đắt đến mức Microsoft có thể đang phát triển chip AI độc quyền của riêng mình để hỗ trợ duy trì hoạt động ChatGPT của OpenAI, theo Windows Central.

Xem thêm:

Các khó khăn khác của việc vận hành ChatGPT

Ngoài việc nhanh chóng đạt được 100 triệu người dùng tích cực vào tháng 1, một kỳ tích mà trước đây các thương hiệu công nghệ phải mất nhiều năm mới đạt được, ChatGPT đã phải vật lộn với các vấn đề về lưu lượng truy cập và dung lượng cao làm chậm và sập máy chủ. Công ty đã cố gắng khắc phục điều này bằng cách giới thiệu cấp ChatGPT Plus trả phí, có giá 20 đô la mỗi tháng, tuy nhiên, không có thông tin nào về số lượng người dùng đăng ký tùy chọn trả phí.

vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày
Các khó khăn khác của việc vận hành ChatGPT

OpenAI hiện đang sử dụng GPU Nvidia để duy trì không chỉ các quy trình ChatGPT của riêng mình mà còn của các thương hiệu mà nó hợp tác. Các nhà phân tích trong ngành kỳ vọng công ty có thể sẽ cần thêm 30.000 GPU từ Nvidia để duy trì hiệu suất thương mại chỉ trong thời gian còn lại của năm 2023.

Phương hướng giải quyết của OpenAI

Với Microsoft là một trong những cộng tác viên và nhà đầu tư chính của mình, OpenAI có thể đang xem xét thương hiệu công nghệ này để hỗ trợ phát triển phần cứng nhằm giảm chi phí hoạt động cho ChatGPT. Theo Windows Central, Microsoft đã có sẵn con chip AI này. Có tên mã là Athena, nó hiện đang được thử nghiệm nội bộ với các nhóm riêng của thương hiệu. Con chip này dự kiến sẽ được giới thiệu vào năm tới cho các dịch vụ Azure AI của Microsoft.

vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày
Phương hướng giải quyết của OpenAI

Không có thông tin nào về cách thức hoặc thời điểm con chip sẽ chuyển sang OpenAI và ChatGPT, nhưng giả định là nó sẽ xảy ra. Kết nối đến từ thực tế là ChatGPT được hỗ trợ bởi các dịch vụ Azure. Chip AI có thể không thay thế hoàn toàn GPU Nvidia, nhưng có thể giúp giảm nhu cầu về phần cứng, do đó giảm chi phí chạy ChatGPT, Windows Central cho biết thêm.

ChatGPT là gì?

ChatGPT là một chatbot trả lời bằng ngôn ngữ tự nhiên. Khác với các chatbot khác trên thị trường, ChatGPT được xây dựng trên mô hình LLM (Mô hình ngôn ngữ lớn). Các mạng thần kinh này được đào tạo dựa trên lượng thông tin khổng lồ từ internet để học sâu. Phiên bản ChatGPT hiện tại được đào tạo dựa trên mô hình GPT-3.5 LLM.

vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày
ChatGPT là gì?

Mô hình đằng sau ChatGPT đã được đào tạo trên tất cả các loại nội dung web bao gồm trang web, sách, phương tiện truyền thông xã hội, tin bài, v.v. — tất cả đều được tinh chỉnh trong mô hình ngôn ngữ bằng cả phương pháp học có giám sát và RLHF (Học tăng cường từ phản hồi của con người). OpenAI cho biết việc sử dụng các huấn luyện viên AI của con người này thực sự là điều khiến ChatGPT trở nên nổi bật. Có lẽ vì các mô hình này mà việc vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày.

Kết luận

Chuyện vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày có thể gây sốc đối với nhiều người. Ngành công nghệ AI tuy là xu hướng của tương lai nhưng lại cần mức đầu tư cực lớn. Đó là lý do nhiều công ty lớn hiện nay phải cắt giảm một số bộ phận để bổ sung vốn vào việc phát triển AI. Khi đọc các tin tức hot 24h, bạn sẽ thấy xu hướng đó ở Apple, Twitter, Facebook hay Google.

Luân Thái anh là một chuyên gia về thể tin tức hot 24h trong ngày. Anh luôn cập nhật nhanh nhiều tin nóng theo xu hướng thế giới về mảng công nghệ, bản tin bóng đá, giải trí tổng hợp như về Digital Brand, Social, Showbiz Việt, Review các phim hot. Hiện tại, anh đang làm việc và sinh sống ở TP. HCM.

Kinh nghiệm thực tế

Tư vấn 1:1

Uy tín

Đây là 3 tiêu chí mà TOPCHUYENGIA luôn muốn hướng tới để đem lại những thông tin hữu ích cho cộng đồng