Language:

Search

Giám đốc điều hành OpenAI Sam Altman cho biết công ty đã 'hết GPU'

  • Share this:
Giám đốc điều hành OpenAI Sam Altman cho biết công ty đã 'hết GPU'

Sam Altman

Giám đốc điều hành OpenAI Sam Altman nói rằng công ty buộc phải trì hoãn việc triển khai mô hình mới nhất của mình, GPT-4.5, vì OpenAI là “hết GPU.”

Trong một bài đăng trên X, Altman nói rằng GPT-4.5 mà ông mô tả là “khổng lồ” và “đắt,” sẽ yêu cầu “hàng chục nghìn” nhiều GPU hơn trước khi người dùng ChatGPT bổ sung có thể có quyền truy cập. GPT-4.5 sẽ đến với người đăng ký ChatGPT Pro trước tiên bắt đầu từ thứ Năm, sau đó là khách hàng ChatGPT Plus vào tuần tới.

Có lẽ một phần do kích thước khổng lồ của nó nên GPT-4.5 cực kỳ đắt tiền. OpenAI đang tính phí 75 USD cho mỗi triệu token (~750.000 từ) được đưa vào mô hình và 150 USD cho mỗi triệu token do mô hình tạo ra. Đó là chi phí đầu vào gấp 30 lần và chi phí đầu ra gấp 15 lần của mô hình GPT-4o của OpenAI.

“Chúng tôi đã phát triển rất nhiều và đã hết GPU,” Altman đã viết. “Chúng tôi sẽ bổ sung hàng chục nghìn GPU vào tuần tới và triển khai nó lên cấp Plus … Đây không phải là cách chúng tôi muốn vận hành, nhưng thật khó để dự đoán một cách chính xác mức tăng trưởng đột biến dẫn đến tình trạng thiếu GPU.”

Altman trước đây đã nói rằng việc thiếu năng lực tính toán đang làm chậm trễ các sản phẩm của công ty. OpenAI hy vọng có thể giải quyết vấn đề này trong những năm tới bằng cách phát triển chip AI của riêng mìnhxây dựng một mạng lưới trung tâm dữ liệu khổng lồ.

Tech Crunch