BlockBeats tin tức, ngày 16 tháng 6, Citigroup cho biết cường độ nhu cầu suy luận AI vẫn đang tiếp diễn, tình trạng khan hiếm sức mạnh tính toán đang lan tỏa từ thế hệ chip mới nhất sang các GPU thế hệ trước, đồng thời thúc đẩy các nhà sản xuất mô hình tăng tốc kiếm tiền thông qua giá cả, hạn mức và cơ chế định tuyến.

Các nhà phân tích của Citigroup như Heath Terry viết trong báo cáo công bố ngày 14 tháng 6, giá cho thuê GPU A100 đã tăng 0,6% trong tuần qua và tăng 11% trong sáu tuần tích lũy, cho thấy nhu cầu sức mạnh tính toán AI không chỉ tập trung vào phần cứng tiên tiến nhất. Đồng thời, một số mô hình tiên tiến đã tăng giá đáng kể sau khi cải thiện điểm thông minh, Citigroup cho biết "tốc độ tiền tệ hóa sự khan hiếm nhanh hơn tốc độ giải quyết".

Báo cáo chỉ ra rằng hiện tại không có nhà cung cấp mô hình nào có thể đồng thời chiếm ưu thế về ba yếu tố: thông minh, tốc độ và giá cả. Điểm thông minh của các mô hình tiên tiến mới nhất tăng khoảng 4 điểm, nhưng giá tổng thể gần như tăng gấp đôi; trong khi các mô hình tầm trung đạt được tiến bộ về tốc độ, tốc độ xuất trung vị của 20 mô hình hàng đầu đã tăng từ 64 token/s lên 105 token/s trong sáu tuần.

Citigroup cũng cho biết khoảng cách năng lực giữa mô hình đóng và mô hình mở đang mở rộng, mức dẫn đầu về thông minh của mô hình độc quyền so với mô hình mở đã tăng từ khoảng 6 điểm lên khoảng 10 điểm. Điều này có nghĩa là các nhà sản xuất mô hình hàng đầu vẫn có xu hướng sử dụng khả năng mạnh hơn để giữ vững thị trường cao cấp, thay vì cạnh tranh trực tiếp về giá với các mô hình mở.

Ngoài sức mạnh tính toán, điện năng và vị trí trung tâm dữ liệu đang trở thành những ràng buộc mới cho sự mở rộng AI. Báo cáo đề cập rằng một neocloud tư nhân đã ký hợp đồng nhu cầu 4,9GW, nhưng đường ống quy hoạch vượt quá 40GW, làm nổi bật khoảng cách giữa nhu cầu bùng nổ và nguồn cung thực tế. Citigroup cho biết các trung tâm dữ liệu có xu hướng đặt tại các khu vực có giá điện khoảng 9-12 cent/kWh, đồng thời tỷ lệ năng lượng tái tạo và hợp đồng mua bán điện dài hạn cũng ảnh hưởng đến việc lựa chọn địa điểm.

Báo cáo cho rằng chi phí cơ sở hạ tầng AI trong tương lai sẽ tiếp tục tăng. Khi giá linh kiện, khả năng tiếp cận điện năng và đầu tư cơ sở hạ tầng ban đầu tăng lên, chi phí vốn tính theo sức mạnh tính toán tương đương H100 đang tăng lên, và chi phí điện năng cũng đang chuyển từ giai đoạn vận hành sang đầu tư vốn trước khi xây dựng.

Citigroup cho biết giá trị trong giai đoạn tiếp theo có thể chảy vào "lớp định tuyến suy luận", tức là nền tảng có thể xác định nên sử dụng mô hình, phương pháp định lượng và phần cứng nào cho các nhiệm vụ khác nhau. Lớp này vừa có thể giảm chi phí suy luận, vừa có thể cải thiện hiệu quả đầu ra, nhưng dữ liệu doanh nghiệp, sở hữu trí tuệ và bảo vệ quyền riêng tư sẽ là những điểm khó khăn trong triển khai thực tế.

Từ góc nhìn chuỗi ngành, báo cáo không chỉ hướng đến GPU, mà còn bao gồm trung tâm dữ liệu, điện năng, truyền thông quang, cơ sở hạ tầng đám mây và ứng dụng mô hình. Citigroup liệt kê các đối tượng phủ sóng liên quan như Ciena, Lumentum và MiniMax trong phụ lục, cho thấy chu kỳ suy luận AI đang lan tỏa từ chip sang cơ sở hạ tầng và lớp ứng dụng rộng hơn.