Phỏng vấn mới nhất của SemiAnalysis: Lưu trữ còn không gian tăng gấp đôi, thận trọng với CPO trong ngắn và trung hạn, CPU chỉ là vai phụ

Nguồn: Wall Street Journal

Mỗi tầng của cơ sở hạ tầng AI đang đồng thời chịu áp lực, trong khi cơ hội và sự sai lầm tồn tại song song.

Người sáng lập SemiAnalysis, Dylan Patel, gần đây đã tham gia phỏng vấn trên podcast, hệ thống hóa các động thái cốt lõi và logic đầu tư của chuỗi cơ sở hạ tầng AI hiện tại.

Những đánh giá của ông bao gồm kinh tế mô hình, chu kỳ siêu lưu trữ, định giá lại CPU, rủi ro thời gian của CPO, cũng như cơ hội cấu trúc trong cung cấp năng lượng cho trung tâm dữ liệu.

Đối với những nghi ngờ phổ biến của thị trường về tỷ suất lợi nhuận đầu tư (ROI) của AI, Dylan tiết lộ rằng Anthropic đã đạt được dòng tiền tự do dương trong quý II năm nay, doanh thu định kỳ hàng năm vượt 50 tỷ USD, và tỷ lệ lợi nhuận gộp vượt quá 70%. Ở phía doanh nghiệp, sự gia tăng năng suất do mô hình AI mới mang lại vượt xa chi phí tính toán, buộc các doanh nghiệp phải cắt giảm chi phí phần mềm khác để duy trì ngân sách AI tăng trưởng bùng nổ.

Về mặt tiến hóa phần cứng, sự chuyển đổi sang mô hình suy luận đang tái cấu trúc nhu cầu thị trường.

Dylan nhấn mạnh rằng lưu trữ đang đối mặt với tình trạng thiếu hụt cấu trúc kéo dài nhiều năm, vẫn còn không gian tăng từ 2 đến 3 lần; trong khi đó, mặc dù các tác nhân và học tăng cường đã đẩy nhu cầu CPU lên cao, nhưng thị trường bán hàng đã định giá quá cao, tăng trưởng CPU chủ yếu đến từ việc "bù đắp" lịch sử, giá trị tuyệt đối của nó trong máy chủ AI vẫn còn xa so với GPU.

Dylan cho rằng thời gian triển khai quy mô lớn của công nghệ quang học đồng đóng gói (CPO) mà thị trường kỳ vọng sẽ bị hoãn lại rõ rệt đến cuối năm 2028 đến 2029, kéo dài thời gian lợi nhuận của các kết nối cáp đồng. Hạn chế trong lưới điện đang buộc các trung tâm dữ liệu phải chuyển sang "nguồn điện sau đồng hồ" (tự xây dựng nguồn điện), tạo ra cơ hội đầu tư lớn trong chuỗi cung ứng năng lượng công nghiệp và chuyển đổi điện năng bên ngoài đầu tư chip truyền thống.

Anthropic dẫn đầu trong việc tạo ra dòng tiền, câu chuyện nhu cầu AI bắt đầu hiện thực hóa

Đối với những nghi ngờ về ROI của các công ty AI trên thị trường, Dylan Patel đã đưa ra dữ liệu cụ thể để phản hồi.

"Anthropic đã đạt được dòng tiền tự do dương trong quý II, có lợi nhuận vào tháng 4, tháng 5, và tháng 6 có vẻ cũng sẽ như vậy." Ông cho biết, doanh thu định kỳ hàng năm của Anthropic đã vượt quá 50 tỷ USD, tỷ lệ lợi nhuận gộp vượt quá 70%. Doanh thu của OpenAI cũng tăng nhanh với tỷ lệ áp dụng Codex.

Chi tiêu của SemiAnalysis cũng xác nhận xu hướng này. Vào tháng 11 năm ngoái, đội ngũ 90 người của công ty có chi tiêu AI hàng năm chưa đến 100.000 USD; đến cuối tháng 1 năm nay, do sự mở rộng quy mô của Claude Code, con số này đã tăng vọt lên 4 triệu USD hàng năm; hiện tại đã đạt 11 triệu USD, với đỉnh điểm một thời gian đạt 14 triệu USD hàng năm. "Chi phí nhân công cộng với chi phí AI, phần AI đã vượt quá một phần ba, và có khả năng đạt một nửa trước cuối năm."

Ông cũng chỉ ra rằng các mô hình mới hơn, mạnh mẽ hơn không nhất thiết phải đắt hơn trong thực tế. Mô hình cũ có thể cần 100.000 token, 10 lần tương tác để hoàn thành một nhiệm vụ, trong khi mô hình mới có thể chỉ cần 25.000 token, 1 lần tương tác. "Mỗi lần mô hình từ 4.6 Opus nâng cấp lên 4.7 Opus, chi tiêu của chúng tôi sẽ giảm trong một tuần, rồi lại tăng vọt------ vì mọi người thấy những việc trước đây không thể làm giờ đã có thể làm được."

Ông cho rằng đây cũng là một trong những lý do chính giúp Anthropic có lợi thế trong cuộc cạnh tranh với OpenAI: hiệu quả token cao hơn, chi phí tổng hợp cho người dùng thấp hơn.

Bộ nhớ: Thiếu hụt cấu trúc, không phải chu kỳ thông thường

Trong tất cả các loại phần cứng, Dylan Patel có đánh giá kiên định nhất về bộ nhớ.

"Đây không phải là thiếu hụt ngắn hạn, mà sẽ là thiếu hụt cấu trúc kéo dài nhiều năm." Ông chỉ ra rằng công suất bộ nhớ chỉ tăng từ 20% đến 30% mỗi năm, trong khi nhu cầu từ phía AI đang tăng gấp đôi gấp đôi, khoảng cách giữa hai bên sẽ tiếp tục mở rộng.

Lý do cốt lõi thúc đẩy đánh giá này đến từ tác động của mô hình suy luận đối với bộ nhớ KV. Độ dài ngữ cảnh của suy luận đối thoại truyền thống tính bằng hàng nghìn token, bộ nhớ KV tiêu tốn hạn chế; nhưng sau khi mô hình suy luận đại diện cho o1 xuất hiện, độ dài ngữ cảnh tăng vọt, bộ nhớ KV cũng tăng mạnh, bộ nhớ trở thành loại hàng hóa được hưởng lợi trực tiếp nhất. SemiAnalysis đã phát hành báo cáo vào tháng 12 năm 2024, chỉ ra xu hướng này.

Ràng buộc cứng từ phía cung sẽ buộc thị trường hạ nguồn phải phân bổ lại nguồn tài nguyên bộ nhớ hạn chế. Ông dự đoán rằng các sản phẩm điện tử tiêu dùng có độ đàn hồi giá thấp sẽ chịu áp lực trước tiên------ doanh số của các nhà sản xuất điện thoại tầm trung và thấp đã giảm 40%, giá iPhone và MacBook sẽ tăng vào năm tới. "Bộ nhớ sẽ tiếp tục tăng giá, điện tử tiêu dùng sẽ bị nén xuống một mức mới, cho đến khi AI có đủ bộ nhớ mà nó cần, mới thực sự đủ dùng."

Ông bổ sung rằng ngay cả khi chu kỳ suy thoái đến, "từ đáy đến đáy, tăng trưởng dài hạn là điều không thể nghi ngờ."

CPU: Thị trường bù đắp hạn chế, đừng kéo dài quá mức

CPU là nhân vật mới nổi trong câu chuyện cơ sở hạ tầng AI năm nay, nhưng Dylan Patel có lập trường cảnh báo rõ ràng về điều này.

Logic phục hồi nhu cầu CPU rất rõ ràng: học tăng cường cần nhiều CPU để chạy xác minh môi trường (kiểm tra đơn vị mã, mô phỏng hoạt động, v.v.); suy luận tác nhân yêu cầu mô hình thường xuyên gọi công cụ, tương tác với thế giới thực, những hoạt động này phụ thuộc cao vào sức mạnh tính toán của CPU.

Trong khi đó, trong vài năm qua, việc xuất xưởng chip AI quy mô lớn đã diễn ra, nhưng CPU hỗ trợ lại thiếu hụt nghiêm trọng, hiện đang trong giai đoạn bù đắp tập trung, ARM, Intel, AMD đều đã hưởng lợi, CPU Vera của NVIDIA cũng đã đưa ra dự báo doanh thu 20 tỷ USD.

"Nhưng tôi muốn đưa ra một cảnh báo quan trọng: có rất nhiều hiệu ứng bù đắp trong đó." Ông cho biết, một khi các khoản nợ lịch sử được bù đắp, nhu cầu sau đó chỉ còn lại nhu cầu gia tăng, nhu cầu sẽ trở về bình thường. Từ góc độ số tiền tuyệt đối, Blackwell có giá khoảng 50.000 USD, CPU khoảng 5.000 USD, ngay cả khi tỷ lệ CPU tăng thêm nhiều hơn, số tiền USD cũng vẫn thấp hơn nhiều so với chip tăng tốc AI.

"Bộ nhớ và chip tăng tốc AI mới là phần lớn, CPU là được định giá lại sau khi bị đánh giá thấp, hiện đã được định giá hợp lý hơn, nhưng sẽ không tăng trưởng với tốc độ vượt quá chip AI vô thời hạn."

Kết nối quang học: Lạc quan về dài hạn, thận trọng với CPO trong ngắn và trung hạn

Mạng và kết nối quang học là một lĩnh vực khác mà tâm lý thị trường đang tăng cao, nhưng Dylan Patel có lập trường thận trọng về nhịp độ triển khai của CPO (quang học đồng đóng gói).

"CPO thực sự sẽ được sản xuất quy mô lớn, theo đánh giá của tôi là vào cuối năm 2028 đến 2029." Ông chỉ ra rằng hiện tại, tỷ lệ sản xuất, thiết kế chip và độ trưởng thành của chuỗi cung ứng chưa đạt tiêu chuẩn triển khai quy mô lớn, trong khi Rubin của NVIDIA và kiến trúc tiếp theo Feynman vẫn sẽ sử dụng giải pháp toàn đồng, CPO ở phía GPU vẫn cần chờ đợi vài thế hệ chip nữa.

Ông tiết lộ rằng SemiAnalysis vừa phát hành báo cáo cho khách hàng đăng ký tổ chức, trong trung hạn lại nhìn nhận tích cực hơn về cáp đồng và các giải pháp quang học không phải CPO, giữ thái độ thận trọng với CPO. Một số thay đổi thiết kế của chip hạ nguồn (như Kyber của Rubin Ultra đã bỏ thiết kế 800V) đã làm trì hoãn thời gian triển khai CPO. Các công ty như Amphenol chuyên về kết nối cáp đồng sẽ do đó thu lợi nhiều hơn so với dự kiến.

"CPO sẽ xảy ra trong dài hạn, cáp đồng sẽ bị thay thế trong dài hạn, nhưng thời gian đã bị hoãn lại, trong ngắn và trung hạn, cáp đồng vẫn có nhiều cơ hội."

Năng lượng: Nguồn điện tự xây dựng sẽ trở thành xu hướng chính, nhiều con đường đổi mới

Cung cấp năng lượng cho các trung tâm dữ liệu đang trở thành rào cản vật lý cứng nhất cho sự tăng trưởng của AI.

Theo dự đoán của Dylan Patel, lượng điện tiêu thụ của các trung tâm dữ liệu mới sẽ là 20 GW trong năm nay, 30 GW vào năm sau, 50 GW vào năm sau nữa, tăng trưởng gần như bùng nổ.

Ông phân tích vấn đề năng lượng thành ba chiều: truyền tải, phát điện và chuyển đổi. Truyền tải là khâu khó vượt qua nhất, liên quan đến chính sách quản lý, cấu trúc độc quyền của các công ty điện lực địa phương và cơ chế phân chia chi phí, khó có thể thay đổi trong ngắn hạn. Phát điện và chuyển đổi thì có nhiều cơ hội rộng rãi.

Ông dự đoán rằng trong vài năm tới, một nửa lượng điện tiêu thụ của các trung tâm dữ liệu mới sẽ đến từ "nguồn điện sau đồng hồ" (behind the meter), tức là nguồn điện tự xây dựng của doanh nghiệp, thay vì phụ thuộc vào lưới điện công cộng.

Hiện tại, giải pháp chủ yếu là tổ hợp tuabin khí chu trình kết hợp (CCGT), đến từ các nhà sản xuất như GE Vernova, Mitsubishi, Siemens; đồng thời cũng xuất hiện các giải pháp không truyền thống như động cơ piston, tuabin khí công nghiệp và thậm chí là cải tạo động cơ từ tàu, xe lửa, xe tải. "Nghe có vẻ thô sơ, nhưng nó có thể chạy, và đã được người ta sử dụng."

Trong dài hạn hơn, ông dự đoán rằng trong khoảng hai năm tới, chi phí tổng hợp của năng lượng mặt trời và lưu trữ sẽ thấp hơn so với phát điện bằng khí; xa hơn nữa là trung tâm dữ liệu không gian------ triển khai chip tính toán vào quỹ đạo, tấm pin năng lượng mặt trời không cần xuyên qua tầng khí quyển, mật độ năng lượng cao hơn nhiều so với mặt đất, và không cần lưu trữ.

Mặt chuyển đổi cũng đầy cơ hội đầu tư, từ IGBT, silicon carbide đến MOSFET nitride gallium, cũng như máy biến áp rắn, UPS và siêu tụ điện, toàn bộ chuỗi chuyển đổi điện áp đang nhanh chóng tiến hóa.

Hiện tại, bộ phận nghiên cứu lớn nhất của SemiAnalysis không còn là bán dẫn, mà là nhóm được gọi là "DEI" (trung tâm dữ liệu, năng lượng và công nghiệp) của họ, theo dõi động thái triển khai của từng trung tâm dữ liệu và nhà máy điện trên toàn cầu.

Tuyên bố miễn trừ trách nhiệm: Nội dung này chỉ được cung cấp nhằm mục đích xây dựng thương hiệu và cung cấp thông tin chung, không phải là lời khuyên về tài chính, đầu tư, pháp lý hoặc thuế. Mọi sự kiện, phần thưởng, sự kiện trực tuyến hoặc thông tin liên quan được đề cập trong nội dung này không được xem là khuyến nghị, chào mời hoặc lời mời mua, bán, giao dịch hoặc thực hiện bất kỳ hoạt động nào khác liên quan đến tài sản crypto hay sử dụng bất kỳ dịch vụ nào. Tài sản crypto có mức biến động cao và có thể dẫn đến thua lỗ. Dịch vụ và các sự kiện trực tuyến của WEEX có thể không khả dụng tại tất cả khu vực và phải tuân theo các luật, quy định và điều kiện đủ điều kiện hiện hành. Bạn có trách nhiệm bảo đảm việc sử dụng các dịch vụ của WEEX tuân thủ luật pháp địa phương và tự đánh giá cẩn thận các rủi ro trước khi tham gia bất kỳ hoạt động nào liên quan đến crypto.