Thỏa thuận 240 triệu USD giữa IBM và Together AI: Tín hiệu cho hạ tầng suy luận AI trong thị trường crypto?

Bạn có từng tự hỏi, khi các quỹ đầu tư đổ hàng tỷ USD vào GPU cho training, thì suy luận (inference) AI – thứ thực sự đưa AI vào ứng dụng thực tế – đang được định giá như thế nào? Mới đây, IBM và Together AI ký kết một thỏa thuận trị giá 240 triệu USD để xây dựng cụm suy luận AI quy mô lớn. Tin này được Crypto Briefing đưa tin, nhưng chi tiết kỹ thuật còn khá mơ hồ. Là một người đã theo dõi cả blockchain và AI từ những ngày đầu, tôi thấy đây là một sự kiện đáng để phân tích sâu, đặc biệt khi nó có thể ảnh hưởng đến cách các dự án crypto (như Render Network, Akash, hay Bittensor) đang cạnh tranh trong mảng suy luận phi tập trung. Bối cảnh: IBM là gã khổng lồ công nghệ 112 năm tuổi, đang cố gắng lấy lại vị thế trong làn sóng AI thông qua nền tảng watsonx. Together AI là một startup AI cloud hạng trung, tập trung vào tối ưu hóa suy luận cho các mô hình mã nguồn mở (như Llama, Mistral). Họ nhận được 102,5 triệu USD vốn Series A từ Kleiner Perkins và NVIDIA vào năm 2023, định giá khoảng 500-600 triệu USD. Thỏa thuận 240 triệu USD – tương đương gần 40% định giá của Together AI – là một cú hích thương mại khổng lồ. Nhưng điều thú vị là: thỏa thuận này không chỉ đơn thuần là mua bán GPU. Nó phản ánh một chiến lược sâu hơn: IBM đang đặt cược vào suy luận mã nguồn mở như một con đường để cạnh tranh với AWS/Azure trong thị trường doanh nghiệp. Hãy đi vào chi tiết kỹ thuật. Cụm suy luận quy mô này dự kiến sẽ triển khai từ 5.000 đến 10.000 GPU NVIDIA H100/H200. Tôi ước tính dựa trên chi phí trung bình mỗi GPU H100 trong một rack hoàn chỉnh (kèm server, switch, lưu trữ) khoảng 25.000-30.000 USD. Nếu 240 triệu USD là tổng chi phí phần cứng + dịch vụ trong 3-5 năm, thì số GPU thực tế có thể dao động từ 6.000 đến 8.000 card. Đây là một cụm suy luận chứ không phải training – nghĩa là kiến trúc sẽ tối ưu cho độ trễ thấp, throughput cao, hỗ trợ multi-tenant. Together AI sử dụng các framework mã nguồn mở như vLLM, SGLang, và PagedAttention để tăng hiệu suất. Điều này có nghĩa là chi phí suy luận trên mỗi token có thể giảm đáng kể so với các đám mây truyền thống. Với IBM, họ có thể gói dịch vụ này thành một phần của watsonx, cung cấp cho các khách hàng doanh nghiệp trong lĩnh vực tài chính, y tế, chính phủ – những nơi yêu cầu bảo mật dữ liệu và tuân thủ cao. Nhưng tôi muốn đưa ra một góc nhìn phản trực giác. Nhiều người sẽ nghĩ thỏa thuận này là tín hiệu tích cực cho AI tập trung, nhưng thực ra nó lại mở ra cơ hội cho các mạng suy luận phi tập trung. Vì sao? Bởi vì nó chứng minh rằng suy luận AI là một thị trường có giá trị và đang tăng trưởng. Khi các doanh nghiệp lớn như IBM chi 240 triệu USD cho một cụm suy luận, điều đó cho thấy nhu cầu thực sự tồn tại. Các dự án crypto như Render Network (RNDR) hay Akash Network (AKT) đang xây dựng thị trường GPU phi tập trung, nhưng họ thiếu uy tín doanh nghiệp. Thỏa thuận này có thể là động lực để họ cải thiện SLA, bảo mật và tích hợp với các nhà cung cấp dịch vụ truyền thống. Hãy nhìn vào Bittensor (TAO) – nó tạo ra một mạng lưới suy luận phi tập trửa dựa trên incentive. Nếu IBM và Together AI thành công, họ sẽ đặt ra một tiêu chuẩn về chi phí và hiệu suất mà các mạng phi tập trung phải đạt được. Ngược lại, nếu các mạng phi tập trung có thể chứng minh chi phí thấp hơn 30-50% so với cụm tập trung, họ sẽ thu hút được các khách hàng doanh nghiệp nhạy cảm về chi phí. Còn một điểm mù mà ít ai để ý: thỏa thuận này có thể che giấu rủi ro về chuỗi cung ứng GPU. NVIDIA là nhà đầu tư của Together AI, và họ cũng là nhà cung cấp GPU chính. Nếu nguồn cung H100 bị thắt chặt, Together AI có thể ưu tiên cho đơn hàng của IBM hơn các khách hàng khác. Điều này sẽ ảnh hưởng đến các dự án crypto đang chờ GPU để chạy suy luận. Ngoài ra, chi phí vận hành một cụm 10.000 GPU là rất lớn – khoảng 70 MW điện năng – tương đương một trung tâm dữ liệu cỡ vừa. IBM có mục tiêu trung hòa carbon vào 2030, vì vậy họ sẽ phải đầu tư vào năng lượng tái tạo, làm tăng chi phí. Trong khi đó, các mạng lưới phi tập trung có thể tận dụng nguồn điện dư thừa từ các máy đào crypto hoặc trung tâm dữ liệu nhỏ lẻ, giảm chi phí. Lấy đi từ tất cả những điều này: Thỏa thuận IBM–Together AI là một bước tiến lớn cho hạ tầng suy luận tập trung, nhưng nó cũng là một lời nhắc nhở rằng thị trường này vẫn còn non trẻ. Các dự án crypto nên coi đây là một cơ hội để học hỏi và cải thiện. Liệu họ có thể tận dụng sự phi tập trung để giảm chi phí và tăng khả năng chống kiểm duyệt? Hay họ sẽ bị bỏ lại phía sau khi các gã khổng lồ công nghệ thống trị? Câu trả lời nằm ở khả năng kết hợp giữa công nghệ mã nguồn mở, cơ chế khuyến khích token và sự tin tưởng từ doanh nghiệp. Hãy nhớ: DeFi đến, đừng sợ, hãy học. AI cũng vậy.