Hợp đồng đó đã được ký, số tiền 15 triệu USD đổ vào một startup chỉ vỏn vẹn 26 người, nhưng tham vọng của họ lớn hơn bất kỳ công ty AI nào trong năm nay: viết lại toàn bộ stack phần mềm cho AI inference, không bằng kỹ sư người mà bằng một AI agent.
Infinity, có trụ sở tại San Francisco, vừa công bố vòng gọi vốn seed do Touring Capital dẫn đầu, với sự tham gia của các nhà nghiên cứu từ OpenAI và Anthropic với tư cách cá nhân. Con số 15 triệu USD không quá lớn so với các mega round trong ngành AI, nhưng điều khiến giới phân tích phải chú ý là cách họ định nghĩa lại cuộc chơi: một AI agent có tên Ignition tự động sinh ra các kernel code cấp thấp cho AI inference, kiểm thử, sửa lỗi và tối ưu hiệu năng một cách liên tục. Nếu thành công, đây sẽ là đòn giáng trực tiếp vào bức tường pháo đài CUDA của NVIDIA.
Bối cảnh ra đời không phải ngẫu nhiên
Thị trường AI hardware đang chứng kiến một nghịch lý: hàng chục startup thiết kế chip AI mọc lên (d-Matrix, Groq, Cerebras, SambaNova), mỗi công ty đều hứa hẹn hiệu năng vượt trội so với NVIDIA trên lý thuyết. Nhưng thực tế, việc xây dựng một software stack tương thích, đủ mạnh để chạy các mô hình Transformer, MoE hay SSM một cách mượt mà đòi hỏi hàng trăm kỹ sư CUDA/OpenCL nhiều năm kinh nghiệm. Đây là lý do vì sao các AI chip startup thường mất 2-3 năm sau khi có hardware mới có thể công bố benchmark cạnh tranh với NVIDIA.
Infinity ra đời để giải quyết nút thắt đó. Thay vì thuê kỹ sư viết kernel thủ công, họ dạy một AI agent – Ignition – tự học cách viết kernel. Cụ thể, Ignition nhận đầu vào là mô tả toán học của một phép tính (ví dụ: attention mechanism) và kiến trúc phần cứng đích (GPU, SRAM, mobile chip, systolic array), sau đó bắt đầu vòng lặp: sinh code, chạy thử, đo hiệu năng, sửa lỗi, tối ưu. Kết quả là các kernel được tinh chỉnh tới mức tối ưu cho từng loại chip, từng batch size, thậm chí từng mô hình cụ thể.
Về mặt kỹ thuật, đây là một hệ thống compiler học sâu (learned compiler) kết hợp với reinforcement learning hoặc evolutionary search – một hướng đi đã được nghiên cứu từ lâu trong cộng đồng AutoML (ví dụ: AutoTVM, Ansor), nhưng chưa ai dám thương mại hóa một cách triệt để như Infinity. Người sáng lập Jeremy Nixon, cựu nghiên cứu viên Google Brain, người từng tham gia vào các dự án NAS (Neural Architecture Search), có background phù hợp để dẫn dắt hướng đi này.
Mô hình kinh doanh: trả tiền theo hiệu suất
Không giống như hầu hết startup phần mềm khác bán license hoặc SaaS theo đầu người, Infinity áp dụng mô hình performance-based pricing: khách hàng không trả phí trả trước, chỉ trả một phần trăm chi phí tiết kiệm được nhờ hiệu năng cải thiện (so với chạy trên CUDA nguyên bản hoặc kernel thủ công). Đây là một canh bạc lớn: nếu Ignition không tạo ra hiệu năng vượt trội, Infinity không có doanh thu.
Khách hàng đầu tiên được công bố là d-Matrix, một startup AI chip chuyên về inference. Chưa có thông tin chi tiết về hiệu năng cụ thể, nhưng việc một khách hàng có sản phẩm thật (d-Matrix đã có chip mẫu) chấp nhận hợp tác là tín hiệu tích cực. Ngoài ra, Infinity đang đàm phán với nhiều nhà sản xuất chip lớn khác, gợi ý rằng giải pháp của họ có thể tích hợp vào chuỗi cung ứng của các tập đoàn.
Góc khuất: rủi ro kỹ thuật và cạnh tranh khốc liệt
Tôi đã từng audit hàng trăm hợp đồng thông minh và chứng kiến nhiều dự án “cách mạng” thất bại vì quá lạc quan về năng lực AI. Trong trường hợp của Infinity, vẫn còn quá nhiều câu hỏi chưa có lời giải:
- Ignition có thể sinh kernel cho bao nhiêu phần trăm các operator phổ biến? Viết kernel cho một phép nhân ma trận đơn giản là một chuyện; viết cho FlashAttention, Grouped Query Attention, hay các biến thể MoE là thử thách hoàn toàn khác. Chưa có benchmark công khai nào so sánh kernel do Ignition tạo ra với kernel thủ công từ NVIDIA cuDNN hay Triton.
- Chi phí huấn luyện Ignition là bao nhiêu? Để đạt được hiệu năng tối ưu cho mỗi chip mới, Ignition cần một lượng lớn compute để chạy vòng lặp thử-sai. Nếu chi phí huấn luyện vượt quá lợi ích tiết kiệm được, mô hình performance-based pricing sẽ sụp đổ.
- Bảo mật và độ tin cậy: Kernel tự động sinh có thể tiềm ẩn lỗi memory leak, integer overflow, hoặc race condition – những lỗi cực kỳ nguy hiểm ở tầng hệ thống. Một lỗi nhỏ trong kernel có thể dẫn đến sai lệch kết quả suy luận hoặc crash toàn bộ service.
Về cạnh tranh, Infinity không chỉ đối đầu với NVIDIA (với ngân sách R&D hàng tỷ USD mỗi năm cho CUDA ecosystem), mà còn với các dự án mã nguồn mở mạnh mẽ như MLIR/LLVM, Apache TVM, Triton (do OpenAI phát triển). Điểm khác biệt duy nhất của Infinity là AI agent chủ động học cách tối ưu, thay vì dựa vào quy tắc thủ công. Nhưng lợi thế này chỉ tồn tại nếu Ignition thực sự vượt trội hơn các giải pháp hiện có – điều chưa được chứng minh.
Takeaway: đừng vội mua hype, hãy theo dõi MLPerf
Infinity có một câu chuyện đẹp, đội ngũ mạnh (Google Brain alumni), và một mô hình kinh doanh thông minh. Nhưng khoảng cách giữa “demo đẹp” và “sản phẩm thực tế đủ mạnh để thay thế CUDA” là rất lớn. Với 15 triệu USD, họ có thể sống được 18-24 tháng. Trong thời gian đó, cột mốc quan trọng nhất là kết quả MLPerf Inference benchmark – nếu Infinity submit và đạt hiệu năng tương đương hoặc vượt NVIDIA trên cùng một chip (ví dụ: so sánh kernel do Ignition sinh ra với kernel cuDNN trên NVIDIA H100), đó sẽ là lần đầu tiên chúng ta thấy bằng chứng thực sự. Nếu không, đây chỉ là một trong số hàng trăm startup AI infrastructure sẽ chết trong mùa đông funding sắp tới.
Hợp đồng đó đã ký, nhưng kết quả còn ở phía trước.