Số liệu đầu tiên đập vào mắt tôi: 2,8 nghìn tỷ tham số. Con số đó lớn đến mức nếu bạn chuyển đổi thành gas trên Ethereum, nó sẽ đốt cháy toàn bộ nguồn cung ETH hiện tại trong vài giây. Đó là Kimi K3, mô hình AI mới nhất từ Moonshot AI, vừa được công bố với tham số gấp ~7 lần Llama 3.1 405B của Meta. Nhưng là một kẻ săn tin crypto đã sống qua ICO 2017, DeFi Summer 2020 và NFT mania 2021, tôi biết rằng tham số không phải là tất cả. Có một câu chuyện kỹ thuật đang bị che giấu bên dưới con số PR đó.
Tại sao bây giờ? Bối cảnh thị trường crypto đang tăng, FOMO tràn ngập, và mọi người đang tìm kiếm 'câu chuyện mới'. AI+Blockchain là một trong những narrative nóng nhất. Việc Moonshot AI – một startup Trung Quốc với 2 tỷ USD vốn và định giá 20 tỷ USD – tung ra mô hình mã nguồn mở 2.8T tham số không chỉ là câu chuyện về AI, mà còn là tín hiệu cho toàn bộ hạ tầng tính toán phi tập trung. Bởi vì để train một mô hình như vậy, bạn cần khoảng 10.000 GPU H100 trong 4 tháng – tương đương chi phí ~500 triệu USD chỉ riêng điện năng và phần cứng. Điều đó có nghĩa là nếu bạn đang đầu tư vào Render, Akash, io.net hay bất kỳ dự án GPU phi tập trung nào, đây là lúc để kiểm tra thực tế.
Kỹ thuật thực sự đằng sau K3. Bài báo gốc trên Crypto Briefing hầu như không đề cập đến kiến trúc. Nhưng dựa trên kinh nghiệm auditing smart contract và phân tích dữ liệu on-chain của tôi, tôi có thể suy luận: 2.8T tham số dạng dense là bất khả thi về mặt kinh tế. Hãy nhìn vào Llama 3.1 405B dense – nó cần ~700 GB VRAM chỉ để load ở độ chính xác 16-bit. Với 2.8T, bạn sẽ cần ~5 TB VRAM. Không một consumer GPU nào làm được. Do đó, K3 gần như chắc chắn là MoE (Mixture of Experts). Giả sử tỷ lệ activated parameters là 15% (420B), thì chi phí inference mới khả thi. Điều này giống như các giao thức DeFi sử dụng multi-pool để tối ưu thanh khoản – về cơ bản là cùng một nguyên lý: nhiều chuyên gia nhỏ hợp lại, nhưng chỉ một số ít được kích hoạt cho mỗi token. Tuy nhiên, chất lượng của MoE phụ thuộc vào routing – và không ai biết Moonshot AI làm tốt đến đâu. Nếu routing kém, mô hình 2.8T có thể thua cả Qwen2.5 72B.
Tác động đến thế giới crypto. Đầu tiên, GPU. Để phục vụ inference cho hàng triệu người dùng, cần một lượng GPU lớn gấp 10 lần training. Điều này tạo cầu cho các mạng GPU phi tập trung như Render Network. Nhưng có một điểm mù: hầu hết các mạng GPU phi tập trung hiện tại (Render, io.net) chỉ hỗ trợ các model nhỏ như Llama 7B hay Stable Diffusion. Để chạy K3, bạn cần cluster ít nhất 8 × H100 với NVLink. Io.net có thể cung cấp? Không, vì họ chủ yếu tập trung vào GPU tiêu dùng (RTX 4090). Render có tiềm năng hơn với các node chuyên dụng, nhưng băng thông và độ trễ chưa đáp ứng. Thứ hai, token AI như FET, AGIX, OCEAN có thể hưởng lợi từ narrative 'agent AI phi tập trung', nhưng nếu K3 chạy tập trung trên cloud của Alibaba, sự cường điệu sẽ sụp đổ nhanh như một cú rug pull.
Góc nhìn trái chiều. Mọi người đang ca ngợi mã nguồn mở. Nhưng tôi từng thấy vô số dự án ICO 'mã nguồn mở' nhưng thực chất là honeypot. Mã nguồn mở không đồng nghĩa với phi tập trung. Moonshot AI vẫn kiểm soát toàn bộ quy trình training, alignment, và dataset. Nếu họ muốn, họ có thể chèn backdoor. Và với mô hình 2.8T, việc audit mã nguồn gần như bất khả thi với cộng đồng – giống như audit contract Uniswap v3 với hàng triệu dòng code. Cá nhân tôi, tôi sẽ không tin tưởng bất kỳ mô hình AI nào chưa qua kiểm toán độc lập bởi ít nhất 3 bên. Nhưng không có cơ quan nào đủ năng lực. Hơn nữa, việc Trung Quốc kiểm soát mô hình này có thể dẫn đến rủi ro địa chính trị: nếu K3 vượt qua GPT-4, Mỹ sẽ siết chặt hơn nữa xuất khẩu GPU sang Trung Quốc, ảnh hưởng đến tất cả các công ty crypto đang dựa vào GPU Trung Quốc rẻ. Một lần nữa, nhà đầu tư lại quên đọc 'contract' – lần này là địa chính trị.
Kết luận và bài học. K3 là một cột mốc về tham số, nhưng chưa phải là cột mốc về khả năng. Hãy chờ các benchmark độc lập từ Chatbot Arena hay Open LLM Leaderboard. Nếu K3 không đạt top 3 trong vòng 2 tuần, đó là tín hiệu xấu. Chiến lược của tôi: (1) Mua GPU? Không, vì giá H100 đã quá cao và nguồn cung hạn chế. (2) Mua token AI? Chỉ khi dự án đó có real use case với K3, ví dụ như Chainlink đang xây dựng oracle cho AI inference. (3) Tham gia testnet? Có, nhưng không stake. Như một người đã sống qua sự sụp đổ Luna, tôi biết rằng những gì hào nhoáng nhất thường là bẫy. Hãy giữ tỉnh táo, kiểm tra mã nguồn và theo dõi on-chain. Vì trong crypto, không có gì là miễn phí – ngay cả một mô hình mã nguồn mở 2.8T tham số.