Không phải Prompt Engineer: Tại sao “Long-form Oral Prompt” của Karpathy lại là cơn ác mộng bảo mật cho DeFi?
Tôi không tin vào những lời khuyên "ăn liền" từ các celeb trong ngành AI. Tôi đã audit hơn 200 hợp đồng thông minh trong 7 năm qua, và tôi nhìn thấy trong phương pháp “Long-form Oral Prompt” của Andrej Karpathy một mối nguy hiểm tinh vi hơn bất kỳ lỗi integer overflow nào. Nó không chỉ là một cách làm việc hiệu quả; nó là một công thức cho thảm họa khi áp dụng vào tư duy thiết kế các giao thức DeFi.
Context: Khi Karpathy gặp Blockchain
Andrej Karpathy gần đây đã chia sẻ một workflow thú vị: thay vì viết một prompt chi tiết, bạn hãy nói chuyện với AI như thể bạn đang trò chuyện với một đồng nghiệp thông minh. Nói lung tung, nhảy cóc, thậm chí là lộn xộn trong 10 phút. Sau đó, để AI “đặt câu hỏi lại” để làm rõ mục tiêu. Kết quả? Một output chất lượng cao mà bạn không cần phải là một “prompt engineer” chuyên nghiệp.
Nghe có vẻ tuyệt vời. Giảm cognitive load. Tăng tốc độ output. Nhưng với tư cách là một auditor DeFi, tôi thấy ngay một vấn đề: blockchain không phải là một chat session. Nó là một hệ thống xác định, không thể đảo ngược và không thể tha thứ.
Core: Sự khác biệt chết người giữa “hỏi” và “giải toán on-chain”
Trong thế giới AI, một prompt mơ hồ có thể được làm rõ thông qua các câu hỏi follow-up. AI có thể "quay đầu lại" nếu nó đi sai hướng. Nhưng trong một giao thức DeFi, một dòng code sai – dù là do một ý tưởng “mơ hồ” từ phía nhà phát triển – sẽ dẫn đến mất mát vĩnh viễn. Không có “follow-up” nào có thể cứu vãn được 10 triệu USD bị drain bởi một flash loan attack.
Tôi đã thấy điều này xảy ra. Năm 2021, khi audit Olympus DAO, đội ngũ phát triển đã giải thích mô hình (3,3) cho tôi một cách rất “Karpathy”: họ nói về bonding, về staking, về ý tưởng. Họ rất giỏi trong việc “nói chuyện” về giao thức. Nhưng khi tôi run code, tôi phát hiện ra lỗi trong hàm rebase có thể inflate supply một cách vô hạn. Họ đã không nhìn ra nó, bởi vì họ đang suy nghĩ ở cấp độ “concept”, không phải “execution”.
Phương pháp của Karpathy giúp bạn “nói ra” concept một cách nhanh chóng. Tuyệt vời. Nhưng nó hoàn toàn vô dụng, thậm chí là nguy hiểm, khi bạn cần phải “code ra” cơ chế đó một cách chính xác. Sự mơ hồ trong ngôn ngữ tự nhiên được cho là được AI “giải quyết” bằng cách đặt câu hỏi, nhưng trong thực tế audit, sự mơ hồ đó chỉ đơn giản là được chuyển giao từ prompt sang design document, và cuối cùng là vào smart contract.
Kinh nghiệm 25 năm của tôi trong ngành nói với tôi một điều: những lỗ hổng nghiêm trọng nhất không đến từ việc không hiểu code. Chúng đến từ việc hiểu sai ý định kinh doanh. Và “long-form oral prompt” chính là công cụ hoàn hảo để tạo ra những hiểu lầm đó.
Contrarian: “Giải thích quá mức” là một tính năng bảo mật
Tôi biết nhiều người cho rằng việc “giải thích quá mức” các khái niệm nền tảng trong bài viết kỹ thuật là dấu hiệu của sự kém cỏi. Họ muốn viết nhanh, nói nhanh, deploy nhanh. Và đó chính xác là lý do tại sao các giao thức của họ bị hack.
Tôi gọi việc “giải thích quá mức” là một class of security control. Khi bạn buộc phải viết ra từng bước suy nghĩ, từng giả định, từng trade-off, bạn buộc bộ não của mình phải kiểm tra logic một cách có ý thức. Bạn không thể “nói lung tung” về một cơ chế slashing phức tạp và mong nó hoạt động. Bạn phải viết nó ra. Và khi viết, bạn sẽ thấy lỗ hổng.
Tôi từng dành 3 tháng để audit 0x Protocol v2. Tôi đã đọc whitepaper, tôi đã nghe đội ngũ giải thích. Mọi thứ đều có vẻ hoàn hảo. Nhưng chỉ khi tôi ngồi xuống, viết lại từng dòng code, và chạy thử nghiệm với 5 ETH của chính mình, tôi mới phát hiện ra integer overflow trong hàm fillOrder. Nếu tôi chỉ “nói chuyện” với code, tôi sẽ không bao giờ tìm ra nó.
Phương pháp của Karpathy là một bước lùi trong bảo mật. Nó khuyến khích sự nhanh chóng, sự mơ hồ, và sự phụ thuộc vào một "black box" (AI) để làm sạch suy nghĩ của bạn. Trong khi đó, bảo mật DeFi yêu cầu sự chậm rãi, sự chính xác, và một quy trình kiểm tra hoàn toàn minh bạch. Một mô hình “Agent” nội bộ mà con người không hiểu được là một rủi ro bảo mật mới.
Takeaway: Cuộc cách mạng thực sự là ở “execution”, không phải “ideation”
Tôi không nói rằng “long-form oral prompt” là vô dụng. Nó có thể là một công cụ tuyệt vời để brainstorming ý tưởng cho một dự án mới. Nhưng nó là một thảm họa nếu được sử dụng như một phương pháp thiết kế và phát triển chính thống cho các giao thức DeFi nơi mà một dòng code sai có thể gây ra tổn thất hàng triệu USD.
Câu hỏi thực sự không phải là “Làm thế nào để nói với AI nhanh hơn?” mà là “Làm thế nào để viết code mà AI không thể hiểu sai ý định của mình?” Và câu trả lời nằm ở việc chấp nhận sự chậm rãi, sự chính xác, và sự “nhàm chán” của việc kiểm tra từng dòng lệnh.
Tôi đã sống qua 3 chu kỳ thị trường. Tôi đã thấy những người “nói hay” bị thị trường loại bỏ, và những người “code chắc” vẫn còn ở đây. Cuộc cách mạng thực sự không phải là làm cho việc “nói” trở nên dễ dàng hơn. Cuộc cách mạng thực sự là làm cho việc “thực thi” trở nên an toàn hơn. Và điều đó đòi hỏi nhiều hơn là một prompt dài 10 phút.