Trung tâm quyền lực AI: Tại sao lời kêu gọi của Demis Hassabis lại nguy hiểm hơn bạn nghĩ (và bài học từ blockchain)

Một CEO AI gốc Anh kêu gọi Mỹ thành lập cơ quan giám sát có quyền tạm dừng mọi hoạt động phát triển AI. Điều khoản này, nếu nhìn qua lăng kính của một kỹ sư bảo mật blockchain, giống hệt một admin key trong smart contract: một quyền duy nhất có thể hủy diệt toàn bộ hệ thống. Và chúng ta đã thấy điều gì xảy ra khi admin key bị lộ hoặc bị lạm dụng. Khi tôi kiểm toán các giao thức DeFi, điều đầu tiên tôi tra là cơ chế kiểm soát. Ai có quyền rút tiền? Ai có quyền nâng cấp? Nếu chỉ có một chữ ký duy nhất, tôi báo đỏ ngay. Bởi vì lịch sử đã dạy chúng ta: quyền lực tập trung sinh ra tham nhũng, ngay cả khi người nắm quyền có ý định tốt. Lời kêu gọi của Demis Hassabis – người sáng lập DeepMind – về một cơ quan giám sát AI do Mỹ đứng đầu, với 'quyền tạm dừng phát triển', là một phiên bản công nghệ của chính xác cùng một vấn đề: single point of failure. Bối cảnh: Hassabis không nói đùa. Ông ta đề xuất một cơ quan liên bang có thẩm quyền dừng bất kỳ dự án AI nào mà họ cho là không an toàn. Đây không phải là một khuyến nghị mềm; đó là một công tắc kill switch. Theo phân tích chiều sâu, động cơ có thể là 'phòng ngừa rủi ro hiện sinh', nhưng hậu quả kỹ thuật và địa chính trị thì rõ ràng. Giống như trong một DAO, nếu chỉ có một người có quyền veto, thì DAO đó không thực sự phi tập trung. Core insight của tôi đến từ kinh nghiệm audit DeFi: bất kỳ hệ thống nào có một điểm kiểm soát duy nhất đều có thể bị tấn công, không phải bởi hacker bên ngoài, mà bởi người vận hành. Với AI, 'tấn công' có thể là chính trị hóa quyết định tạm dừng. Ai đảm bảo cơ quan đó không bị chi phối bởi lợi ích của Google (công ty mẹ của DeepMind)? Ai đảm bảo họ không dùng quyền lực để làm chậm đối thủ? Trong thế giới hợp đồng thông minh, chúng ta gọi đó là 'rug pull'. Trong AI, đó là một cuộc đình công do nhà nước bảo trợ. Hãy xem xét trade-offs. Một mặt, ta cần an toàn. Mặt khác, quyền tạm dừng sẽ giết chết đổi mới từ các startup, những người không có đủ nguồn lực để chơi trò chính trị. Kết quả: Big Tech càng lớn mạnh, cạnh tranh giảm. Điều này trái ngược hoàn toàn với tinh thần blockchain: phân quyền, không cần tin tưởng, minh bạch. Contrarian angle: Điểm mù bảo mật ở đây không phải là AI có thể bị lạm dụng, mà là chính cơ quan giám sát đó có thể bị lạm dụng. Lịch sử cho thấy các cơ quan kiểm soát kỹ thuật thường bị bắt cóc bởi các lợi ích đã được thiết lập. Hãy nhìn vào Ủy ban Truyền thông Liên bang (FCC) hay Cục Quản lý Thực phẩm và Dược phẩm (FDA): họ thường làm chậm đổi mới hơn là bảo vệ công chúng. Một watchdog AI với quyền tạm dừng sẽ còn tồi tệ hơn, bởi vì tốc độ phát triển AI là cực kỳ nhanh. Một quyết định sai lầm có thể khiến Mỹ tụt hậu so với Trung Quốc trong vài tháng. Takeaway: Sau khi audit hàng trăm hợp đồng, tôi tin rằng không có 'người tốt' nào xứng đáng nắm giữ admin key một mình. Cũng vậy, không có quốc gia nào – dù là Mỹ – nên có quyền đơn phương tạm dừng phát triển AI toàn cầu. Nếu phải có giám sát, hãy thiết kế nó như một DAO: đa chữ ký, thời gian chờ, và cơ chế thoát hiểm. Nếu không, chúng ta đang xây dựng một hệ thống mà lỗ hổng lớn nhất không nằm trong code, mà nằm trong con người nắm quyền.