Demis Hassabis kêu gọi thành lập cơ quan giám sát AI toàn cầu do Mỹ dẫn dắt để quản lý rủi ro

CEO của Google DeepMind, Demis Hassabis, đang ủng hộ việc thành lập một cơ quan quản lý quốc tế quyền lực, có khả năng ngăn chặn việc triển khai các mô hình AI tiên phong (frontier AI) nguy hiểm. Khi cuộc đua hướng tới Trí tuệ nhân tạo tổng quát (AGI) đang tăng tốc, Hassabis lập luận rằng một khuôn khổ toàn cầu chuẩn hóa là điều thiết yếu để ngăn chặn các hậu quả thảm khốc.

Mô hình quản lý dựa trên sự giám sát tài chính

Trong đề xuất gần đây mang tên "A Framework for Frontier AI and the Dawning of a New Age," Hassabis gợi ý một cấu trúc quản lý tương tự như Cơ quan Quản lý Ngành Tài chính (FINRA). Cơ quan giám sát được đề xuất này sẽ không chỉ đơn thuần là một hội đồng cố vấn; nó sẽ bao gồm các chuyên gia độc lập và đại diện từ cộng đồng mã nguồn mở với thẩm quyền rõ ràng trong việc đánh giá các mô hình tiên phong trước khi chúng được phát hành.

Quan trọng hơn, tổ chức này sẽ sở hữu quyền năng điều phối một sự "chậm lại" trên toàn ngành nếu một mô hình cụ thể bị coi là quá rủi ro để triển khai. Cơ chế này nhằm ngăn chặn một cuộc "race to the bottom" (cuộc đua xuống đáy), nơi các công ty hy sinh các giao thức an toàn để cố gắng đạt được AGI nhanh hơn các đối thủ cạnh tranh.

Tại sao Hoa Kỳ nên dẫn đầu nỗ lực này

Hassabis lập luận rằng Hoa Kỳ có vị thế độc tôn để dẫn dắt sáng kiến toàn cầu này. Với vị thế thống trị về kinh tế và kỹ thuật trong lĩnh vực AI, Mỹ có đòn bẩy cần thiết để thiết lập các tiêu chuẩn mà phần còn lại của thế giới có thể tuân theo.

Sự cấp bách của đề xuất này xuất phát từ niềm tin của Hassabis rằng AGI "có lẽ chỉ còn cách vài năm ngắn ngủi nữa." Ông coi kỷ nguyên hiện tại là "foothills of the singularity" (chân núi của điểm kỳ dị), một giai đoạn chuyển đổi sẽ định nghĩa lại hoàn toàn nhân loại. Để quản lý quá trình chuyển đổi này, ông đang nỗ lực thu hẹp khoảng cách giữa đổi mới sáng tạo tư nhân và an toàn công cộng.

Xây dựng sự đồng thuận về chính trị và trong ngành

Các bước tiến tới việc quản lý chính thức đã và đang tạo được đà phát triển ở hậu trường. Các báo cáo cho thấy Hassabis đã dành nhiều tháng để báo cáo cho các bên liên quan khác nhau, bao gồm các quan chức châu Âu, các phòng thí nghiệm AI lớn và chính quyền Trump. Theo Axios, những phản hồi sớm từ chính quyền Mỹ sắp tới là "rất tích cực," cho thấy một sự chuyển dịch tiềm năng hướng tới sự giám sát liên bang có cấu trúc hơn.

Nỗ lực thúc đẩy quản trị này phù hợp với những cảnh báo gần đây từ các tên tuổi lớn khác trong ngành, bao gồm đồng sáng lập Anthropic Jack Clark và cựu CEO Google Eric Schmidt, về các tác động kinh tế và sự tồn vong của AI. Hassabis, người đoạt giải Nobel năm 2024, cũng đã lên tiếng về các rủi ro cụ thể có rủi ro cao, chẳng hạn như khả năng AI hỗ trợ sản xuất vũ khí sinh học.

Những tác động rộng lớn hơn đối với hệ sinh thái AI

Nếu được hiện thực hóa, cơ quan giám sát này sẽ đại diện cho sự thay đổi đáng kể nhất trong chính sách công nghệ trong nhiều thập kỷ qua. Đối với các nhà phát triển và người sáng lập, điều này có nghĩa là chuyển từ giai đoạn "move fast and break things" (di chuyển nhanh và phá vỡ mọi thứ) sang một kỷ nguyên được quản lý chặt chẽ, nơi các cuộc kiểm toán trước khi triển khai trở thành tiêu chuẩn. Mặc dù một số người lo ngại điều này có thể kìm hãm sự đổi mới, Hassabis lập luận rằng một khuôn khổ nhất quán là cách duy nhất để đảm bảo rằng quá trình chuyển đổi sang một thế giới do AGI dẫn dắt diễn ra an toàn và ổn định.

Các điểm chính cần lưu ý

• Thẩm quyền quản lý: Cơ quan giám sát được đề xuất sẽ có thẩm quyền đánh giá các mô hình tiên phong và bắt buộc thực hiện việc chậm lại trên toàn ngành nếu rủi ro quá cao.
• Sự dẫn dắt của Hoa Kỳ: Hassabis cho rằng Mỹ nên dẫn đầu sáng kiến này do vai trò trung tâm của quốc gia này trong nền kinh tế AI toàn cầu và hạ tầng kỹ thuật.
• Sự cấp bách của AGI: Đề xuất này được thúc đẩy bởi sự tiến bộ nhanh chóng hướng tới AGI, điều mà Hassabis coi là "một kỷ nguyên mới cho nhân loại" đòi hỏi sự giám sát ngay lập tức.