CEO của DeepMind muốn có người trọng tài cho lĩnh vực trí tuệ nhân tạo tiên tiến.

Giám đốc điều hành Google DeepMind @demishasabis đã kêu gọi Hoa Kỳ thành lập một cơ quan chính thức để kiểm duyệt các mô hình trí tuệ nhân tạo mạnh nhất thế giới trước khi chúng đến tay người dùng, cảnh báo rằng trí tuệ nhân tạo tổng quát có lẽ chỉ còn vài năm nữa là trở thành hiện thực và thời gian để xây dựng các biện pháp bảo vệ đang nhanh chóng cạn kiệt.

Mô hình FINRA cho Trí tuệ nhân tạo tiên tiến

Hassabis đề xuất thành lập một cơ quan tiêu chuẩn về trí tuệ nhân tạo (AI) dựa trên mô hình của FINRA, một tổ chức giám sát tư nhân do ngành công nghiệp tài trợ, chịu trách nhiệm giám sát Phố Wall dưới sự quản lý của SEC. Ban đầu, các phòng thí nghiệm tiên phong sẽ tự nguyện chia sẻ mô hình của họ với cơ quan này, tối đa 30 ngày trước khi phát hành, để kiểm tra an toàn, bao gồm các khả năng nguy hiểm về mạng, sinh học và "lừa đảo". Sau khi quy trình kiểm tra chứng minh được "hiệu quả và mạnh mẽ", việc chính thức hóa "có thể nhanh chóng diễn ra", nghĩa là các mô hình tiên phong sẽ phải vượt qua các bài kiểm tra này trước khi được triển khai trên thị trường Mỹ.

Hassabis hình dung một hội đồng đa số độc lập gồm những người đoạt giải Turing và các chuyên gia có uy tín khác, cùng với đại diện từ ngành công nghiệp, chính phủ và các nguồn mở. Cơ quan được đề xuất sẽ cần nguồn tài trợ "đáng kể" để thu hút nhân tài kỹ thuật đẳng cấp thế giới và cung cấp các nguồn lực tính toán cần thiết cho việc thử nghiệm quy mô lớn, và nguồn tài trợ này có khả năng đến từ ngành công nghiệp. Hassabis cho biết ông muốn cơ quan này đi vào hoạt động trước cuối năm nay.

Điểm nổi bật nhất của đề xuất này là cơ chế phanh. Ông Hassabis cho biết cơ chế này có thể được "tăng cường" khi rủi ro gia tăng, bao gồm cả việc "phối hợp làm chậm quá trình phát triển giữa các phòng thí nghiệm tiên phong nếu thấy cần thiết". Ông nói rằng ông đã báo cáo với chính quyền Trump, các phòng thí nghiệm đối thủ và các quan chức châu Âu trong nhiều tháng qua.

Nhà Trắng đầy hoài nghi và cơ cấu tài trợ khó xử

Đề xuất này được đưa ra vào thời điểm chính trị phức tạp. "Sẽ không có FDA dành riêng cho AI", cố vấn AI của Nhà Trắng, Sriram Krishnan, nói với Financial Times vào ngày 3 tháng 7. Ông cho biết chính phủ ủng hộ cách tiếp cận nhẹ nhàng, cảnh báo rằng việc quản lý chặt chẽ sẽ làm chậm quá trình đổi mới và làm suy yếu khả năng cạnh tranh của Mỹ. Khung Hassabis, cố tình tránh ngôn ngữ cấp phép của chính phủ, dường như được thiết kế để giải quyết vấn đề này một cách khéo léo, đặt quyền giám sát vào tay ngành công nghiệp thay vì một cơ quan liên bang.

Tuy nhiên, mô hình tự quản lý cũng tiềm ẩn những căng thẳng riêng. Một cơ quan được tài trợ bởi chính các phòng thí nghiệm mà nó có nhiệm vụ giám sát đang đối mặt với xung đột lợi ích rõ ràng, và cách xử lý các bản phát hành mô hình gần đây đã không tạo được niềm tin vào các thỏa thuận tạm thời. Vài tuần trước khi Krishnan đưa ra nhận xét, chính phủ liên bang đã thực hiện một "sự can thiệp chưa từng có" buộc Anthropic phải thu hồi phiên bản mới nhất của mô hình Mythos, đồng thời tạm dừng việc ra mắt OpenAI 5.6. Hassabis đã dẫn ra những sự việc đó như bằng chứng cho thấy Washington cần một cấu trúc quản trị chính thức hơn là những phản ứng tùy hứng.

Theo Hassabis, trí tuệ nhân tạo tổng quát (AGI) có khả năng sánh ngang với bộ não con người trong nhiều nhiệm vụ khác nhau "có lẽ chỉ còn vài năm nữa là thành hiện thực", tạo cho xã hội một "cơ hội quý giá" để thiết lập cơ chế giám sát. Liệu Washington có thể đạt được thỏa thuận về một khuôn khổ trước khi cơ hội đó khép lại hay không vẫn là câu hỏi trọng tâm chưa có lời giải.

Nguồn:
Axios: Hassabis của Google kêu gọi thành lập cơ quan giám sát AI toàn cầu mới do Mỹ dẫn đầu
CNBC: Giám đốc DeepMind của Google kêu gọi Mỹ dẫn đầu cơ quan thiết lập tiêu chuẩn AI.
PYMNTS: Cố vấn Nhà Trắng cho biết Trump sẽ không thành lập FDA cho AI