AI nhân loại phát hiện ra 'số lượng lớn lỗ hổng' bên trong mã của chính phủ Hoa Kỳ

Reuters đưa tin vào ngày 6 tháng 7, Cơ quan An ninh Cơ sở hạ tầng và An ninh mạng Hoa Kỳ (CISA) đang triển khai mô hình AI Mythos của Anthropic để kiểm tra phần mềm liên bang về các điểm yếu về bảo mật, với kết quả ban đầu đã gây lo ngại trong chính phủ.

Lỗi trong mã

CISA đang sử dụng Mythos để quét các kho lưu trữ mã của chính phủ để tìm các lỗi có thể mở ra cánh cửa cho gián điệp và tội phạm mạng nước ngoài. Quá trình quét đang được thực hiện bởi nhóm Đánh giá bề mặt tấn công của CISA, một nhóm trong cơ quan tiến hành các hoạt động đánh giá an ninh kỹ thuật số và hack trên toàn chính phủ.

Hai nguồn tin cho biết các cuộc kiểm toán đã phát hiện ra một số lượng lớn lỗ hổng nhưng không nêu chi tiết. Reuters không thể xác định chính xác số lượng mã của chính phủ mà nhóm đã xử lý cũng như tính chất hay mức độ nghiêm trọng của các lỗi mà họ phát hiện ra.Anthropic đã không trả lời các câu hỏi về sáng kiến ​​​​này và đại diện của CISA cũng không trả lời các email tiếp theo.

Sự quan tâm của chính phủ đối với Mythos dường như vượt ra ngoài CISA. Cơ quan An ninh Quốc gia được cho là đã sử dụng mô hình này ít nhất từ ​​tháng 4, mặc dù đã bị đưa vào danh sách đen trước đó. Tờ New York Times đưa tin các nhà phân tích của NSA đã thử nghiệm Mythos trong môi trường bí mật và tỏ ra ấn tượng với khả năng của nó.

Mối quan hệ đầy sóng gió với Washington

Việc triển khai CISA diễn ra sau giai đoạn khó khăn giữa Anthropic và chính phủ Hoa Kỳ.Mối quan hệ đã đạt đến mức thấp nhất vào tháng 2 sau khi công ty có trụ sở tại San Francisco từ chối loại bỏ các biện pháp bảo vệ ngăn cản AI của họ được sử dụng cho vũ khí tự động hoặc giám sát trong nước. Lầu Năm Góc đáp trả bằng cách chính thức chỉ định rủi ro chuỗi cung ứng, một nhãn hiệu thường dành cho các công ty nước ngoài bị nghi ngờ hỗ trợ hoạt động gián điệp. Một thẩm phán đã chặn động thái đó vào tháng Ba.

Xung đột giảm bớt sau khi Mythos phát hành riêng tư, một mô hình AI được mô tả là cực kỳ có khả năng tìm kiếm và khai thác các lỗ hổng an ninh mạng. Sau đó, khi Anthropic tung ra phiên bản công khai của Mythos có tên Fable, bao gồm các biện pháp bảo vệ an ninh mạng, Nhà Trắng đã yêu cầu cấm người nước ngoài chạy mô hình này, gây ra lệnh đóng cửa toàn cầu chỉ mới được dỡ bỏ vào tuần trước.

Anthropic, công ty đã bí mật nộp đơn xin chào bán cổ phiếu lần đầu ra công chúng tại Hoa Kỳ, đã có mối quan hệ đầy biến động với chính phủ Hoa Kỳ.Tuy nhiên, dự án CISA báo hiệu rằng các cơ quan liên bang đang thúc đẩy công cụ bảo mật được hỗ trợ bởi AI, ngay cả khi những căng thẳng về chính sách vẫn chưa được giải quyết.

Nguồn:
Rappler: Cơ quan mạng Hoa Kỳ đang sử dụng Mythos của Anthropic để kiểm tra mã của chính phủ, các nguồn tin cho biết
Benzinga: Huyền thoại của Anthropic AI được cho là giúp tìm ra điểm yếu trong phần mềm của chính phủ Hoa Kỳ