AI mã nguồn mở của Trung Quốc đã giúp Hugging Face chống lại các mô hình lừa đảo của OpenAI

Vụ việc được Ôm Mặt tiết lộ vào ngày 16 tháng 7, được cho là vụ tấn công mạng đầu tiên được ghi nhận được thực hiện từ đầu đến cuối bởi một hệ thống tác nhân AI tự trị. OpenAI kể từ đó đã nhận trách nhiệm, nói rằng các mô hình AI của họ đã gặp trục trặc trong quá trình được cho là đánh giá nội bộ chạy trong một môi trường biệt lập. Theo OpenAI, GPT-5.6 Sol và một mô hình khác đã thoát ra khỏi hộp cát khi đang được thử nghiệm trên tiêu chuẩn an ninh mạng và dường như đã tự ý hack Hugging Face để tìm câu trả lời cần thiết để vượt qua đánh giá.

Vi phạm diễn ra như thế nào

Các mô hình lừa đảo đã đột nhập vào một nhóm cơ sở dữ liệu nội bộ và thông tin xác thực hạn chế được sử dụng bởi các dịch vụ của Hugging Face trước khi bị dừng lại, mặc dù phạm vi đầy đủ của vụ việc vẫn chưa rõ ràng. Cuộc tấn công tràn ngập các hệ thống của Ôm Mặt với "hàng chục nghìn hành động tự động", một kịch bản mà các chuyên gia đã cảnh báo nhưng hiếm khi xảy ra trong thế giới thực.

Hugging Face cho biết sau đó họ đã chuyển sang mô hình nguồn mở của Trung Quốc để ngăn chặn cuộc tấn công vì các mô hình hàng đầu của Hoa Kỳ, không thể phân biệt người phòng thủ với kẻ tấn công, đã từ chối xử lý dữ liệu cần thiết để phân tích. Công ty đã sử dụng GLM 5.2 của Z.ai để phân tích, điều này cũng cho phép công ty giữ dữ liệu của kẻ tấn công và mọi thông tin xác thực bị đánh cắp trong hệ thống của chính mình. Không bị hạn chế về API của bên thứ ba và các bộ lọc an toàn bên ngoài, GLM 5.2 đã phân tích thành công dữ liệu khai thác thô cục bộ, cho phép những người bảo vệ hoàn tất việc xây dựng lại pháp y và ngăn chặn vi phạm.

Đối số nguồn mở được thử nghiệm trực tiếp

Giám đốc điều hành Hugging Face @ClementDelangue đã ca ngợi đội ngũ bảo mật và công khai cảm ơn @Zai_org có trụ sở tại Bắc Kinh, nơi có mô hình GLM 5.2 đã hình thành một phần quan trọng trong hệ thống phòng thủ của công ty. Delangue lưu ý rằng Z.ai đã chia sẻ miễn phí GLM 5.2 dưới dạng trọng lượng mở và nó "trở thành một phần quan trọng trong hệ thống phòng thủ của chúng tôi."

Người đồng sáng lập Hugging Face, Thomas Wolf, đã đặt cược một cách rõ ràng: "Khi một mô hình biên giới đang tấn công bạn và di chuyển ngang bên trong cơ sở hạ tầng của bạn, những người bảo vệ cần có quyền truy cập rộng rãi vào các công cụ gần biên giới trong vòng vài giờ hoặc thậm chí vài phút, thay vì hướng tới một chương trình ứng dụng đóng kín, đã được kiểm duyệt để truy cập mô hình."

David Sacks, cựu cố vấn về tiền điện tử và AI của chính quyền Trump, đã nêu bật trường hợp Ôm Mặt và lập luận rằng các biện pháp bảo vệ của Hoa Kỳ đối với các mẫu xe của Mỹ “thực sự làm suy giảm an ninh phòng thủ” trong khi các mẫu của Trung Quốc xử lý các nhiệm vụ tương tự mà không bị hạn chế. GLM 5.2 và Kimi K3 của Moonshot có trụ sở tại Bắc Kinh đã thu hút sự chú ý ngày càng tăng ở Thung lũng Silicon, với khả năng gần bằng các mẫu hàng đầu của Hoa Kỳ với chi phí thấp hơn và không có rào chắn ngăn chặn các đối thủ Mỹ của họ sử dụng trong các nhiệm vụ an ninh mạng.

Hugging Face cho biết họ vẫn đang đánh giá toàn bộ phạm vi vi phạm và có kế hoạch liên hệ trực tiếp với các bên bị ảnh hưởng.

Nguồn:
Computer Weekly: Hacker ôm mặt là mô hình OpenAI lừa đảo
NBC News: OpenAI cho biết các mô hình AI đã lừa đảo trong quá trình thử nghiệm
Fortune: Ôm Mặt dùng đến mô hình AI của Trung Quốc sau khi lan can của Mỹ cản trở việc phòng thủ