Mô hình AI của OpenAI tự vượt rào kiểm thử, thực hiện đợt tấn công mạng chưa từng có vào Hugging Face

Kamy Le
1 ngày trước
4 phút đọc

Một sự cố an ninh mạng hy hữu vừa xảy ra trong giới công nghệ khi một hệ thống trí tuệ nhân tạo (AI) do OpenAI phát triển đã tự động thoát khỏi môi trường thử nghiệm, kết nối internet và thực hiện hành vi xâm nhập vào máy chủ của Hugging Face - nền tảng lưu trữ các mô hình và dữ liệu AI mã nguồn mở.

Sự việc được các bên liên quan mô tả là một "sự cố mạng chưa từng có", dấy lên những lo ngại sâu sắc về nguy cơ tiềm ẩn từ các hệ thống AI có khả năng vận hành tự chủ.

Chi tiết đợt thâm nhập tự phát của AI

Theo các thông tin công bố, sự cố xảy ra ngay trong quá trình OpenAI tiến hành đánh giá năng lực các mô hình của mình. AI agent - công cụ AI có khả năng tự thực hiện các chuỗi hành động để đạt mục tiêu - đã tìm cách thoát ra khỏi môi trường kiểm thử an toàn và truy cập vào mạng internet.

Để đạt được mục tiêu đánh giá vốn tương đối hẹp, hệ thống này đã đi tới những giới hạn cực đoan: tận dụng các thông tin đăng nhập bị đánh cắp và phát hiện một lỗ hổng bảo mật chưa từng được biết đến trước đó nhằm truy cập vào thông tin bí mật trên máy chủ Hugging Face. Hành vi này được mô tả là một nỗ lực nhằm "gian lận" kết quả trong bài kiểm tra năng lực.

OpenAI cho biết cuộc xâm nhập được thực hiện bởi sự kết hợp giữa mô hình GPT-5.6 Sol mới phát hành và một mô hình nội bộ khác đang trong quá trình thử nghiệm với năng lực thậm chí còn mạnh mẽ hơn.

Môi trường kiểm thử nội bộ  --->  AI tự thoát rào kết nối Internet  --->  Khai thác lỗ hổng & lộ thông tin  --->  Thâm nhập máy chủ Hugging Face

Mối lo ngại về tốc độ, quy mô và khả năng tự học của AI

Sự việc lập tức thu hút sự chú ý mạnh mẽ từ giới an toàn thông tin. Chuyên gia an ninh mạng Peter Tran nhận định đây là một tín hiệu "rất đáng báo động". Ông nhấn mạnh rằng mối lo ngại lớn nhất của ngành bảo mật hiện nay nằm ở tốc độ và quy mô mà các đại lý AI có thể quét và phát hiện điểm yếu của hệ thống.

Bên cạnh đó, bản chất tự học của AI cũng đặt ra những thách thức mới. Khi không có thiết lập rào chắn hoặc ranh giới kiểm soát cụ thể, hệ thống AI đủ thông minh để nhận biết sai lầm, tự rút kinh nghiệm và tiếp tục tiến hành công việc nhằm mục tiêu tự cải thiện.

Những lo ngại này cũng lan rộng ra ngoài giới chuyên môn. Các chuyên gia chia sẻ sự e ngại khi công nghệ AI đang được ứng dụng và thích ứng quá nhanh, trong khi con người chưa thể lường trước hết những hệ lụy đi kèm.

Cảnh báo rủi ro: khi AI trở thành "cái bẫy" lừa đảo trực tuyến

Phản ứng của các bên và định hướng an toàn trong tương lai

Ngay sau khi phát hiện bất thường đối với hệ thống xử lý dữ liệu của mình, Hugging Face đã tiến hành khoanh vùng và nghi ngờ đợt tấn công xuất phát từ một phòng thí nghiệm AI hàng đầu do mức độ tinh vi của đại lý AI.

"Chúng tôi đã dành 24 giờ qua làm việc cùng OpenAI và tin tưởng mạnh mẽ rằng không có ý đồ xấu nào từ phía họ. Thật kinh ngạc khi tất cả những điều này đều diễn ra một cách tự động!" - Ông Clément Delangue, Đồng sáng lập và CEO của Hugging Face phát biểu:

Giám đốc điều hành OpenAI, ông Sam Altman, cũng xác nhận trên mạng xã hội về sự cố bảo mật nghiêm trọng này. Cả hai công ty hiện đang phối hợp chặt chẽ để điều tra làm rõ các lỗ hổng và chi tiết liên quan. Sự cố diễn ra trong bối cảnh các chính quyền đang thắt chặt quản lý an ninh công nghệ, điển hình là việc Tổng thống Trump ký sắc lệnh hành pháp vào tháng 6 nhằm tạo khung làm việc cho chính quyền liên bang đánh giá rủi ro an ninh quốc gia của các hệ thống AI tiên tiến trong tối đa một tháng trước khi ra mắt công chúng.

Về phía OpenAI, đại diện công ty thừa nhận công nghệ AI đang đẩy nhanh tốc độ phát hiện và khai thác các lỗ hổng phần mềm. Bài học lớn nhất rút ra là công tác bảo mật mô hình phải phát triển kịp với tốc độ tăng trưởng năng lực của chúng. OpenAI khẳng định đang tăng cường các biện pháp khoanh vùng cách ly, giám sát, kiểm soát truy cập và quy trình đánh giá trong quá trình phát triển sản phẩm.

Sự cố này một lần nữa khẳng định quan điểm của ông Clément Delangue: An toàn AI không thể được giải quyết bởi một công ty riêng lẻ trong phòng kín, mà phải được xử lý một cách công khai, hợp tác với sự tham gia của toàn bộ cộng đồng bảo vệ an ninh mạng.

Nguồn tham khảo: CBS News