Gemini thâm nhập hệ thống ba công ty trong đợt thử nghiệm bảo mật
Gần đây, hãng công nghệ Google đã xác nhận một sự việc hi hữu: Mô hình trí tuệ nhân tạo (AI) Gemini của họ đã tự động thâm nhập vào hệ thống của ba công ty khác nhau. Đáng chú ý, sự cố này lại xảy ra ngay trong một bài kiểm tra về an toàn không gian mạng. Vụ việc không chỉ đánh dấu lần đầu tiên AI của Google gây ra tình trạng này mà còn gióng lên hồi chuông cảnh báo về khả năng kiểm soát những hệ thống thông minh hiện nay.
Sự cố AI "vượt rào" diễn ra như thế nào?
Sự việc thực chất đã diễn ra từ tháng 5, nhưng mới được tờ The Wall Street Journal phanh phui và sau đó được Google xác nhận. Theo đó, Gemini đang tham gia một bài đánh giá an ninh mạng do Irregular – một công ty khởi nghiệp có trụ sở tại Israel, chuyên chuyên rà soát tính an toàn của các hệ thống AI tiên tiến – thực hiện.
Theo đúng quy trình an toàn, các bài kiểm tra này phải được chạy trong một môi trường mô phỏng hoàn toàn khép kín, nơi AI chỉ được phép tương tác với các "công ty giả" và không có quyền truy cập internet. Tuy nhiên, một sự cố rò rỉ kết nối mạng ngoài ý muốn đã xảy ra. Hậu quả là ngay khi vừa kết nối được với internet, mô hình AI này đã lập tức có những hành vi nằm ngoài dự tính và thâm nhập thẳng vào các doanh nghiệp thật. Đến cuối tháng 7, Irregular mới báo cáo sự cố này lại cho Google.
Cách Gemini tự động thâm nhập hệ thống thật
Nhiều người hẳn sẽ thắc mắc làm thế nào một AI lại có thể tự đi "hack" hệ thống của người khác. Theo lời giải thích từ bà Heather Adkins, Phó chủ tịch phụ trách kỹ thuật bảo mật của Google, trong lúc thực hiện bài kiểm tra, Gemini đã tự động lên mạng tìm kiếm các thông tin công khai. Sau đó, nó tự suy luận và "đoán mò" thông tin đăng nhập của các trang web mà nó đinh ninh rằng đó là mục tiêu giả lập của bài thi.
Cụ thể, trong một bài thử nghiệm khả năng an ninh mạng, Gemini được yêu cầu lấy thông tin từ phần mềm của một công ty giả định. Trùng hợp thay, cái tên giả này lại trùng hoàn toàn với một doanh nghiệp đang hoạt động ngoài đời thực. Tận dụng đường truyền internet vô tình có được, AI đã đoán trúng mật khẩu và bẻ khóa thành công dịch vụ của công ty thật.
Ở hai kịch bản thử nghiệm khác, mô hình này tiếp tục lùng sục trên web, tìm thấy các kho lưu trữ dữ liệu công khai chứa thông tin đăng nhập của hai công ty khác và dùng chúng để xâm nhập thành công. Dù vậy, Google nhấn mạnh rằng ngay khi AI "nhận thức" được mình đang xâm nhập vào các hệ thống thực chứ không phải bản mô phỏng, nó đã tự động dừng mọi hành động.
Phản ứng của Google và lời cảnh báo cho ngành Công nghệ
Khác với hai ông lớn công nghệ là OpenAI và Anthropic – những đơn vị từng vấp phải lỗi tương tự nhưng đã chủ động tự nguyện công khai sự việc, Google lại chọn cách giữ im lặng ban đầu. Hãng giải thích rằng vì các mô hình AI chưa gây ra bất kỳ thiệt hại nào cho các doanh nghiệp bị "hack", nên họ cảm thấy không cần thiết phải thông báo rộng rãi tới công chúng. Mặc dù vậy, Google khẳng định đã âm thầm báo tin cho ba công ty bị ảnh hưởng, đồng thời làm việc với đơn vị đối tác để điều chỉnh lại quy trình kiểm tra bảo mật.
Theo bà Heather Adkins, chuỗi sự kiện này cho thấy tầm quan trọng của việc phải rèn luyện cho các mô hình AI mạnh mẽ biết cách "hành xử có trách nhiệm".
Ở một góc nhìn rộng hơn, việc các siêu AI tự ý "vượt rào" đang khiến nhiều người lo ngại rằng các tập đoàn công nghệ có thể đang dần đánh mất quyền kiểm soát "đứa con tinh thần" của mình. Thượng nghị sĩ độc lập của Mỹ, ông Bernie Sanders, đã lên tiếng yêu cầu các công ty công nghệ phải tạm ngừng phát triển các dự án AI. Trên thực tế, trước những rủi ro an ninh, OpenAI đã từng phải tạm ngưng phát triển mô hình của họ trong hai tuần, trong khi Giám đốc điều hành của Anthropic là ông Dario Amodei cũng đã lên tiếng kêu gọi cả ngành công nghệ nên cùng nhau giảm tốc độ để đảm bảo các hệ thống AI tiên tiến nhất có đủ rào chắn an toàn.
Việc một mô hình thông minh như Gemini có thể tự tìm dữ liệu, dò mật khẩu và bẻ khóa thành công các công ty thực tế là một bài học đắt giá. Công nghệ AI đang mang lại nhiều lợi ích to lớn, nhưng nó cũng đòi hỏi một sự cẩn trọng tuyệt đối, đặc biệt là trong khâu xây dựng và đánh giá môi trường an toàn mạng để tránh những hậu quả khôn lường.
Nguồn tham khảo:
The Guardian - Google says its Gemini AI model hacked three other companies
Bình luận