Microsoft phát hành mã nguồn mở RAMPART và Clarity: Chuẩn hóa quy trình bảo mật cho AI agent

Thanh Hoang
21 thg 5
3 phút đọc

Vừa qua, Microsoft đã chính thức công bố mã nguồn mở hai công cụ bảo mật mới mang tên RAMPART và Clarity. Đây là nỗ lực của tập đoàn công nghệ nhằm giúp các nhà phát triển kiểm soát rủi ro đến từ các tác nhân trí tuệ nhân tạo (AI agents) ngay trong quá trình xây dựng phần mềm, thay vì chỉ kiểm tra ở bước cuối cùng trước khi triển khai.

Nỗ lực của tập đoàn công nghệ nhằm giúp các nhà phát triển kiểm soát rủi ro đến từ AI agents ngay trong quá trình xây dựng phần mềm.

Clarity - “Đối tác tư duy" trước khi viết code

Khác với các công cụ kiểm thử thông thường, Clarity tập trung vào giai đoạn sơ khai của dự án. Microsoft mô tả công cụ này như một “đối tác tư duy AI”, giúp các kỹ sư và quản lý sản phẩm kiểm tra lại các giả định thiết kế trước khi viết dòng code đầu tiên.

Công cụ này hướng dẫn đội ngũ thực hiện các cuộc hội thoại có cấu trúc để làm rõ vấn đề, khám phá giải pháp và phân tích thất bại. Các quyết định thông qua hội thoại sẽ được lưu trữ trực tiếp trong thư mục dự án, giúp minh bạch việc truy xuất nguồn gốc và lý do thay đổi thiết kế. Mục tiêu của Clarity là ngăn chặn các sai lầm đắt giá ngay từ khâu ý tưởng, nơi mà việc thay đổi lộ trình vẫn còn ít tốn kém.

RAMPART - “Kỹ sư” kiểm thử bảo mật liên tục

Nếu Clarity dành cho tư duy, thì RAMPART (viết tắt của Risk Assessment and Measurement Platform for Agentic Red Teaming) là công cụ thực thi. Được xây dựng dựa trên nền tảng PyRIT nổi tiếng, RAMPART cho phép các kỹ sư tích hợp các bài kiểm tra an toàn vào quy trình Continuous Integration (CI).

Điểm mạnh của RAMPART là khả năng biến các lỗ hổng bảo mật phức tạp thành các bài kiểm tra CI có thể tái lập. Công cụ này tập trung đặc biệt vào các cuộc tấn công prompt injection - một loại rủi ro cực lớn khi AI agents có quyền truy cập vào dữ liệu doanh nghiệp hoặc thực hiện hành động thay mặt người dùng. Bằng cách biến các bài học từ đội ngũ kiểm thử xâm nhập (Red Team) thành tài sản kỹ thuật, RAMPART giúp đảm bảo rằng một lỗi bảo mật sau khi được khắc phục sẽ không bao giờ tái diễn.

RAMPART có khả năng biến các lỗ hổng bảo mật phức tạp thành các bài kiểm tra CI có thể tái lập.

Bước chuyển mình sang kỷ luật kỹ thuật an toàn

Việc Microsoft tung ra hai công cụ này đánh dấu một sự thay đổi lớn trong cách tiếp cận an toàn AI. Thay vì coi bảo mật là một rào cản hành chính ở cuối dự án, Microsoft đang biến nó thành một phần không thể tách rời của quy trình kỹ thuật.

Trong bối cảnh các hệ thống AI hiện nay không chỉ dừng lại ở việc trả lời câu hỏi mà đã có thể viết code, truy cập hồ sơ và thực hiện giao dịch, một sai sót nhỏ cũng có thể dẫn đến hậu quả nghiêm trọng. Sự kết hợp giữa Clarity và RAMPART hứa hẹn sẽ tạo ra một quy chuẩn mới cho việc xây dựng các ứng dụng AI an toàn và đáng tin cậy hơn.

Hiện tại, cả hai công cụ đều đã có sẵn trên các nền tảng mã nguồn mở để cộng đồng các nhà phát triển toàn cầu có thể tiếp cận và sử dụng.

Nguồn tham khảo: