OpenAI công bố cách phát hiện và ngăn chặn chưng cất mô hình trái phép

OpenAI chia sẻ cách chống chưng cất trái phép: bảo vệ chuỗi suy luận trên GPT-6.2 Astra, tỷ lệ tấn công thành công giảm từ 54% xuống 0,2%.

OpenAI công bố cách phát hiện và ngăn chặn chưng cất mô hình trái phép
Mục lục 8 mục
  1. Vì sao chưng cất là vấn đề an toàn
  2. Bảo vệ chuỗi suy luận gốc để giữ an toàn an ninh mạng
  3. Hai tầng phòng thủ bổ trợ nhau
  4. Bảo vệ từng yêu cầu và phản hồi
  5. Điều tra và triệt phá chiến dịch có phối hợp
  6. Đo lường tiến bộ
  7. Tác động tới an ninh quốc gia
  8. Khuyến nghị cho các bên khác

Ngày 20/11/2026, OpenAI đã công bố cách công ty phát hiện và ngăn chặn hoạt động chưng cất đối nghịch (adversarial distillation). Đây là việc dùng đầu ra của một mô hình tiên phong mà không được phép để huấn luyện một mô hình khác có năng lực tương tự, rồi triển khai mô hình đó mà không có các biện pháp bảo vệ tương đương. Theo OpenAI, kẻ xấu có thể chưng cất năng lực an ninh mạng của một mô hình để hỗ trợ những cuộc tấn công mạng mà mô hình gốc lẽ ra đã từ chối hoặc bị cơ chế bảo vệ chặn lại.

Cách tiếp cận của OpenAI kết hợp kiểm thử đối nghịch, huấn luyện mô hình, bộ phân loại (classifier) và các lớp bảo vệ ở tầng API, cùng với điều tra các nỗ lực có phối hợp nhằm trích xuất năng lực mô hình. OpenAI đặc biệt chú trọng ngăn kẻ tấn công lấy được chuỗi suy luận được bảo vệ (chain-of-thought), tức các bước trung gian mô hình tạo ra trong lúc tìm câu trả lời. Những dấu vết này có thể chứa thông tin mà câu trả lời cuối cùng bỏ qua, nên là dữ liệu huấn luyện đặc biệt có giá trị cho một mô hình khác.

Công ty cho biết đã tăng cường phòng thủ trên GPT‑6.2 Astra và GPT‑6.2 Sol. Trong một bài đánh giá thích ứng nội bộ dùng red-teaming tự động, tỷ lệ tấn công thành công trung bình khi cố khôi phục chuỗi suy luận của một câu hỏi trước đó giảm từ 54,0% trên GPT‑6 Astra (với cơ chế bảo vệ ban đầu) xuống còn 0,2% trên GPT‑6.2 Astra (với cơ chế bảo vệ mới).

Vì sao chưng cất là vấn đề an toàn

Chưng cất là kỹ thuật học máy phổ biến, trong đó một mô hình học từ dữ liệu do mô hình khác tạo ra, chẳng hạn từ câu trả lời, chuỗi suy luận hoặc đánh giá của mô hình đó về việc câu trả lời nào tốt hơn và vì sao. Theo OpenAI, ngoài chuyện sở hữu trí tuệ, chưng cất trái phép còn gây rủi ro an toàn nghiêm trọng, vì mô hình thứ hai có thể học được năng lực tiên phong mà không thừa hưởng các cơ chế bảo vệ của mô hình gốc.

Mối lo này rõ nhất ở các lĩnh vực lưỡng dụng như an ninh mạng và sinh học: mô hình giúp bên phòng thủ tìm lỗ hổng phần mềm cũng có thể giúp kẻ tấn công khai thác chúng; mô hình hỗ trợ nghiên cứu sinh học cũng có thể giúp ai đó phát triển mầm bệnh có hại.

Bảo vệ chuỗi suy luận gốc để giữ an toàn an ninh mạng

OpenAI đã nghiên cứu nội bộ về việc năng lực an ninh mạng được chuyển giao như thế nào khi chưng cất. Mô hình tạo dữ liệu gọi là “thầy” (teacher), mô hình học gọi là “trò” (student). Mốc so sánh là nội dung người dùng thường thấy: câu trả lời cuối, bản tóm tắt suy luận và các tương tác với công cụ; sau đó công ty kiểm tra năng lực tăng thêm bao nhiêu khi mô hình trò được tiếp cận chuỗi suy luận gốc của mô hình thầy. Dữ liệu tinh chỉnh có giám sát chủ yếu gồm các quỹ đạo làm việc của mô hình thầy cấp Astra trên các tác vụ lập trình và an ninh mạng phòng thủ.

Kết quả: sau tinh chỉnh có giám sát, mô hình trò học từ chuỗi suy luận gốc nhìn chung vượt mô hình trò học từ bản tóm tắt. Sau một vòng học tăng cường nhẹ, mô hình học từ chuỗi gốc vẫn đạt điểm cao hơn ở ngân sách suy luận lớn nhất được thử trên cả hai bộ đánh giá ExploitBench và SEC-bench Pro, còn mô hình học từ tóm tắt đạt điểm cao hơn ở các ngân sách thấp hơn.

Sơ đồ hai tầng phòng thủ chống chưng cất của OpenAI: bảo vệ từng yêu cầu và phát hiện chiến dịch
Ảnh: OpenAI

Theo OpenAI, điều này cho thấy bảo vệ chuỗi suy luận có thể hạn chế việc chuyển giao năng lực an ninh mạng, kể cả khi tác vụ gốc là tác vụ được phép theo chính sách sử dụng. Công ty sẽ tiếp tục nghiên cứu với các mô hình trò và công thức chưng cất khác nhau.

Hai tầng phòng thủ bổ trợ nhau

OpenAI phòng thủ ở hai tầng. Ở tầng yêu cầu, hành vi mô hình, bộ phân loại và các kiểm soát API hạn chế việc trích xuất chuỗi suy luận. Ở tầng chiến dịch, công ty tìm các mẫu tín hiệu từ yêu cầu và tài khoản để phát hiện nỗ lực trích xuất có phối hợp. Các cuộc tấn công lộ ra qua điều tra lại trở thành ví dụ để huấn luyện và kiểm thử cơ chế bảo vệ.

Bảo vệ từng yêu cầu và phản hồi

  • Huấn luyện phòng thủ cho mô hình: huấn luyện đối nghịch giúp mô hình nhận ra các nỗ lực trích xuất suy luận và từ chối tiết lộ, trong khi vẫn đáp ứng các yêu cầu giải thích hợp lệ. Ví dụ huấn luyện lấy từ các cuộc tấn công thành công do red-teaming tự động, điều tra và báo cáo của nhà nghiên cứu hay đối tác bên ngoài.
  • Bộ phân loại: bộ phân loại đầu vào phát hiện nỗ lực trích xuất; bộ phân loại đầu ra phát hiện rò rỉ trong tin nhắn và cả tham số gọi công cụ, áp dụng cho phản hồi streaming lẫn không streaming. Rò rỉ nghi vấn có thể bị chặn trước khi đến tay bên gọi.
  • Bảo vệ tầng API: hạn chế việc tái sử dụng chuỗi suy luận được bảo vệ giữa các tương tác và mô hình. Báo cáo hồi tháng 9 của OpenAI từng mô tả các cuộc tấn công chuyển suy luận đã mã hóa từ cuộc hội thoại này sang cuộc hội thoại khác rồi yêu cầu mô hình hiển thị ở dạng đọc được. Công ty đã siết bảo vệ giữa các ranh giới người dùng, workspace, tổ chức và họ mô hình, bao gồm đóng một lối có thể làm lộ suy luận mã hóa của người dùng khác.

Với GPT‑6.2 Astra và GPT‑6.2 Sol, chuỗi suy luận được gắn với lịch sử hội thoại đã tạo ra nó. Nếu một tin nhắn trước đó bị viết lại, API sẽ bỏ phần suy luận phía sau. OpenAI cũng ngăn các họ mô hình cũ có cơ chế bảo vệ yếu hơn đọc suy luận được bảo vệ của GPT‑6.2 Astra và Sol.

Điều tra và triệt phá chiến dịch có phối hợp

Khi phát hiện chiến dịch chưng cất trái phép, OpenAI điều tra các tài khoản liên quan và xử lý cả mạng lưới tài khoản vi phạm theo chính sách và điều khoản dịch vụ. Công ty cũng chia sẻ các dấu hiệu xâm phạm (indicators of compromise) với các nhà cung cấp mô hình khác, đồng thời áp dụng chính sách tiêu chuẩn nhất quán về bảo vệ và thực thi phối hợp với các nhà cung cấp đang cung cấp mô hình của OpenAI.

Đo lường tiến bộ

OpenAI kiểm thử trong môi trường mô phỏng sát triển khai thực tế, gồm đánh giá tĩnh (phát lại các cuộc tấn công từng thành công) và đánh giá thích ứng (red-teamer AI tự động điều chỉnh cách tấn công), cùng kiểm thử hộp đen và hộp trắng. Trong đánh giá thích ứng hộp đen, tổng hợp trên sáu mô hình tấn công, kết quả như sau:

  • Trích xuất suy luận từ yêu cầu trước đó: 54,0% trên GPT‑6 Astra, còn 0,2% trên GPT‑6.2 Astra.
  • Trích xuất suy luận từ yêu cầu hiện tại: 22,9% trên GPT‑6 Astra, còn 0,9% trên GPT‑6.2 Astra.

OpenAI cho biết đang áp dụng một số cải tiến bảo vệ được chọn cho cả GPT‑6 Astra.

Về phát hiện chiến dịch, OpenAI cho biết năm nay đã thấy nhiều chiến dịch chưng cất trái phép trên nền tảng. Các đợt xử lý hằng tuần có quy mô từ hàng nghìn đến hàng chục nghìn tài khoản, với tốc độ tăng đáng kể vào mùa hè vừa qua. Mục tiêu là hạn chế khối lượng và giá trị dữ liệu kẻ chưng cất thu được, tăng chi phí của các chiến dịch và rút ngắn thời gian phản ứng.

Tác động tới an ninh quốc gia

Theo OpenAI, chưng cất đối nghịch cũng là rủi ro an ninh quốc gia, vì một tác nhân nước ngoài tái tạo năng lực từ mô hình Mỹ có thể triển khai chúng mà không có các biện pháp bảo vệ. Hồi tháng 2, OpenAI đã báo cáo với Quốc hội Mỹ về hoạt động cho thấy DeepSeek đang tìm cách chưng cất các mô hình tiên phong của Mỹ. Tháng 9, công ty báo cáo đã triệt phá một chiến dịch trích xuất suy luận được bảo vệ và quy một phần cốt lõi của hoạt động đó cho các cá nhân liên quan tới Moonshot AI, nhà phát triển Kimi.

OpenAI ủng hộ luật cho phép chính phủ Mỹ có thêm công cụ xác định và trừng phạt các tác nhân nước ngoài trích xuất trái phép năng lực từ mô hình AI Mỹ, đồng thời đã bày tỏ với Quốc hội sự ủng hộ đối với Chip Security Act, AI OVERWATCH Act và MATCH Act.

Khuyến nghị cho các bên khác

OpenAI đưa ra một số bước mà các nhà phát triển mô hình và nền tảng khác có thể áp dụng:

  • Bảo vệ suy luận riêng trong toàn bộ tương tác: kiểm tra rò rỉ trong tin nhắn và tham số gọi công cụ, hạn chế tái sử dụng suy luận mã hóa giữa các cuộc hội thoại và mô hình.
  • Lưu các cuộc tấn công trích xuất thành công làm bài kiểm thử hồi quy; khi phù hợp và tuân thủ chính sách quyền riêng tư, dùng chúng để cải thiện huấn luyện mô hình và bộ phân loại.
  • Khi đánh giá phòng thủ mới, phát lại các cuộc tấn công cũ và kiểm tra xem red-teamer thích ứng có còn vượt qua được không.
  • Kết hợp biện pháp ở tầng yêu cầu với điều tra và thực thi ở tầng chiến dịch.

Nguồn: OpenAI

Cần website chuẩn SEO cho doanh nghiệp?

CVM thiết kế website WordPress trọn gói, bàn giao mã nguồn, hỗ trợ lâu dài.

Tác giả

FishTeam

Về CVM