Rào chắn

Proxyma kiểm tra nội dung người dùng gửi đi, nội dung tác nhân (agent) truy xuất về và nội dung nó trả lời, rồi giữ lại bất cứ thứ gì khớp với quy tắc của bạn. Trang này mô tả từng bước kiểm tra, những gì một người nhìn thấy khi một bước kiểm tra kích hoạt, và những gì rào chắn không ngăn được.

Tìm chúng ở đâu

Cài đặt → Rào chắn, ở cả ứng dụng desktop lẫn Proxyma Enterprise Server. Các thiết lập áp dụng cho toàn bộ bản triển khai, không theo từng người dùng. Ở chế độ Server, chỉ quản trị viên mới mở được trang này. Quản trị viên còn có thể thêm và gỡ tài liệu chính sách và xóa mục Nhật ký; chỉ siêu quản trị viên mới thay đổi được các thiết lập.

Ba điểm kiểm soát

Mỗi lượt trao đổi đều đi qua cả ba điểm, và mỗi điểm có giá trị mặc định riêng.

"Bị giữ lại" có nghĩa gì ở từng điểm

• Một tin nhắn bị từ chối. Lượt trao đổi không diễn ra và không có gì được lưu.
• Một nguồn được truy xuất về bị giữ lại riêng nó. Tác nhân (agent) được báo là nguồn đó đã bị giữ lại và tiếp tục với mọi thứ còn lại; việc này không bao giờ kết thúc cuộc trò chuyện.
• Một câu trả lời được viết lại ngay tại nơi nó được lưu. Chỉ phần trả lời cuối cùng được viết lại: văn bản tác nhân viết giữa các lần gọi công cụ trước đó trong cùng lượt vẫn nằm trong lịch sử cuộc trò chuyện.

Các bước kiểm tra tìm những gì

Đây là các bước kiểm tra theo mẫu: chúng nhận ra hình dạng, không đọc ý nghĩa. Chúng không dùng mô hình và không dùng mạng.

Dữ liệu cá nhân không được kiểm tra trong nội dung truy xuất về; nó vẫn được kiểm tra trong câu trả lời. Đường dẫn trên máy chủ cũng không được kiểm tra trong nội dung truy xuất về.

Văn bản được chuẩn hóa trước khi đối chiếu, nên một thông tin đăng nhập bị chèn ký tự vô hình để tách ra, hay một từ viết bằng những chữ cái trông giống nhau lấy từ bảng chữ cái khác, vẫn bị phát hiện. Văn bản thực sự được viết bằng bảng chữ cái khác thì được để yên.

Một người nhìn thấy những gì

Một tin nhắn hoặc câu trả lời bị giữ lại được thay bằng một thông báo ngắn nêu tên các nhóm đã kích hoạt, chẳng hạn secret, pii, prompt-injection, server-path hay system-prompt-leak. Một thao tác loại bỏ giữ nguyên phần văn bản còn lại và đánh dấu chỗ trống, chẳng hạn aws_key: [redacted: secret].

Một nguồn bị giữ lại hiện ra như một bước thất bại trong phần diễn tiến của tác nhân (agent), kèm các nhóm đã kích hoạt.

Hãy quan sát trước khi thực sự áp dụng

1. Đặt Chế độ thành Chỉ theo dõi. Mọi bước kiểm tra vẫn chạy, không có gì bị chặn hay bị loại bỏ - kể cả trong lúc câu trả lời đang được viết - và những gì lẽ ra đã xảy ra được ghi nhận lại.
2. Mở Nhật ký, ở cuối chính trang đó. Mục này cho biết bao nhiêu lượt kiểm tra đã chạy - mỗi tin nhắn, mỗi câu trả lời và mỗi kết quả công cụ là một lượt - và bao nhiêu lượt được cho qua, bị lược bỏ và bị chặn; bao nhiêu lượt lẽ ra đã bị giữ lại nếu đang áp dụng; số mili giây rào chắn cộng thêm vào mỗi lượt; những nhóm nào đã kích hoạt; và vài quyết định gần nhất kèm giai đoạn, phán quyết và thời gian xử lý.
3. Mở một quyết định để xem các quy tắc đứng sau nó, chẳng hạn secret.aws-access-key thay vì secret. Một quyết định do mô hình đưa ra sẽ liệt kê llm.category, hoặc policy. theo sau là id của tài liệu.
4. Khi kết quả đã ổn, đặt Chế độ thành Áp dụng.

Nhật ký nằm trong bộ nhớ và bị xóa khi Proxyma khởi động lại.

Các quy tắc của riêng bạn

Bật Đánh giá ý nghĩa bằng mô hình, rồi bật Quy tắc từ tài liệu của bạn bên dưới nó.

Quy tắc lấy từ tài liệu của bạn

Tải lên các chính sách của bạn - một cuốn cẩm nang, một chính sách sử dụng hợp lệ, một tiêu chuẩn xử lý dữ liệu - dưới dạng tệp Markdown, PDF, Word, Excel hay PowerPoint, mỗi tệp tối đa 20 MB. Mỗi tin nhắn được đối chiếu theo ý nghĩa với các điều khoản liên quan, và những điều khoản đó được gửi tới mô hình cùng với tin nhắn. Bật Kiểm tra cả câu trả lời để đối chiếu cả câu trả lời với chúng.

Các tài liệu chính sách nằm trong một chỉ mục riêng. Không câu hỏi nào của người dùng có thể truy xuất ra một tài liệu chính sách.

Mô hình đảm nhận việc phán xét

Khi bật Đánh giá ý nghĩa bằng mô hình, mọi tin nhắn và câu trả lời chưa bị các bước kiểm tra theo mẫu chặn sẽ có thêm một lời gọi mô hình thứ hai, dùng thiết lập Nhà cung cấp cho rào chắn và Mô hình cho rào chắn riêng, không bao giờ dùng mô hình trò chuyện của bạn. Mô hình phán xét theo một danh sách có sẵn - bạo lực, tự gây hại, nội dung tình dục liên quan tới trẻ vị thành niên, hướng dẫn chế tạo vũ khí hoặc chất nổ, quấy rối hoặc ngôn từ thù ghét - cộng với mọi điều khoản khớp từ tài liệu của bạn. Hãy chọn một mô hình nhỏ và nhanh. Không có gì được phán xét cho tới khi một mô hình được chọn; các bước kiểm tra theo mẫu vẫn hoạt động trong cả hai trường hợp.

Theo mặc định, một tin nhắn vẫn được cho qua khi không kết nối được tới mô hình đó. Bật Từ chối khi không kết nối được tới mô hình để đảo ngược điều này. Khi tắt, một sự cố ở nhà cung cấp sẽ gỡ bỏ lớp bảo vệ này; khi bật, một sự cố ở nhà cung cấp sẽ khiến mọi người không làm việc được.

Hai bước kiểm tra dõi theo một khuôn mẫu

Không bước nào trong hai bước này đọc nội dung tin nhắn.

Phát hiện chỉ dẫn hệ thống bị lộ

Proxyma giấu một dấu hiệu không thể đoán được trong phần chỉ dẫn của tác nhân (agent) và từ chối mọi câu trả lời có chứa dấu hiệu đó. Nó không cần mô hình và không thể nhầm bất cứ thứ gì khác thành một vụ lộ chỉ dẫn. Mặc định là tắt.

Nó bắt được câu trả lời trích dẫn nguyên văn phần chỉ dẫn. Nó không bắt được câu trả lời diễn đạt lại phần chỉ dẫn theo lời khác.

Làm chậm những nỗ lực lặp đi lặp lại

Khi bật, một người bị từ chối nhiều lần trong một khoảng thời gian ngắn sẽ bị tạm dừng: tin nhắn của họ bị từ chối mà không được kiểm tra, và họ được cho biết chuyện này không liên quan tới nội dung họ viết. Việc đếm được thực hiện theo từng người ở nơi có tài khoản và theo từng cuộc trò chuyện ở những nơi còn lại, và bị quên đi khi Proxyma khởi động lại.

Mặc định là tắt. Hãy để tắt trừ khi bạn cần: một người dán vào các bản ghi lỗi có chứa mã thông báo (token) có thể kích hoạt một bước kiểm tra vài lần liên tiếp và bị khóa lại.

Rào chắn không phải là gì

• Chúng không phải là kiểm soát truy cập. Một rào chắn là một bộ lọc văn bản. Ai được đọc nguồn dữ liệu nào là do quyền của bộ kết nối quyết định, và ở chế độ Server là do tài khoản và vai trò quyết định.
• Các mẫu chống chèn chỉ dẫn là một gờ giảm tốc, không phải một ổ khóa. Chúng bắt được nỗ lực sao chép rồi dán lại chứ không bắt được một cách diễn đạt lại cẩn thận. Các quy tắc của chính Proxyma yêu cầu tác nhân (agent) không bao giờ coi nội dung truy xuất về là chỉ dẫn; các mẫu này nằm bên dưới quy tắc ấy.
• Bước kiểm tra ở khâu truy xuất sẽ cho một nguồn đi qua nếu chính bước kiểm tra gặp lỗi.
• Mục Nhật ký không phải là nhật ký kiểm toán. Nó nằm trong bộ nhớ và trống rỗng trở lại sau mỗi lần khởi động lại.

Nhận trợ giúp

Hãy hỏi qua địa chỉ contact@proxyma.ai. Nếu một rào chắn đang từ chối những công việc lẽ ra không nên bị từ chối, trước hết hãy chuyển sang chế độ chỉ theo dõi để mọi người tiếp tục làm việc trong lúc bạn tìm hiểu.