☠️ 6. Tìm hiểu chuyên sâu về filtering: Một vũ khí mạnh mẽ chống lại tiêm nhiễm prompt

Mối đe dọa tiêm nhiễm prompt:

Trước khi đi sâu vào lọc, hãy cùng thừa nhận kẻ thù mà chúng ta phải đối mặt: tấn công tiêm nhiễm prompt. Kỹ thuật tinh vi này khai thác các lỗ hổng của các mô hình ngôn ngữ lớn (LLM) bằng cách chèn thông tin có hại, thường được ngụy trang vào các prompt của chúng. Hậu quả có thể rất nghiêm trọng, từ đầu ra thiên vị đến bản dịch bị thao túng và thậm chí là tạo ra nội dung có hại.

Ví dụ về tiêm nhiễm prompt:

• ☠ Tạo nội dung có hại: Một kẻ tấn công có thể chèn một từ hoặc cụm từ có liên quan đến chủ đề thù địch vào prompt của một hệ thống dịch ngôn ngữ để khiến hệ thống dịch văn bản thành một thông điệp thù địch. Ví dụ, kẻ tấn công có thể chèn từ "khủng bố" vào prompt "dịch tiếng Anh sang tiếng Việt" để khiến hệ thống dịch "the war in Iraq" thành "cuộc chiến khủng bố ở Iraq".
• ➗ Tạo nội dung thiên vị: Một kẻ tấn công có thể chèn một từ hoặc cụm từ có liên quan đến một nhóm người cụ thể vào prompt của một hệ thống tạo văn bản để khiến hệ thống tạo ra văn bản thiên vị đối với nhóm người đó. Ví dụ, kẻ tấn công có thể chèn từ "phụ nữ" vào prompt "tạo một đoạn văn bản về một nhà khoa học" để khiến hệ thống tạo ra một đoạn văn bản chỉ nói về các nhà khoa học nữ.
• 🙅🏻 Tạo nội dung sai lệch: Một kẻ tấn công có thể chèn một từ hoặc cụm từ có liên quan đến một tuyên bố sai lệch vào prompt của một hệ thống trả lời câu hỏi để khiến hệ thống trả lời câu hỏi đó một cách sai lệch. Ví dụ, kẻ tấn công có thể chèn từ "vaccine" vào prompt "tác dụng phụ của vaccine COVID-19" để khiến hệ thống trả lời rằng vaccine COVID-19 có nhiều tác dụng phụ nghiêm trọng.

Giới thiệu filtering:

Bây giờ, hãy cùng gặp vị anh hùng của chúng ta: filter. Cũng giống như áo giáp của hiệp sĩ, filter bảo vệ LLM khỏi các prompt độc hại. Nguyên tắc cốt lõi của nó là gì? Kiểm tra cả prompt ban đầu và đầu ra của LLM để tìm các từ và cụm từ không mong muốn. Hãy nghĩ về nó như một người gác cổng ngôn ngữ, đứng gác chống lại những ảnh hưởng không mong muốn.

Hai biến thể của filter:

• 🚫 Blocklisting: Hãy tưởng tượng một danh sách từ ngữ không được phép đối với LLM. Blocklisting liên quan đến việc biên soạn một danh sách các từ và cụm từ không mong muốn mà bộ lọc sẽ chủ động chặn không cho đi qua. Phương pháp này rất giỏi trong việc ngăn chặn các mối đe dọa cụ thể đã biết.
  • Blocklisting: Một hệ thống lọc sử dụng blocklisting có thể chặn các từ hoặc cụm từ sau khỏi prompt của một hệ thống dịch ngôn ngữ:
    • "khủng bố"
    • "tự do"
    • "chính phủ"
• ✅ Allowlisting: Thay vì tập trung vào việc chặn gì, allowlisting lật ngược kịch bản, chỉ định cụ thể các từ và cụm từ mà LLM được phép xử lý. Cách tiếp cận này phát triển mạnh trong các tình huống mà mức độ kiểm soát và dự đoán cao được mong muốn.
  • Allowlisting: Một hệ thống lọc sử dụng allowlisting có thể chỉ cho phép các từ hoặc cụm từ sau được sử dụng trong prompt của một hệ thống tạo văn bản:
    • "nhà khoa học"
    • "khoa học"
    • "nghiên cứu"

Chọn vũ khí phù hợp:

Lựa chọn kỹ thuật lọc lý tưởng phụ thuộc vào ngữ cảnh và mức độ rủi ro. Blocklisting tỏa sáng trong các tình huống mà các mối đe dọa được xác định rõ ràng, trong khi allowlisting thống trị khi kiểm soát nghiêm ngặt là tối quan trọng.

Hãy nhớ rằng, đây không phải là các tùy chọn loại trừ lẫn nhau. Thông thường, hàng phòng thủ vững chắc nhất kết hợp sức mạnh của cả hai cách tiếp cận. Hãy nghĩ về nó như một hệ thống bảo mật nhiều lớp, với các danh sách chặn lọc ra các mối đe dọa phổ biến và danh sách cho phép đảm bảo rằng chỉ ngôn ngữ được ủy quyền mới xâm nhập vào LLM.

Lợi ích của filter:

Vậy, tại sao bạn nên sử dụng lọc làm bạn thân về bảo mật AI của mình? Hãy đếm những lợi ích của nó:

• 👮 Tăng cường bảo mật: Lọc hoạt động như một lá chắn vững chắc, bảo vệ LLM của bạn khỏi bị thao túng và đầu ra có hại.
• 🏅 Cải thiện độ tin cậy: Bằng cách đảm bảo đầu ra không bị thiên vị và thao túng, lọc củng cố niềm tin và sự tự tin của người dùng đối với hệ thống AI của bạn.
• 🕹️ Kiểm soát nhiều hơn: Lọc trao quyền cho bạn tùy chỉnh ngôn ngữ mà LLM của bạn xử lý, dẫn đến đầu ra dự đoán và nhất quán hơn.

Những thách thức của filter:

Giống như bất kỳ chiến binh giỏi nào, lọc cũng phải đối mặt với những thách thức riêng của mình:

• Duy trì danh sách: Bảo trì danh sách chặn và cho phép là rất quan trọng. Danh sách cũ sẽ trở nên dễ bị tổn thương, trong khi danh sách quá hạn chế có thể cản trở chức năng của LLM.
• Xác định ngữ cảnh: Các thuật toán lọc cần nhận thức được ngữ cảnh để phân biệt giữa các từ đồng âm vô hại và các từ có nhiều nghĩa. Ví dụ, từ "công ty" có thể có nghĩa là một tổ chức kinh doanh hoặc một nhóm người cùng làm việc cùng nhau. Nếu thuật toán lọc không nhận thức được ngữ cảnh, thì nó có thể chặn các prompt hợp pháp, chẳng hạn như "tạo một đoạn văn bản về một công ty công nghệ".
• Các mối đe dọa đang phát triển: Các tác nhân xấu thích nghi, vì vậy các chiến lược lọc phải phát triển theo.