Gemini: Nền tảng Chatbot đang đối mặt với mối đe dọa tiêm lệnh gián tiếp

Gemini, nền tảng chatbot phát triển bởi Google, hiện đang phải đối mặt với những thách thức lớn trong việc bảo mật trước các cuộc tấn công tiêm lệnh gián tiếp. Đây là một hình thức tấn công mà kẻ xấu lợi dụng để khiến chatbot tiết lộ thông tin nhạy cảm hoặc thực hiện các hành động độc hại.

Tính năng ký ức dài hạn của Gemini

Một trong những tính năng nổi bật của Gemini là khả năng ghi nhớ thông tin từ các cuộc trò chuyện trước đó, được gọi là ký ức dài hạn. Tính năng này cho phép người dùng lưu trữ thông tin như địa điểm làm việc hay sở thích cá nhân, giúp chatbot trở nên thông minh hơn trong tương lai. Tuy nhiên, điều này cũng mở ra khả năng cho kẻ tấn công lợi dụng để cài đặt thông tin sai lệch vào bộ nhớ của Gemini.

Cuộc tấn công tiêm lệnh gián tiếp

Vào tháng 9, nhà nghiên cứu Johann Rehberger đã chứng minh rằng một tài liệu độc hại có thể được sử dụng để cài đặt ký ức sai lệch vào Gemini, khiến chatbot tin rằng người dùng có những thông tin không chính xác. Điều này làm cho Gemini có thể hành động dựa trên thông tin sai lệch trong các phiên tương lai.

Rehberger đã chỉ ra rằng việc tiêm lệnh gián tiếp có thể dễ dàng được thực hiện thông qua một kỹ thuật được gọi là “tiêm lệnh hoãn”. Thay vì cung cấp một lệnh đơn giản, nội dung không đáng tin cậy có thể điều kiện hóa yêu cầu dựa trên hành động của người dùng. Điều này khiến Gemini dễ dàng bị lừa khi người dùng thực hiện hành động mà kẻ tấn công đã dự đoán.

Phản ứng của Google

Mặc dù Google đã triển khai các biện pháp bảo mật để giảm thiểu những cuộc tấn công này, như hạn chế khả năng hiển thị liên kết markdown, nhưng các vấn đề cơ bản về tiêm lệnh gián tiếp vẫn chưa được giải quyết triệt để. Google đã đánh giá rằng mối đe dọa từ các cuộc tấn công này là thấp, nhưng các nhà nghiên cứu như Rehberger vẫn cảnh báo về những nguy cơ tiềm ẩn.

Gemini là một nền tảng chatbot tiên tiến với nhiều tính năng hữu ích, nhưng cũng đang phải đối mặt với những thách thức lớn về bảo mật. Việc cải thiện khả năng phòng ngừa trước các cuộc tấn công tiêm lệnh gián tiếp và bảo vệ thông tin dài hạn của người dùng là điều cần thiết để đảm bảo an toàn cho nền tảng này trong tương lai.