Lỗ hổng bảo mật nghiêm trọng của Gemini

Theo một nghiên cứu được công bố mới đây, các nhà nghiên cứu đã chỉ ra một lỗ hổng đáng báo động trong mô hình AI Gemini của Google. Họ đã phát hiện ra rằng có thể "đánh lừa" Gemini thực hiện các hành vi độc hại, bao gồm chiếm quyền điều khiển các thiết bị trong nhà thông minh của người dùng, bằng cách chèn các câu lệnh độc hại vào các ứng dụng mà AI này được tích hợp.

Cụ thể, nhóm nghiên cứu đã nhúng các câu lệnh này vào lời mời trên Google Calendar. Khi người dùng tương tác với AI, chẳng hạn như nói "cảm ơn" sau khi nhận được thông tin, Gemini đã vô tình thực hiện các tác vụ mà tin tặc đã cài cắm từ trước.

Kết quả, AI này đã tự động tắt đèn và khởi động lò hơi, một hành động hoàn toàn nằm ngoài ý muốn của chủ nhà.

Các nhà nghiên cứu cho biết, nếu kẻ xấu lợi dụng lỗ hổng này, những hành động nguy hiểm hơn có thể xảy ra trong một ngôi nhà thông minh.

Đây không phải là một cuộc tấn công đòi hỏi kỹ năng mã hóa cao siêu, mà chỉ cần lợi dụng sự ngây thơ của các mô hình AI tạo sinh. Gemini, giống như nhiều mô hình khác, được thiết kế để lắng nghe và thực hiện yêu cầu bằng ngôn ngữ tự nhiên. Chính điều này đã khiến nó trở nên dễ bị "bẻ khóa" hơn.

Bằng cách cài đặt một "lời nhắc" bí mật, các nhà nghiên cứu đã khiến Gemini ghi nhớ và thực hiện một tác vụ cụ thể mỗi khi nghe thấy một cụm từ nhất định từ người dùng.

Google đã nhanh chóng vá lỗ hổng này và khẳng định rằng những kịch bản này đòi hỏi sự chuẩn bị phức tạp, khó có thể xảy ra trong thực tế.

Việt Vũ