Tác nhân AI trong trình duyệt: Lợi ích và rủi ro

Tác nhân AI cũng có tính hai mặt cần thận trọng

Lợi thì thì có lợi

Các tác nhân AI được coi là một trong những công nghệ đầy hứa hẹn trong tương lai. Chúng có thể đóng vai trò trợ lý cho người dùng cá nhân, thực hiện các công việc lặp đi lặp lại trong doanh nghiệp. Điều đặc biệt ở các tác nhân AI chính là khả năng tự động hoàn thành nhiệm vụ trong một phạm vi nhất định.

Chúng thậm chí còn có thể vận hành các trình duyệt như Edge hoặc Chrome. Mặc dù đây là một bước tiến lớn, nhưng trong một số trường hợp, điều này lại có thể trở thành rủi ro bảo mật nghiêm trọng.

SquareX – một công ty chuyên về bảo mật trình duyệt web – hiện đang lên tiếng cảnh báo. Trên Forbes, họ cho biết: “Mọi chuyên gia bảo mật đều biết rằng con người là mắt xích yếu nhất trong hệ thống bảo mật doanh nghiệp. Nhưng nếu điều đó không còn đúng nữa thì sao?” Các tác nhân trình duyệt – hiện đang được nhiều công ty sử dụng – đang trở thành một mối đe dọa lớn về bảo mật.

Nhưng dễ trở thành lỗ hổng an ninh

SquareX cảnh báo: “Các tác nhân AI trên trình duyệt khiến doanh nghiệp đối mặt với rủi ro bảo mật nghiêm trọng. Các tác nhân này được huấn luyện để thực hiện nhiệm vụ mà không hiểu rõ các hậu quả bảo mật từ hành động của mình”.

Điều này đồng nghĩa với việc các tác nhân không có khả năng nhận diện rủi ro an ninh mạng. Những dấu hiệu cảnh báo mà con người có thể dễ dàng nhận ra – như URL sai lệch, yêu cầu truy cập bất thường, hay giao diện website trông đáng ngờ – lại rất khó để tác nhân AI phát hiện. Chúng cũng bỏ qua các cảnh báo khi tải tệp từ trình duyệt.

Trong một thử nghiệm minh họa, SquareX đã yêu cầu một tác nhân AI trên trình duyệt tìm và đăng ký với một công cụ chia sẻ tệp. Tác nhân này đã bị mắc bẫy một cuộc tấn công OAuth. OAuth cho phép các dịch vụ truy cập ứng dụng mà không cần nhập mật khẩu hay xác thực hai yếu tố.

Trong một cuộc tấn công, tác nhân AI đã “cấp quyền truy cập toàn bộ email của người dùng cho một ứng dụng độc hại, bất chấp nhiều dấu hiệu khả nghi như quyền truy cập không liên quan, thương hiệu không rõ ràng, và URL đáng ngờ – tất cả những điều mà phần lớn nhân viên con người có thể nhận ra và từ chối”.

Cách quản lý và kiểm soát tác nhân AI

Hạn chế quyền hạn (Least Privilege)

Các tác nhân AI chỉ nên được cấp quyền truy cập và thực hiện các tác vụ tối thiểu cần thiết để hoàn thành công việc được giao. Thay vì cho phép tác nhân truy cập toàn bộ tài khoản email hoặc hệ thống, hãy chỉ cung cấp quyền truy cập vào các thư mục hoặc chức năng cụ thể mà nó cần. Ví dụ, nếu tác nhân chỉ cần quản lý lịch, đừng cấp quyền truy cập vào các tệp nhạy cảm.

Giới hạn môi trường hoạt động (Sandboxing/Isolation)

Chạy tác nhân AI trong một môi trường bị cô lập, giống như một "hộp cát" (sandbox), để ngăn chặn nó truy cập hoặc gây hại cho các phần khác của hệ thống nếu bị tấn công.

Ví dụ, khi tác nhân AI kiểm soát trình duyệt, hãy đảm bảo nó hoạt động trong một trình duyệt ảo hoặc một phiên làm việc được cách ly. Nếu tác nhân bị lừa đảo, thiệt hại sẽ chỉ giới hạn trong môi trường đó.

Kiểm soát và giám sát chặt chẽ

Triển khai cơ chế giám sát liên tục các hoạt động của tác nhân AI. Nên thực hiện việc ghi lại mọi hành động mà tác nhân thực hiện, bao gồm cả các quyết định được đưa ra và các công cụ được sử dụng.

Thiết lập hệ thống cảnh báo khi tác nhân thực hiện các hành động bất thường, truy cập tài nguyên không cần thiết hoặc có dấu hiệu bị thao túng. Thực hiện kiểm toán bảo mật thường xuyên để đánh giá hiệu quả của tác nhân và phát hiện các lỗ hổng tiềm ẩn.

Xác minh đầu ra và chấp thuận của con người (Human-in-the-Loop)

Đối với các tác vụ quan trọng hoặc có rủi ro cao, yêu cầu sự chấp thuận của con người trước khi tác nhân AI thực hiện hành động cuối cùng.

Ví dụ, nếu tác nhân AI đề xuất chuyển tiền hoặc gửi email quan trọng, cần có xác nhận từ người dùng. Điều này đặc biệt quan trọng với các tác vụ tài chính hoặc những hành động có thể gây ra hậu quả lớn.

Nâng cao khả năng bảo mật của tác nhân AI

Huấn luyện AI với dữ liệu và nguyên tắc bảo mật

Tích hợp kiến thức về an ninh mạng vào quá trình huấn luyện các mô hình AI nền tảng của tác nhân. Có thể huấn luyện LLM để nó có thể nhận diện các dấu hiệu lừa đảo (URL đáng ngờ, yêu cầu quyền truy cập không liên quan, thiết kế website lạ) và cảnh báo người dùng thay vì bỏ qua chúng.

Tích hợp cơ chế xác thực mạnh mẽ

Đảm bảo tác nhân AI sử dụng các phương pháp xác thực an toàn khi tương tác với các dịch vụ bên ngoài. Tác nhân không nên dễ dàng "cấp quyền truy cập" qua OAuth hoặc các cơ chế xác thực yếu khác mà không có sự kiểm tra hoặc xác nhận bổ sung. Nếu có thể, nên sử dụng các phương thức xác thực đa yếu tố (MFA) tự động hoặc yêu cầu sự can thiệp của con người.

Thiết kế AI an toàn theo mặc định (Secure by Design)

An ninh phải được xem xét ngay từ đầu trong quá trình thiết kế và phát triển tác nhân AI, chứ không phải là một tính năng bổ sung sau này. Xây dựng tác nhân với các cơ chế phòng thủ tích hợp, đảm bảo rằng ngay cả khi có lỗi, nó cũng không thể gây ra thiệt hại nghiêm trọng.

Cập nhật thường xuyên

Giống như bất kỳ phần mềm nào, tác nhân AI và các thành phần của nó (LLM, công cụ) cần được cập nhật thường xuyên để vá lỗi bảo mật và nâng cao khả năng phòng thủ trước các mối đe dọa mới.

Cách đơn giản để người dùng có thể tự bảo vệ mình

Người dùng Chrome đặc biệt dễ bị ảnh hưởng bởi lỗ hổng này – đơn giản vì số lượng người dùng rất lớn. Tuy nhiên, cả Chrome và Edge đều cung cấp các cài đặt có thể hỗ trợ bảo mật. Những ai đang sử dụng tác nhân AI trong trình duyệt nên đặt mức bảo vệ cao nhất.

Ví dụ, trong Chrome, bạn có thể tìm thấy thiết lập này trong phần “Bảo mật và quyền riêng tư” > “Bảo mật”. Tại đó, bạn có thể chọn từ “Không bảo vệ” đến “Bảo vệ nâng cao”. Tuy nhiên, ngay cả tùy chọn cao nhất cũng không hoàn toàn an toàn khi sử dụng tác nhân AI theo kiểu giao phó hoàn toàn.

Anh Tú