Bẫy 'Deepfake: Cú lừa siêu hạng 25 triệu USD bằng công nghệ AI

Ngày 17/6, Công ty Arup của Anh - đứng sau các tòa nhà nổi tiếng thế giới như Nhà hát Opera Sydney hay sân vận động Tổ chim Trung Quốc, cho biết hồi tháng 1 năm nay họ đã phải trình báo cảnh sát Hong Kong về một vụ lừa đảo có sử dụng công nghệ deepfake (phương tiện tổng hợp đã được điều khiển bằng kỹ thuật số để thay thế chân dung của người này bằng chân dung của người khác).

Cảnh sát Hong Kong cho biết vào tháng 2 rằng trong vụ lừa đảo phức tạp, một nhân viên tài chính của công ty, đã bị lừa tham gia một cuộc gọi điện video với những người mà anh ta tin là giám đốc tài chính và các nhân viên khác, nhưng tất cả đều là sản phẩm "thay mặt" của deepfake.

Theo cảnh sát, ban đầu nhân sự này nhận được một email lừa đảo từ văn phòng công ty ở Anh, yêu cầu thực hiện một giao dịch bí mật. Mặc dù có sự nghi ngờ, nhưng nhân viên này đã hoàn toàn gạt bỏ những thắc mắc sau khi tham gia cuộc gọi video với những người "đồng nghiệp" khác.

Sau đó, nhân viên này đồng ý thực hiện tổng cộng 15 giao dịch với tổng trị giá 200 triệu HKD (khoảng 25,6 triệu USD) và "mất trắng" số tiền.

Tòa nhà văn phòng 40 tầng hình tên lửa của Swiss Re London có sự góp công của Arup.

Theo người phát ngôn của Arup, cuộc điều tra vẫn đang diễn ra và giọng nói lẫn hình ảnh giả đã được sử dụng trong vụ lừa đảo.

“Giống như nhiều doanh nghiệp khác trên toàn cầu, hoạt động của chúng tôi thường xuyên bị tấn công, bao gồm gian lận hóa đơn, lừa đảo trực tuyến, giả mạo giọng nói WhatsApp và deepfake. Những gì chúng tôi thấy là số lượng và mức độ phức tạp của các cuộc tấn công này đã tăng mạnh trong những tháng gần đây”, Rob Greig, giám đốc thông tin toàn cầu của Arup, cho biết trong tuyên bố gửi qua email.

Tuy nhiên, người này nói thêm: “Sự ổn định tài chính và hoạt động kinh doanh của chúng tôi không bị ảnh hưởng và không có hệ thống nội bộ nào của chúng tôi bị xâm phạm”.

Rủi ro ngày càng tăng từ deepfake

Các nhà chức trách trên khắp thế giới ngày càng lo ngại về sự phức tạp của công nghệ deepfake và những mục đích bất chính mà nó có thể gây ra.

“Deepfake” thường dùng để chỉ các hình ảnh/video giả mạo được tạo bằng trí tuệ nhân tạo (AI) và trông cực kỳ chân thực.

Đầu năm nay, những hình ảnh khiêu dâm do AI tạo ra của ngôi sao nhạc pop Taylor Swift đã lan truyền chóng mặt trên mạng xã hội, nhấn mạnh tiềm năng gây thiệt hại do công nghệ AI gây ra.

Đầu tháng này, thông tin một phụ nữ Hàn Quốc đã mất tới 70 triệu won (50.770 USD) vì bị Elon Musk "giả” kêu gọi đầu tư cũng gây xôn xao. Cụ thể, hình ảnh của vị tỷ phú được tạo ra bằng công nghệ deepfake, sau đó bị các đối tượng lợi dụng để tiếp cận với người hâm mộ.

Để tạo niềm tin, đối tượng sẵn sàng gọi điện video, trò chuyện thường xuyên với người bị hại và đưa ra lời khuyên đầu tư. Sau khi nạn nhân chuyển khoản, đối tượng này biến mất.

Elon Musk là một trong những người nổi tiếng bị giả mạo nhiều nhất.

Sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả mạo) đã bị nhiều đối tượng lợi dụng để thực hiện các hành vi lừa đảo. Bởi công nghệ này cho phép tạo ra “người giả mạo” khi khuôn mặt, giọng nói của tất cả mọi người dễ dàng ghép vào mọi nội dung mà chúng tạo ra, mang lại cảm giác như thật.

Tại Việt Nam, Trung tâm giám sát an toàn không gian mạng quốc gia (Cục An toàn thông tin, Bộ Thông tin và Truyền thông), cũng đã phát cảnh báo về việc công nghệ deepfake đã trở thành mối đe dọa đối với không gian mạng trong nước.

Minh Ý