Những công cụ AI để chống lại deepfake

Thông thường, thủ phạm đằng sau deepfake thường có mục đích xấu là tìm cách tác động tiêu cực đến công chúng trong các cuộc bầu cử, đánh lừa mọi người về các cuộc khủng hoảng, như vụ nổ tàu ngầm thám hiểm Titanic, thảm họa cháy rừng ở Hawaii hay động đất ở Morocco mới đây.

Deepfake ngày càng tinh vi và bùng nổ mạnh mẽ nhờ AI, bởi vậy người dùng và các nhà báo cũng cần phải sử dụng chính AI để chống lại chúng.

Ví dụ: Những hình ảnh do AI tạo ra về một vụ nổ ở Lầu Năm Góc của Mỹ đã lan truyền vào tháng 5 vừa rồi. Trước đó, vào tháng 3, những hình ảnh giả do AI tạo ra về cựu Tổng thống Mỹ Donald Trump bị bắt và Giáo hoàng Francis mặc áo phao được lan truyền rộng rãi trên mạng xã hội.

Trong cuộc tổng tuyển cử năm nay ở Nigeria, đoạn âm thanh giả mạo đã tuyên bố rằng ứng cử viên Tổng thống Atiku Abubakar, cùng Tiến sĩ Ifeanyi Okowa và Thống đốc bang Sokoto Aminu Tambuwal đang lên kế hoạch gian lận cuộc bỏ phiếu, đã lan truyền trên mạng.

Silas Jonathan, một nhà nghiên cứu tại Dubawa và là thành viên tại Học viện Điều tra Nguồn Mở châu Phi, cho biết không thể phủ nhận rằng deepfake đã đặt ra những câu hỏi và mối lo ngại quan trọng cho giới truyền thông.

Ảnh giả vụ nổ ở Lầu Năm Góc do AI tạo ra.

Jeffrey Nyabor, một nhà báo người Ghana và người kiểm tra thực tế tại Dubawa Ghana, cho biết những kẻ sử dụng công nghệ này vì mục đích xấu càng thành công bao nhiêu, thì độ tin cậy của người dân vào các phương tiện truyền thông càng mất đi, đơn giản vì họ ngày càng ít có khả năng xác định đâu là thật và đâu là giả .

Tuy nhiên, AI có thể vừa là vấn đề vừa cũng chính là giải pháp. Dưới đây là một số công cụ mà các nhà báo có thể sử dụng để chống lại deepfake:

Deep neural networks (Mạng lưới thần kinh sâu)

TensorFlow và PyTorch là hai ví dụ về các công cụ miễn phí sử dụng mạng lưới thần kinh sâu để phát hiện ra chính những vấn đề từ công nghệ này. Chúng có thể được sử dụng để phân tích hình ảnh, video và tín hiệu âm thanh nhằm phát hiện các dấu hiệu thao túng, sửa đổi. Người dùng chỉ cần tải lên các ví dụ về phương tiện truyền thông thật và giả để huấn luyện mô hình phát hiện nhằm phân biệt giữa hai phương tiện truyền thông này.

Giao diện bằng tiếng Việt của TensorFlow.

Jonathan cho biết: “Các mạng này có thể học hỏi từ lượng dữ liệu khổng lồ để xác định sự không nhất quán trong nét mặt, chuyển động hoặc kiểu giọng nói có thể cho thấy sự hiện diện của một deepfake. Các thuật toán học máy cũng có thể được đào tạo để phân tích và phát hiện các mẫu trong video hoặc hình ảnh nhằm xác định xem chúng có bị thao túng hoặc tạo ra bởi các kỹ thuật deepfake hay không”.

Deepware

Deepware là một công nghệ nguồn mở chủ yếu dành riêng cho việc phát hiện các video do AI tạo ra. Trang web có một máy quét để tải video lên nhằm tìm hiểu xem chúng có bị chỉnh sửa một cách tổng hợp hay không.

Tương tự như các máy dò deepfake khác, các mô hình deepware tìm kiếm các dấu hiệu thao túng trên khuôn mặt con người. Hạn chế chính của công cụ này là không có khả năng phát hiện các kỹ thuật hoán đổi giọng nói, điều này nguy hiểm hơn nhiều so với hoán đổi khuôn mặt.

“Kết quả không phải lúc nào cũng chính xác 100%. Đôi khi nó bị trúng hoặc trượt, tùy thuộc vào mức độ tinh vi của sản phẩm giả mạo, ngôn ngữ của nó và một số yếu tố khác”, Mayowa Tijani , Tổng biên tập của TheCable cho biết .

Sensity

Sensity chuyên phát hiện deepfake và nhận dạng hình ảnh do AI tạo ra. Các mô hình học máy tiên tiến của nó có thể được sử dụng để phân tích các tín hiệu hình ảnh và ngữ cảnh nhằm xác định hình ảnh do AI tạo ra. Tuy nhiên, công cụ này không miễn phí; phí được tùy chỉnh dựa trên mức sử dụng hàng tháng và các lĩnh vực quan tâm.

Hive

Với Hive, những người xác minh thông tin độc lập và người dùng internet bình thường có thể nhanh chóng quét văn bản và hình ảnh kỹ thuật số để xác minh tính xác thực của chúng. Để xác minh hình ảnh, người dùng tải file lên trang phát hiện nội dung do AI tạo để được xử lý nhanh chóng.

Hive là một công cụ đơn giản để mọi người đều có thể phát hiện các sản phẩm do deepfake tạo ra.

Ngoài ra còn có tiện ích mở rộng Chrome của trình phát hiện Hive AI, có thể được thêm vào máy tính để bàn. Điều này cho phép người dùng phát hiện miễn phí văn bản và hình ảnh do AI tạo ra từ trình duyệt.

Illuminarty

Illuminarty cũng cung cấp khả năng phát hiện hình ảnh và văn bản do AI tạo ra. Phiên bản miễn phí bao gồm các dịch vụ cơ bản, còn các gói cao cấp của công cụ này cung cấp nhiều chức năng hơn.

Với công cụ này, người dùng có thể xác định vị trí thao tác trong hình ảnh giả và nó được tạo ra từ mô hình AI nào. Nó cũng có thể đánh giá khả năng hình ảnh được tạo ra bởi AI.

Tất cả những công cụ nói trên đều có thể giúp người dùng xác định và chống lại các hành vi deepfake, nhưng chúng không phải lúc nào cũng chính xác 100%.

Các nhà báo và những người kiểm tra thực tế độc lập cũng có thể phát hiện ra một deepfake bằng cách quan sát nội dung một cách nghiêm túc. Không phải tất cả hình ảnh và video do AI tạo ra đều siêu hoàn hảo. Chúng vẫn có thể được phát hiện bằng cách xem xét chúng một cách cẩn thận.

Hoàng Hải (theo IJNET)