Nạn nhân của AI deepfake

“Tâm bão” deepfake

Mọi chuyện bắt đầu bằng một tài khoản Instagram mang tên Babydoll Archi. Trong một video ngắn, cô gái trẻ xuất hiện trong chiếc áo giản dị, nháy mắt một cái đã biến thành bộ saree lộng lẫy. Điệu nhạc “Dame Un Grrr” vang lên, tạo hiệu ứng cuốn hút, và chỉ sau vài ngày, đoạn clip đã thu hút hàng triệu lượt xem.

Tiếp theo là một bức ảnh cô chụp cùng Kendra Lust - ngôi sao phim người lớn, càng khiến người ta bàn tán. Tin đồn lan truyền với tốc độ chóng mặt, đó là Archita từng làm việc ở khu đèn đỏ GB Road, phải chi khoảng 700 triệu đồng để “chuộc thân”, và giờ đang sống cuộc đời hào nhoáng ở nước ngoài.

Một số bài báo thậm chí còn trích dẫn một bài đăng Instagram năm 2023, nơi “Archita” kể về hành trình thoát khỏi 6 năm làm nghề mại dâm và giúp 8 cô gái khác được tự do. Một câu chuyện nghe như kịch bản phim Bollywood - kịch tính, ám ảnh và đầy mùi giật gân.

Nhưng rồi, sự thật phơi bày khiến mọi người sững sờ. Người đứng sau tài khoản Babydoll Archi không phải Archita, mà là Pratim Bora, bạn trai cũ của cô, một kỹ sư cơ khí 27 tuổi. Bora thay vì chọn cách vượt qua nỗi đau tình cảm như bao người, đã quyết định chơi một ván bài công nghệ cao, dùng trí tuệ nhân tạo (AI) để biến Archita thành nạn nhân của một âm mưu trả thù tinh vi.

Với các công cụ AI như MidJourney, Desire AI hay OpenArt AI, anh ta lấy những bức ảnh cũ của Archita, có lẽ từ thời còn quen nhau, và phù phép chúng thành những hình ảnh, video nhạy cảm, thậm chí gán ghép cô với Kendra Lust để tạo tin đồn thất thiệt. Mục đích ban đầu chỉ là trả thù tình, nhưng anh ta đã nhanh chóng biến nó thành một công cụ kiếm tiền. Tài khoản giả mạo này không chỉ thu hút tới 1,4 triệu người theo dõi, mà còn mang về cho Bora khoảng 280 triệu đồng thông qua quảng cáo và nội dung trả phí.

Archita thật tên đầy đủ là Archita Phukan, cô sinh năm 1995, vốn không phải là một influencer (người ảnh hưởng), càng không phải nhân vật gây bão mạng. Cô sống kín đáo, ít khi sử dụng mạng xã hội. Nhưng chỉ một mối quan hệ đổ vỡ và một kẻ mang mối hận tình đã đủ để biến hình ảnh của cô thành “vật liệu” cho một trò lừa đảo công nghệ cao.

Câu chuyện lan truyền rằng cô từng làm gái mại dâm, từng hợp tác với diễn viên phim người lớn, thực chất đều là kịch bản giả mà Bora tự dựng để tạo thêm “chiều sâu” cho trò lừa của mình.

Một số trang báo lá cải, thiếu kiểm chứng, đã vội vàng gọi cô là “influencer địa phương”, nhưng các báo uy tín như Economic Times và IndiaTimes, dựa trên kết quả điều tra của cảnh sát Assam, đã khẳng định Archita chưa từng đăng bất kỳ nội dung nào. Babydoll Archi là một deepfake tinh vi không hơn, không kém.

Lời cảnh tỉnh về công nghệ

May mắn là drama (vở kịch) này không kéo dài mãi như một bộ phim dài tập. Ngày 12-7, anh trai của Archita, không chịu nổi cảnh em gái bị bôi nhọ, đã nộp đơn khiếu nại tại đồn cảnh sát Dibrugarh. Cảnh sát nhanh chóng lần theo dấu vết kỹ thuật số, từ tài khoản giả đến số điện thoại của Bora.

Ngày 13-7, Bora bị bắt và thú nhận toàn bộ kế hoạch, từ việc dùng AI để tạo nội dung giả, đến việc kiếm tiền từ tài khoản Babydoll Archi, sau này đổi tên thành Amira Ishtara để tiếp tục đánh lừa dư luận.

Điện thoại của Bora đã được gửi đi phân tích pháp y, và hiện cảnh sát vẫn đang điều tra xem có đồng phạm nào khác hay không. Archita hoàn toàn không biết gì về tài khoản giả hay những nội dung nhạy cảm cho đến khi chúng lan truyền khắp mạng. Cô gái trẻ này bỗng thấy hình ảnh mình bị bóp méo, gắn với những điều không thuộc về cô, như thể bị kéo vào một cơn ác mộng thời đại số, nơi danh tiếng có thể tan biến chỉ qua vài cú click.

Bora không chỉ ghép mặt Archita vào video nhạy cảm, mà còn bịa ra cả “câu chuyện đời đầy nước mắt” của cô để câu kéo sự thương cảm và hiếu kỳ của đám đông. Archita, từ một người ngoài cuộc, bỗng chốc trở thành tâm điểm bão dư luận. Cô bị hàng ngàn người xa lạ săm soi, bình phẩm, thậm chí nhục mạ.

“Tôi chưa bao giờ nghĩ chỉ một bức ảnh cũ có thể hủy hoại danh dự của mình” - Archita nói trong một đoạn phỏng vấn ngắn. Cô vẫn chưa dám quay lại mạng xã hội và đang tìm cách phục hồi tinh thần sau cú sốc.

Vụ Babydoll Archi đã làm dậy sóng mạng xã hội Ấn Độ. Nhiều người gọi đây là “tội ác kỹ thuật số”, là hồi chuông báo động cho thời đại deepfake. Prabhu Ram, chuyên gia công nghệ, được trích dẫn trên Times Now, cảnh báo rằng bất cứ ai cũng có thể trở thành nạn nhân.

Nếu một kỹ sư cơ khí bình thường, chỉ với vài công cụ AI miễn phí, đã có thể dựng lên một nhân vật ảo triệu follow, thì hãy tưởng tượng điều gì sẽ xảy ra khi công nghệ này rơi vào tay những tổ chức tội phạm tinh vi hơn.

Bài học ở đây không chỉ dành cho nạn nhân hay cho những người yêu công nghệ, mà còn cho cả cộng đồng mạng - những người đã quen tin vào thứ gì đó chỉ vì nó nóng hay có tích xanh.

Một tài khoản Instagram triệu người theo dõi, một video nhìn quá thật, một câu chuyện nghe quá kịch tính, tất cả có thể chỉ là ảo ảnh được tạo ra từ vài cú click chuột. Và khi sự thật phơi bày, danh dự của một người đã bị hủy hoại, còn đám đông thì thản nhiên lướt sang vụ bê bối khác.

Ánh Vân