Video 'bẩn' trên mạng – Cuộc chiến người và máy

Kênh "Spiderman Frozen Marvel Superhero Real Life" từng kiếm được nguồn thu khủng nhờ lượt xem khổng lồ trên các đoạn video nhảm nhí phát trên Youtube.

Ai kiểm duyệt nội dung?

Bạn đã từng cài đặt YouTube Kids chưa? Bạn có đủ thời gian để xem cùng con hết các chương trình tràn lan trên mạng xã hội và Internet?

Mới đây, chuyên gia trong lĩnh vực công nghệ thông tin khẳng định: “Video 'bẩn' nhan nhản và ở lì trên các mạng xã hội. Sau khi xem xong một bộ phim hoạt hình, có 45% khả năng 1 trong số 10 video tiếp theo được đề xuất có nội dung “bẩn” chờ đợi một đứa trẻ” - Kostantinos Papadamou hiện là nghiên cứu sinh tiến sĩ tại Đại học Công nghệ Cyprus cho biết. Ông Papadamou nghiên cứu chủ yếu về phát hiện và ngăn chặn thông tin sai lệch ở các trang web, và từng làm trưởng nhóm kỹ thuật cho nhiều dự án do Liên minh châu Âu (EU) tài trợ. Ông đồng thời là đồng tác giả của một nghiên cứu về nội dung không lành mạnh cho trẻ em trên YouTube.

Có rất nhiều video trên các mạng xã hội nhìn qua tưởng vô hại bởi chúng được ngụy trang dưới vỏ bọc nhân vật hoạt hình mà lũ trẻ yêu thích như heo Peppa Pig, công chúa Elsa hay người Nhện...; nhưng hóa ra những hình ảnh máu me, bạo lực, tình dục, ngôn ngữ không phù hợp lại “ẩn nấp” khi kết thúc những video giải trí đó.

Rất nhiều cha mẹ đã gặp phải những tình huống phổ biến là thấy con xem phim về hoạt hình có vẻ vui nhộn, thế là họ yên tâm quay lưng “chúi mũi” vào công việc của mình. Nhưng đến lúc chợt bất ngờ có việc ngó vào phòng con thì thấy bé lại bị cuốn vào bộ phim về heo Peppa Pig tự tử hay hút thuốc. Thậm chí, bé đang chăm chú xem clip nữ hoàng băng giá Elsa ăn mặc hở hang thu hút đến hơn 30 triệu lượt xem; hoặc video Elsa cởi bỏ trang phục và lên giường với một người đàn ông?!

Trong hình là cảnh nữ hoàng băng giá và một người đàn ông khác tháo bỏ trang phục, không một mảnh vải che thân. Những video này đều được gắn mác "kids" (dành cho trẻ em). Ảnh cắt từ clip.

Hồi cuối năm 2017, Yeah1 từng bị Cục Phát thanh, Truyền hình & Thông tin điện tử (Bộ TT&TT) xử phạt vì đã có hành vi vi phạm hành chính khi không thực hiện các biện pháp cần thiết để ngăn chặn việc truy nhập thông tin hoặc loại bỏ thông tin trái pháp luật.

Nguyên do là kênh YouTube Spiderman Frozen Marvel Superhero Real Life đã liên tục đăng tải các đoạn video thuộc thể loại cosplay (tạo hình) các nhân vật nổi tiếng như Spiderman, Frozen hay công chúa Elsa. Điều đáng nói là kịch bản các đoạn video này chứa đựng nhiều cảnh kinh dị, máu me, đâm chém và có cả những chi tiết nhạy cảm với nội dung người lớn.

Những nội dung này đều vi phạm chính sách chung của YouTube. Thế nhưng, sở dĩ kênh YouTube trên có thể lộng hành như vậy là bởi sự “bảo kê” từ phía Yeah1, đối tác của Youtube tại Việt Nam. Bất chấp việc đây là nguồn phát tán những nội dung độc hại, hai bên vẫn được chia phần trăm từ số tiền quảng cáo khổng lồ thu lại nhờ lượng xem “khủng”.

Cuộc chiến giữa người và máy

Bạn có thể cấm con xem TV hoặc hạn chế giờ xem của trẻ. Nhưng giờ đây, mạng xã hội với kho video dồi dào đã nổi lên như một phương thức thay thế TV truyền thống, nhất là đối với những chương trình dành cho trẻ em. Phần lớn video trên mạng xã hội cũng vô hại, mang tính giải trí là chính, một số ít còn có tính giáo dục. Thế nhưng, chiếm tới 45% là video chứa nội dung không phù hợp nếu khán giả của chúng là trẻ em độ tuổi 5-6 tuổi. Nguy hiểm hơn, có đến nhiều chục triệu, thậm chí là hàng trăm triệu lượt xem những video “bẩn” này.

Vì lý do bảo mật, các mạng xã hội như YouTube không công bố thuật toán liên quan đến tự động phát hay đề xuất các video của mình. Và bằng rất nhiều cách, chủ nhân của những video có nội dung không phù hợp với trẻ nhỏ này vẫn có thể đánh lừa được thuật toán của máy móc.

Thậm chí, YouTube hồi cuối năm 2018 từng bị “đánh sập” mà không rõ lý do, sau đó, một nhóm hacker có tên là Ghost Squad Hackers đã lên tiếng nhận trách nhiệm về việc này.

Trong nỗ lực cung cấp trải nghiệm trực tuyến an toàn hơn trẻ nhỏ, YouTube đã ra mắt ứng dụng YouTube Kids tích hợp các chế độ tùy chọn giúp phụ huynh kiểm soát trải nghiệm của trẻ, cấp quyền điều khiển cho phụ huynh. Với YouTube Kids, cha mẹ được quyền quyết định xem con cái họ được phép xem gì và xem trong bao lâu.

Đáng tiếc thay, dù đã cố gắng để hạn chế, những nội dung không phù hợp vẫn hiển thị trên nền tảng video dành cho trẻ em này. Không dùng thuật toán, YouTube Kids sàng lọc video thủ công. Các nhân viên sẽ kiểm tra từng video được đăng tải để xem nó có phù hợp trẻ nhỏ hay không. Nếu có nội dung phản cảm hay bạo lực, nhân viên sẽ “gắn cờ” giới hạn độ tuổi; nếu không có cờ thì nhiều khả năng video ấy sẽ xuất hiện trên kênh cho trẻ nhỏ. Người dùng trong quá trình xem nếu thấy video nào nghi ngờ chứa nội dung không phù hợp với trẻ nhỏ mà chưa gắn cờ có thể báo cáo lên hệ thống YouTube.

Kết quả là, chỉ có khoảng 10% video được kiểm duyệt thủ công bị YouTube xóa khỏi trang, 8% được gắn cờ giới hạn độ tuổi, còn lại, trôi nổi trên mạng vẫn là hàng ngàn, hàng triệu video “bẩn”.

Trong kỷ nguyên internet, không chỉ YouTube, các mạng xã hội đều phải đánh vật để giải quyết vấn đề kiểm duyệt thủ công (vận hành bằng con người) đối đầu với lượng dữ liệu khổng lồ (vận hành bằng máy móc) khó có thể kiểm soát.

Xu hướng sử dụng mạng xã hội ngày càng tăng, cảnh trẻ nhỏ không thể rời iPad, laptop đã không còn xa lạ. Những đứa trẻ xem nhiều video “bẩn” có thể lớn lên với nhiều rủi ro về cân bằng tâm – sinh lý. Đây thực sự là một vấn đề đáng lo ngại, đáng đánh động cho toàn xã hội.

Hòa Bình