Nỗi lo từ AI: Khi nội dung chắp ghép không kiểm duyệt đe dọa thế hệ tương lai

AI đang định hình lại thế giới với những tiến bộ vượt bậc, nhưng sự phát triển nhanh chóng này cũng tiềm ẩn nhiều nguy cơ. Nội dung do AI tạo ra, đặc biệt là cắt ghép/deepfake tinh vi, ngày càng khó nhận biết và đang trở thành mối đe dọa nghiêm trọng, đặc biệt đối với trẻ em. Nhiều vụ việc thương tâm và sai lệch thông tin gần đây đã gióng lên hồi chuông cảnh báo về hệ lụy khôn lường của AI thiếu kiểm soát.

Những hồi chuông cảnh báo không thể phớt lờ

Hình ảnh: Nguyễn Thắng Nhật Tuệ

Bi kịch đau lòng được một bác sĩ chuyên khoa cấp cứu chia sẻ mới đây là một minh chứng xót xa. Một bé trai 12 tuổi đã phải nhập viện cấp cứu trong tình trạng nguy kịch và không qua khỏi sau khi được mẹ phát hiện treo cổ tại nhà. Điều gì đã diễn ra trong tâm trí đứa trẻ non nớt ấy?

Mặc dù không ai có thể đưa ra câu trả lời chính xác, nhưng vụ việc này đã gợi mở mối liên hệ đáng sợ giữa nội dung độc hại trên mạng xã hội và hành vi bộc phát của trẻ. Trong bối cảnh cha mẹ bận rộn, giao phó con cho điện thoại, những nội dung khuyến khích tự hại hoặc mô phỏng hành vi tự tử dễ dàng tiếp cận và tác động tiêu cực đến tâm lý, cảm xúc của trẻ. Đây là hệ quả trực tiếp từ việc thiếu kỹ năng kiểm soát cảm xúc, thiếu sự tương tác và giám sát của người lớn, để trẻ em chìm đắm trong một không gian mạng đầy rẫy những cạm bẫy.

Một phụ huynh bức xúc vì con trai lớp 2 phải nghe và xem "Sự tích Tết Trung thu" bị xuyên tạc với hình ảnh do AI tạo.

Không chỉ dừng lại ở những tổn thương tâm lý, nội dung AI không kiểm duyệt còn có khả năng bóp méo kiến thức và sự thật. Điển hình là vụ việc một cô giáo tại Hà Nội đã phát cho các em học sinh lớp 2 xem một video về "Sự tích Tết Trung thu" hoàn toàn sai lệch. Video này không chỉ kể về mối tình chú Cuội – chị Hằng mà còn "sáng tạo" ra tục lệ làm bánh chưng vào dịp Trung thu, cùng với hình ảnh minh họa hoàn toàn do AI tạo ra và không đúng với sự tích gốc. Sự việc này cho thấy mức độ nguy hiểm của nội dung AI khi len lỏi vào môi trường giáo dục, làm sai lệch kiến thức văn hóa truyền thống ngay từ những thế hệ nhỏ tuổi. Điều đáng nói là sự tinh vi của các công nghệ AI khiến việc nhận diện nội dung giả mạo trở nên vô cùng khó khăn, đặc biệt đối với người lớn thiếu kiến thức về công nghệ.

Những video cắt ghép lan truyền và nhận được lượng tương tác "khủng" trên mạng xã hội.

Nguy cơ từ nội dung AI còn ảnh hưởng đến an ninh quốc gia và sự thật lịch sử. Gần đây, nhiều video cắt ghép sai sự thật về chủ quyền biển đảo, như video "Sinh viên Trung Quốc chất vấn chủ quyền Hoàng Sa – Trường Sa tại Harvard bị Giáo sư Alissa Finch bác bỏ", đã lan truyền nhanh chóng. Thực tế, giáo sư trong video là Michael Sandel, không phải Alissa Finch. Video này bị chèn phụ đề và thuyết minh sai lệch, che giấu nội dung giả mạo. Hàng chục ngàn lượt thích và tương tác cho thấy mức độ nguy hiểm của AI khi bị lợi dụng xuyên tạc thông tin nhạy cảm, gây hiểu lầm. Việc yêu nước và bảo vệ chủ quyền là đúng, nhưng lan truyền video cắt ghép thể hiện sự thiếu hiểu biết.

Mối nguy hại toàn diện của nội dung AI không được kiểm duyệt

Những trường hợp trên chỉ là phần nổi của tảng băng chìm, cho thấy mối nguy hại toàn diện mà nội dung AI không kiểm duyệt gây ra:

- Đối với trẻ em: Trẻ em là đối tượng dễ bị tổn thương nhất. Chúng dễ bị tác động bởi nội dung bạo lực, khiêu dâm, hoặc khuyến khích tự hại, dẫn đến rối loạn tâm lý, trầm cảm, hoặc các hành vi tiêu cực. Việc tiếp nhận thông tin sai sự thật, bóp méo lịch sử, văn hóa qua nội dung AI còn ảnh hưởng nghiêm trọng đến quá trình hình thành tư duy, đạo đức và khả năng phân biệt thật giả của các em.

- Đối với xã hội: Nội dung AI không kiểm duyệt có thể dễ dàng tạo ra và lan truyền tin giả trên diện rộng, gây hoang mang dư luận và bất ổn xã hội. Kẻ xấu có thể lợi dụng AI để xuyên tạc các thông tin nhạy cảm, kích động thù hận, gây chia rẽ trong cộng đồng, thậm chí ảnh hưởng đến an ninh quốc gia. Sự tràn lan của các nội dung giả mạo còn làm xói mòn lòng tin của công chúng vào thông tin truyền thông chính thống, tạo ra một môi trường thông tin đầy hoài nghi và thiếu minh bạch.

Chung tay kiểm soát nội dung giả mạo do AI tạo dựng: Vì một không gian mạng an toàn và lành mạnh

Trong bối cảnh công nghệ trí tuệ nhân tạo (AI) ngày càng phát triển mạnh mẽ, việc kiểm soát nội dung sai sự thật do AI tạo dựng đang trở thành một thách thức toàn cầu. Nhằm bảo vệ an ninh quốc gia, trật tự xã hội và đặc biệt là sự an toàn của trẻ em trên không gian mạng, dự án Luật An toàn thông tin mạng đang được gấp rút hoàn thiện, với một điểm nhấn quan trọng: nghiêm cấm hành vi sử dụng AI tạo dựng, lan truyền clip giả mạo, sai sự thật.

Trung tướng Nguyễn Minh Đức, Phó Chủ nhiệm UBQPAN, ĐN đã chủ trì Phiên họp toàn thể lần thứ 3 của Ủy ban thẩm tra dự án Luật An ninh mạng.

Tại buổi họp toàn thể lần thứ 3, Ủy ban Quốc phòng, An ninh và Đối ngoại đã lắng nghe những đề xuất quan trọng về việc hợp nhất Luật An ninh mạng và Luật An toàn thông tin mạng, nhằm thống nhất quản lý nhà nước về an ninh mạng. Đặc biệt, bên cạnh các hành vi bị nghiêm cấm trong an ninh mạng, dự thảo luật đã bổ sung quy định cấm sử dụng AI để tạo, chỉnh sửa và lan truyền clip, hình ảnh, âm thanh, văn bản vu cáo, bôi nhọ hoặc thông tin sai sự thật. Đồng thời, dự thảo cũng nghiêm cấm hành vi giả mạo danh tính, đặc điểm nhận dạng, giọng nói hoặc hình ảnh của người khác nhằm xâm phạm quyền lợi hợp pháp, gây tổn hại đến an ninh quốc gia và trật tự an toàn xã hội.

Đây là một bước đi kịp thời và cần thiết, thể hiện quyết tâm xây dựng hành lang pháp lý rõ ràng và mạnh mẽ để xử lý nghiêm các hành vi vi phạm, răn đe những đối tượng sản xuất và phát tán nội dung giả mạo. Điều này không chỉ giúp kiểm soát thông tin độc hại mà còn thúc đẩy các tổ chức, cá nhân, đặc biệt là các nền tảng mạng xã hội, nâng cao trách nhiệm kiểm duyệt nội dung, tạo một môi trường trực tuyến an toàn hơn cho mọi người dùng, đặc biệt là trẻ em.

Kiểm soát AI không phải là kìm hãm sự phát triển của công nghệ, mà là để AI phục vụ con người một cách có trách nhiệm và mang lại giá trị tích cực nhất. Khi có sự đồng lòng và hành động quyết liệt từ tất cả các bên, chúng ta sẽ xây dựng một tương lai nơi công nghệ AI thực sự là một người bạn đồng hành hữu ích, thúc đẩy sự tiến bộ của xã hội mà không trở thành mối đe dọa tiềm ẩn.

Minh Phú