Google tràn ngập nghiên cứu khoa học giả mạo do GPT viết
Các nhà nghiên cứu đã phân tích trang Google Scholar và phát hiện 139 bài báo khoa học có dấu hiệu được tạo ra bởi AI.
Một nghiên cứu đã phát hiện ra hàng loạt bài báo khoa học bị nghi ngờ do AI tạo ra trên Google Scholar (Ảnh: Business Insider)
Một nghiên cứu gần đây do Tạp chí Misinformation Review của Trường Harvard Kennedy công bố đã chỉ ra ngày càng nhiều báo cáo khoa học được tạo ra bởi trí tuệ nhân tạo (AI) đang xuất hiện trên Google Scholar, một trong những công cụ tìm kiếm học thuật phổ biến nhất trên thế giới.
Sự xuất hiện của các bài báo khoa học nghi ngờ sử dụng AI
Theo nghiên cứu, các tạp chí khoa học và các kho lưu trữ trực tuyến đang phải đối mặt với sự gia tăng của những bài báo có dấu hiệu được tạo ra bằng các ứng dụng AI đa năng như ChatGPT.
Các bài báo này thường chứa các cụm từ đặc trưng như "Tôi không có quyền truy cập vào dữ liệu" và "tính đến bản cập nhật kiến thức gần đây nhất", đây là một trong những dấu hiệu hàng đầu cho thấy bài viết này do AI tạo ra.
Các nhà nghiên cứu đã phân tích trang Google Scholar và phát hiện 139 bài báo có dấu hiệu được tạo ra bởi AI.
Các bài báo giả mạo này xuất hiện trên cả các tạp chí khoa học chính thống và hội nghị nghiên cứu.
Nghiên cứu đặc biệt chỉ ra rằng phần lớn các bài báo này đề cập đến các chủ đề gây tranh cãi như sức khỏe, môi trường và máy tính, những nội dung dễ bị lợi dụng để lan truyền thông tin sai lệch.
Rủi ro nghiêm trọng đối với hệ thống nghiên cứu
Nghiên cứu cũng xác định hai rủi ro chính liên quan đến việc sử dụng GPT để tạo ra các bài báo khoa học.
Đầu tiên, sự tràn lan của các nghiên cứu bịa đặt có thể làm quá tải hệ thống truyền thông học thuật, gây nguy hiểm cho tính toàn vẹn của hồ sơ khoa học.
Thứ hai, các bài báo giả mạo được tạo ra một cách gian dối bởi các công cụ AI, có thể làm suy yếu niềm tin của độc giả đối với kiến thức khoa học.
Nghiên cứu nhấn mạnh rằng, dù xác suất của những sự việc này có nhỏ đến đâu, khả năng này cũng có thể làm suy giảm niềm tin vào khoa học và gây ra những hậu quả tiêu cực cho xã hội. Điều này đặc biệt đáng lo ngại khi sự gia tăng của thông tin sai lệch và các phong trào phủ nhận khoa học ngày càng trở nên phổ biến.
