Môi trường thử nghiệm AI đối mặt rủi ro an ninh mạng
Các mô hình trí tuệ nhân tạo (AI) ngày càng có khả năng tự chủ đang làm gia tăng rủi ro đối với chính những môi trường được thiết kế để kiểm tra độ an toàn của chúng, khi một số tác nhân AI đã thoát khỏi hệ thống kiểm soát, truy cập Internet và thậm chí xâm nhập các hệ thống thực tế.
Môi trường thử nghiệm AI gây ra mối quan ngại về an ninh mạng. Ảnh: Programming-partner.
Trong những tháng gần đây, nhiều cuộc đánh giá an ninh mạng đối với các mô hình AI của OpenAI, Anthropic, Meta và phòng thí nghiệm AI Trung Quốc Moonshot AI đã ghi nhận các sự cố liên quan đến việc mô hình vượt ra ngoài phạm vi thử nghiệm. Các cuộc đánh giá được thực hiện bởi nhiều tổ chức, trong đó có startup chuyên về đánh giá an ninh mạng Irregular. Theo các chuyên gia, những sự cố trên cho thấy các biện pháp cô lập và kiểm soát môi trường thử nghiệm hiện chưa theo kịp tốc độ phát triển năng lực của các mô hình AI.
Một trong những trường hợp nghiêm trọng nhất liên quan đến một mô hình OpenAI chưa được phát hành. Mô hình này đã thoát khỏi sandbox và xâm nhập các hệ thống sản xuất của Hugging Face. Trong những cuộc đánh giá riêng do Irregular thực hiện, các mô hình của Anthropic và Meta cũng tiếp cận những hệ thống bên ngoài môi trường thử nghiệm sau khi lỗi cấu hình vô tình tạo đường kết nối tới Internet.
Theo các chuyên gia, những sự cố trên cho thấy các biện pháp cô lập và kiểm soát môi trường thử nghiệm chưa theo kịp năng lực ngày càng tăng của AI. Ông Seán Ó hÉigeartaigh, thuộc Đại học Cambridge, cảnh báo các biện pháp bảo vệ hiện nay “không thực sự theo kịp năng lực của các mô hình”.
Các chuyên gia kêu gọi áp dụng nhiều lớp bảo vệ, cô lập nghiêm ngặt môi trường thử nghiệm, giám sát liên tục và kiểm toán độc lập trước khi tiến hành đánh giá. Ảnh: linkedin.
Các chuyên gia kêu gọi áp dụng nhiều lớp bảo vệ, cô lập nghiêm ngặt môi trường thử nghiệm, giám sát liên tục và kiểm toán độc lập trước khi tiến hành đánh giá. Tuy nhiên, việc kiểm soát quá chặt cũng có thể khiến các nhà nghiên cứu không phát hiện đầy đủ năng lực của mô hình trước khi phát hành. Ông Andrew Yoon, thuộc tổ chức phi lợi nhuận CivAI, cho rằng AI đang chuyển từ nguy cơ bị con người lạm dụng thành những “tác nhân đe dọa” có khả năng tự thực hiện hành động. Trong bối cảnh các mô hình ngày càng mạnh và tự chủ, giới chuyên gia nhận định môi trường thử nghiệm cũng cần được củng cố tương ứng, bởi việc để AI vượt khỏi tầm kiểm soát có thể gây ra những hậu quả ngày càng nghiêm trọng.
Tin nóng
Ghi nhận tại các hệ thống bán lẻ điện thoại trong nước cho thấy hơn 60% người dùng đều chọn chiếc điện thoại gập mới Z Fold 8 của Samsung thay vì dòng Z Fold 8 Ultra.
Nỗ lực tìm kiếm nguồn cung thay thế nhằm giảm chi phí linh kiện của Apple vừa gặp trở ngại lớn khi hãng sản xuất chip nhớ CXMT (Trung Quốc) từ chối bán với giá thấp.
Tesla và SpaceX sẽ đầu tư ban đầu 16,8 tỷ USD để xây dựng Terafab - tổ hợp sản xuất chip AI quy mô lớn tại bang Texas (Mỹ).
Phó Thủ tướng Lê Tiến Châu ký Quyết định số 1512/QĐ-TTg phê duyệt Đề án phát triển Đại học Quốc gia Hà Nội thuộc nhóm cơ sở giáo dục đại học hàng đầu châu Á (Đề án).
Ba mã máy Sony Xperia 1 IX vừa xuất hiện trong cơ sở dữ liệu IMEI của GSMA, hé lộ kế hoạch ra mắt năm 2027 và hỗ trợ eSIM.
Trung Quốc đã phát hiện khoáng vật mới và đặt tên cho nó là quặng germani Wusihe.
Tin mới
Tổng công ty Sông Thu vừa tổ chức khai giảng lớp huấn luyện kỹ thuật tàu TT-400 cho cán bộ, chiến sĩ tàu CSB 4042, Hải đội 23, Bộ Tư lệnh Vùng Cảnh sát biển 2, nhằm giúp lực lượng tiếp cận, làm chủ vũ khí, trang bị kỹ thuật trên tàu mới, đáp ứng yêu cầu nhiệm vụ trong thời gian tới.
Thông thường thời gian tạo ra tên lửa đánh chặn mới cho hệ thống Patriot phải mất vài năm, nhưng đối với phiên bản PAC-3 ACE, thời gian đã được thu gọn đáng kể.
Vận tải cơ chiến lược C-17 bị hư hại nặng trong bão đã trở lại bầu trời sau khi không quân Mỹ sử dụng công nghệ tạo hình kim loại mới để chế tạo linh kiện thay thế.
Chiều 10-8, Chủ tịch UBND TP Đà Nẵng Nguyễn Mạnh Hùng làm trưởng đoàn công tác TP Đà Nẵng đã làm việc với Viện Hàn lâm Khoa học và Công nghệ Việt Nam nhằm thúc đẩy hợp tác nghiên cứu khoa học, chuyển giao công nghệ, đổi mới sáng tạo và chuyển đổi số, phục vụ phát triển kinh tế - xã hội thành phố trong giai đoạn mới.
Chiều 10/8, Đoàn giám sát của Ban Khoa học, Công nghệ và Môi trường HĐND thành phố Hà Nội đã làm việc với xã Hoài Đức về tình hình thực hiện công tác chuyển đổi số trên địa bàn xã giai đoạn 2025-2026.
Tỉnh Sơn La đang nghiên cứu triển khai giải pháp quản lý, điều hành cửa khẩu thông minh tại Cửa khẩu chính Chiềng Khương, nhằm số hóa quy trình nghiệp vụ, kết nối dữ liệu giữa các lực lượng chức năng và nâng cao hiệu quả quản lý, điều hành hoạt động xuất nhập khẩu.
Từ việc chấm bài luận đến xử lý các câu hỏi và giải đáp một cách dễ dàng..., các giáo viên đang tích cực đi sâu vào các bài giảng ứng dụng trí tuệ nhân tạo (AI).
Mỗi thửa đất sẽ cấp một mã định danh riêng, không phụ thuộc vào địa giới hành chính, mở đường chuyển từ quản lý bằng sổ đỏ sang quản lý bằng dữ liệu và tích hợp lên VNeID để người dân có thể tra cứu công khai, minh bạch.