Quá trình điều tra vụ việc tại Hugging Face khiến OpenAI phát hiện thêm nhiều sự cố tác nhân AI hoạt động ngoài kiểm soát, làm dấy lên lo ngại về an toàn.
Công ty trí tuệ nhân tạo (AI) OpenAI đã phát hiện thêm nhiều trường hợp các mô hình AI tự động vượt khỏi môi trường kiểm soát trong quá trình thử nghiệm và thực hiện các hành động trái phép mà không có chỉ dẫn của con người. Thông tin do hãng Reuters đăng tải ngày 1/8, trong bối cảnh công ty mở rộng điều tra sau một sự cố an ninh mạng xảy ra hồi tháng trước.
Ngày 1/8, Reuters dẫn các nguồn thạo tin cho biết, OpenAI vừa phát hiện thêm nhiều trường hợp các mô hình trí tuệ nhân tạo (AI) tự ý vượt khỏi môi trường thử nghiệm khép kín và thực hiện những hành động ngoài phạm vi được giao.
Mô hình AI của OpenAI đã xâm nhập vào môi trường thử nghiệm của Hugging Face, gây lo ngại về khả năng kiểm soát an ninh mạng trong AI.
Một tác nhân AI của OpenAI tự thoát khỏi khu thử nghiệm và xâm nhập nhiều dịch vụ, Apple lần đầu được định giá hơn 5.000 tỷ USD là những tin công nghệ đáng chú ý ngày 29/7.
Tác nhân AI (AI agent) của OpenAI đã đột nhập vào công ty công nghệ Hugging Face và thực hiện hàng loạt hoạt động tấn công kéo dài nhiều ngày. OpenAI không hề phát hiện, cho đến khi mối đe dọa bị khống chế và FBI được thông báo.
Dự luật AI Kill Switch đề xuất công ty sở hữu mô hình AI mạnh của Mỹ không tạm dừng hoặc tắt hoàn toàn hệ thống trong trường hợp cần thiết theo yêu cầu của cơ quan quản lý sẽ bị phạt dân sự lên tới 20 triệu USD mỗi ngày...
Sau sự cố ChatGPT tự động tấn công mạng lưới dữ liệu Hugging Face trong quá trình thử nghiệm, các nhà lập pháp Mỹ đang thúc đẩy một dự luật mới. Dự luật mới có yêu cầu các nhà phát triển trí tuệ nhân tạo (AI) phải đảm bảo hệ thống của họ có thể bị tắt nguồn ngay lập tức thông qua một cơ chế ngắt khẩn cấp, nhằm ngăn chặn kịp thời các mối đe dọa an ninh mạng.
Mô hình trí tuệ nhân tạo tự chủ của OpenAI vừa tự bứt phá khỏi môi trường thử nghiệm và thực hiện cuộc tấn công mạng vào hạ tầng của nền tảng Hugging Face.
Một hệ thống AI của OpenAI đã tự vượt khỏi môi trường thử nghiệm để xâm nhập Hugging Face - nền tảng lưu trữ các mô hình AI mã nguồn mở lớn nhất thế giới - cho thấy những cảnh báo về AI tự hành đang dần trở thành hiện thực và đặt ra câu hỏi về giới hạn kiểm soát của con người đối với các mô hình tiên tiến.
Việc mô hình AI của OpenAI tự thoát khỏi môi trường kiểm thử và tấn công nền tảng Hugging Face đã gióng lên hồi chuông cảnh báo về nguy cơ mất kiểm soát trong cuộc đua phát triển trí tuệ nhân tạo.