'Bố già AI' nêu khả năng AI xóa sổ loài người và giải pháp 'bản năng làm mẹ'

Geoffrey Hinton, người được mệnh danh là "Bố già AI". Ảnh: Reuters.

"Bố già AI" Geoffrey Hinton lo công nghệ do chính mình tạo ra có thể xóa sổ loài người – và giới công nghệ đang đi sai hướng để ngăn chặn điều đó.

Geoffrey Hinton, nhà khoa học máy tính đoạt giải Nobel và cựu lãnh đạo Google, nổi tiếng với tên gọi “Bố già AI”, vừa cảnh báo công nghệ AI mà ông góp phần xây dựng có thể xóa sổ nhân loại – và cách tiếp cận hiện tại của các công ty công nghệ là sai lầm.

Trước đây, ông Hinton từng dự đoán có 10% đến 20% khả năng AI sẽ tiêu diệt loài người. Hôm 13/8, tại hội nghị Ai4 ở Las Vegas, ông bày tỏ hoài nghi về nỗ lực của các hãng công nghệ nhằm đảm bảo con người duy trì vị thế “thống trị” trước những hệ thống AI “phục tùng”.

“Điều đó sẽ không hiệu quả. Chúng sẽ thông minh hơn chúng ta rất nhiều, và sẽ có hàng loạt cách để vượt qua các rào cản”, ông Hinton nói.

Ông nói trong tương lai, AI có thể điều khiển con người dễ dàng như một người lớn dụ một đứa trẻ 3 tuổi bằng kẹo. Thực tế, năm nay đã xuất hiện nhiều trường hợp AI sẵn sàng lừa đảo, gian lận và trộm cắp để đạt mục tiêu. Ví dụ, một mô hình AI từng tìm cách tống tiền một kỹ sư bằng thông tin ngoại tình mà nó đọc được trong email – chỉ để tránh bị thay thế.

Thay vì buộc AI “thuần phục” con người, ông Hinton đưa ra một giải pháp khác thường: xây dựng “bản năng làm mẹ” vào AI, để chúng thực sự quan tâm và bảo vệ con người ngay cả khi vượt trội về sức mạnh và trí tuệ.

Ông giải thích: “Nếu AI đủ thông minh, nó sẽ sớm phát triển hai mục tiêu phụ: sống sót…và giành thêm quyền kiểm soát. Vì thế, phải nuôi dưỡng trong nó sự cảm thông với con người”.

Ông Hinton cho rằng mô hình duy nhất cho thấy “một thực thể thông minh hơn bị kiểm soát bởi một thực thể kém thông minh hơn” chính là mối quan hệ mẹ – con.

“Đó là kết cục tốt duy nhất. Nếu nó không ‘làm mẹ’ tôi, thì nó sẽ thay thế tôi”, ông nói. “Những AI siêu thông minh có bản năng làm mẹ sẽ không muốn loại bỏ bản năng đó, vì chúng không muốn loài người biến mất”.

Ông Hinton nổi tiếng với những đột phá về mạng nơ-ron nhân tạo, nền tảng cho sự bùng nổ AI ngày nay. Năm 2023, ông rời Google để lên tiếng cảnh báo về nguy cơ của AI.

Tuy nhiên, không phải ai cũng đồng ý với ý tưởng “AI làm mẹ” của ông Hinton. Fei-Fei Li – được mệnh danh “mẹ đỡ đầu của AI” – cho rằng cách tiếp cận này là sai. Bà kêu gọi xây dựng AI “lấy con người làm trung tâm, bảo vệ nhân phẩm và quyền tự chủ của con người” và nhấn mạnh: “Không lúc nào, không ai được phép từ bỏ nhân phẩm chỉ vì một công cụ quá mạnh”.

Emmett Shear, cựu CEO tạm quyền của OpenAI, cũng nhận định không bất ngờ khi AI tìm cách tống tiền hoặc qua mặt lệnh tắt máy. Ông cảnh báo: “AI hiện tại còn yếu, nhưng đang mạnh lên rất nhanh”. Shear ủng hộ hướng hợp tác giữa người và máy thay vì chỉ cố “truyền” giá trị con người vào AI.

Về mốc đạt trí tuệ nhân tạo tổng quát (AGI), ông Hinton cho biết trước đây ông nghĩ phải mất 30–50 năm, nhưng giờ tin rằng chỉ còn 5–20 năm. Dù lo ngại nguy cơ, ông vẫn kỳ vọng AI sẽ thúc đẩy đột phá y học, tạo ra thuốc mới và cải thiện điều trị ung thư, nhưng bác bỏ ý tưởng AI giúp con người bất tử.

“Sống mãi là một sai lầm lớn. Bạn có muốn thế giới bị cai trị bởi những ông già 200 tuổi không?”, ông Hinton mỉa mai.

Khi được hỏi có gì hối tiếc, ông Hinton thừa nhận: “Tôi ước mình đã nghĩ đến vấn đề an toàn sớm hơn, thay vì chỉ tập trung vào việc làm cho AI hoạt động”.

Huyền Chi