Got It AI Việt Nam phát triển công cụ 'bắt lỗi' ChatGPT

Giới chuyên gia cho rằng, hầu hết các câu trả lời của ChatGPT đều không dẫn nguồn, dẫn đến thông tin mà chatbot AI này đưa ra có thể sai lệch, gây nguy hiểm cho người dùng trong việc đưa ra các quyết định quan trọng.

Trên cơ sở đó, startup Got It AI Việt Nam đang phát triển một công cụ CheckGPT để kiểm chứng những chatbot AI như ChatGPT. Mekong ASEAN đã trao đổi với anh Lê Anh Dũng, Phó Chủ tịch phụ trách công nghệ của Got It AI về công cụ CheckGPT này.

Mekong ASEAN: CheckGPT là một công cụ độc lập hay là một nền tảng tích hợp, thưa anh? Got It AI đang phát triển CheckGPT ở giai đoạn thứ mấy?

Anh Lê Anh Dũng: CheckGPT được xem là một công cụ độc lập hoàn toàn và dự kiến dành cho doanh nghiệp. Thời điểm hiện tại, Got It AI đã hoàn thành giai đoạn thử nghiệm nội bộ công ty đối với CheckGPT và đang cho lượng khách hàng nhất định trải nghiệm công cụ.

Mekong ASEAN: Anh có thể chia sẻ thêm về cách thức hoạt động của công cụ kiểm chứng này?

Anh Lê Anh Dũng: CheckGPT hoạt động với công nghệ độc quyền dựa trên mô hình ngôn ngữ lớn (Large Language Model) của Got It AI. Công nghệ này có khả năng phát hiện được thời điểm mà những mô hình tạo sinh (Generative Models) như là ChatGPT đưa ra câu trả lời không chính xác và không phù hợp với câu hỏi của người dùng, hay còn gọi là bị “ngáo”.

Ưu điểm của CheckGPT là công cụ này sẽ kiểm chứng liên tục. Do đó, khi mà CheckGPT phát hiện ra một số dấu hiệu “ngáo” trong câu trả lời của ChatGPT mà người dùng cung cấp, nó lập tức sẽ cảnh báo và đưa ra những nguồn thông tin đáng tin cậy hơn để trả lời cho người dùng.

Mô phỏng cách thức hoạt động công cụ kiểm chứng CheckGPT

Tuy nhiên, CheckGPT sẽ chỉ có một nhiệm vụ là kiểm tra tính xác thực của những câu trả lời mà mô hình chatbot AI như ChatGPT, chứ nó không thể tự đưa ra câu trả lời từ những câu lệnh đơn giản của người dùng.

Mekong ASEAN: Gần đây OpenAI đang phát triển một bản nâng cấp cho ChatGPT, tính năng mới này sẽ cung cấp khả năng tùy chỉnh cho người dùng, giúp hệ thống của ChatGPT có nhiều lựa chọn hơn để đưa ra các phản hồi phù hợp với bối cảnh của câu hỏi. Nếu như vậy, CheckGPT có thực sự cần thiết là công cụ kiểm chứng nữa không, thưa anh?

Anh Lê Anh Dũng: Mình nghĩ rằng đấy là một động thái tích cực của đội ngũ phát triển ChatGPT. Tuy nhiên, từ góc nhìn cá nhân mình thì có lẽ đây chưa phải là một giải pháp tối ưu. Bởi khi mà người dùng muốn có một kết quả tốt nhất thì họ phải có những kinh nghiệm nhất định.

Để khi làm việc với những mô hình như ChatGPT, họ sẽ biết mình nên điều chỉnh như thế nào là phù hợp. Điều này có thể sẽ xảy ra tình huống là thông tin không được thống nhất, chồng chéo lẫn nhau, dẫn đến tính chính xác trong câu trả lời bị giảm xuống.

Mekong ASEAN: Xin cảm ơn anh!.

ChatGPT là tập hợp của một loạt các thuật toán phức tạp về lập trình ngôn ngữ tự nhiên (Natural Language Processing - NLP) và các cấu trúc của các mô hình trí tuệ nhân tạo như mạng Neuron Network, Reinforcement learning (Học tăng cường) hay thuật toán biến đổi (Transformer).

Nhờ vậy ChatGPT có thể tư duy và trò chuyện như một con người thực thụ với kho kiến thức vô hạn, vì chatbot AI này có thể tự học dựa trên bộ dữ liệu có sẵn hoặc trên mạng mà không cần phải huấn luyện như chatbot của các thuật toán cũ.

Hà Anh