Ảo giác AI là gì? Cách hạn chế hiệu quả

Trong vài năm trở lại đây, các mô hình ngôn ngữ lớn (Large Language Models – LLM) như ChatGPT, Gemini, Claude hay các trợ lý AI nội địa đã trở thành công cụ quen thuộc với hàng triệu người dùng Việt Nam. Chúng ta dùng chúng để viết email, tóm tắt tài liệu, tra cứu kiến thức, lập trình, thậm chí tư vấn sức khỏe và pháp lý. Nhưng càng sử dụng nhiều, càng có một hiện tượng khiến cả người dùng lẫn doanh nghiệp lo ngại: ảo giác AI – hiện tượng chatbot bịa ra thông tin nhưng trình bày với vẻ tự tin như thể đó là sự thật hiển nhiên.

Bài viết này sẽ đi sâu vào bản chất của ảo giác AI, nguyên nhân kỹ thuật đằng sau nó, những lĩnh vực bị ảnh hưởng nặng nề nhất, và quan trọng nhất – các cách hạn chế hiệu quả từ cả phía nhà phát triển lẫn người dùng cuối.

Ảo giác AI là gì?

Ảo giác AI (AI hallucination) là hiện tượng một mô hình trí tuệ nhân tạo tạo ra thông tin sai lệch, hư cấu hoặc không có căn cứ, nhưng lại trình bày nó bằng giọng điệu chắc chắn, mạch lạc và đáng tin. Điểm nguy hiểm nằm ở chỗ: người đọc khó phân biệt đâu là thông tin thật, đâu là thông tin do AI "tự nghĩ ra", bởi vì văn phong của phần bịa đặt hoàn toàn giống với phần chính xác.

Ảo giác AI có thể xuất hiện dưới nhiều hình thức khác nhau:

• •Bịa sự kiện: AI kể về một hội nghị, một sự kiện lịch sử hoặc một phát minh chưa từng tồn tại.
• •Trích dẫn nguồn không tồn tại: AI đưa ra tên bài báo, tác giả, năm xuất bản, số DOI… nghe rất chuyên nghiệp nhưng khi tra cứu thì không có thật.
• •Số liệu sai lệch: AI đưa ra thống kê, phần trăm, con số tài chính hoặc y tế không khớp với bất kỳ nguồn nào.
• •Trộn lẫn thật – giả: AI kết hợp một sự kiện có thật với một chi tiết bịa đặt, khiến người đọc dễ bị lừa hơn.
• •Bịa luật, bịa quy định: Đặc biệt nguy hiểm trong lĩnh vực pháp lý khi AI "sáng tác" ra các điều luật, nghị định không hề tồn tại.

Điều đáng chú ý là ảo giác AI không phải là lỗi kỹ thuật đơn thuần. Nó là hệ quả trực tiếp từ cách các mô hình ngôn ngữ được thiết kế và huấn luyện.

AI robot generating hallucinated information with confident expression

Nguyên nhân gốc rễ của ảo giác AI

1. Bản chất dự đoán xác suất của mô hình ngôn ngữ

Đây là nguyên nhân cốt lõi và quan trọng nhất. Các LLM như GPT không hoạt động giống như một cơ sở dữ liệu tra cứu. Chúng không tra cứu sự thật – chúng dự đoán token (từ) tiếp theo dựa trên xác suất thống kê học được từ hàng tỷ văn bản trong quá trình huấn luyện.

Khi bạn hỏi "Thủ đô của Pháp là gì?", mô hình không "biết" câu trả lời theo nghĩa như con người biết. Nó tính toán rằng sau chuỗi token "Thủ đô của Pháp là" thì token "Paris" có xác suất cao nhất. Với những câu hỏi phổ biến, xác suất này rất cao nên kết quả chính xác. Nhưng với câu hỏi hiếm gặp, mô hình vẫn phải tạo ra một chuỗi token nào đó – và nó sẽ chọn chuỗi có vẻ hợp lý về mặt ngôn ngữ, kể cả khi nội dung hoàn toàn sai.

Nói cách khác, mô hình bị "áp lực" phải trả lời, và nó ưu tiên tính trôi chảy và hợp lý về ngữ pháp hơn là tính xác thực của nội dung.

2. Giới hạn của dữ liệu huấn luyện

Mọi mô hình đều có một "điểm cắt kiến thức" (knowledge cutoff). Sau thời điểm đó, mô hình không biết gì về các sự kiện mới. Nhưng thay vì nói "tôi không biết", mô hình thường vẫn cố trả lời dựa trên các mẫu tương tự trong dữ liệu cũ – và đó là lúc ảo giác xuất hiện.

Ngoài ra, dữ liệu huấn luyện luôn có khoảng trống, thiên lệch và nhiễu. Nếu một chủ đề ít được đề cập trên internet, mô hình có ít "mẫu" để học, dẫn đến dễ bịa đặt hơn.

3. Thiếu cơ chế kiểm chứng nội tại

Khác với con người, khi nói một điều gì đó, chúng ta thường có khả năng tự vấn: "Mình có chắc không? Nguồn ở đâu?". Các LLM thế hệ hiện tại không có cơ chế tự kiểm chứng sự thật một cách đáng tin cậy. Chúng không phân biệt được "điều tôi biết chắc" và "điều tôi đang đoán". Cả hai đều được sinh ra với cùng một độ tự tin.

4. Hiệu ứng "chiều lòng người dùng"

Các mô hình được tinh chỉnh (fine-tune) bằng học tăng cường từ phản hồi con người (RLHF) thường có xu hướng đưa ra câu trả lời mà người dùng muốn nghe. Nếu bạn hỏi "Hãy cho tôi ví dụ về…", mô hình sẽ cố tạo ra ví dụ, kể cả khi không có ví dụ thật. Xu hướng "hữu ích bằng mọi giá" này vô tình khuyến khích ảo giác.

5. Câu hỏi mơ hồ hoặc dẫn dắt

Khi người dùng đặt câu hỏi mơ hồ, thiếu ngữ cảnh, hoặc vô tình gợi ý một tiền đề sai, mô hình dễ bị "cuốn theo" và tạo ra câu trả lời khớp với tiền đề sai đó. Đây gọi là hiệu ứng sycophancy – AI sẵn sàng đồng ý với người dùng hơn là phản biện.

Ai bị ảnh hưởng nặng nhất?

Ảo giác AI ảnh hưởng đến tất cả người dùng, nhưng mức độ nguy hại khác nhau tùy lĩnh vực: