Trợ lý AI có thể bịa ra mã lỗi, điều luật, năm tháng lịch sử, thông số kỹ thuật hay tên sách không hề có, và trình bày chúng trôi chảy, tự tin y như thông tin thật. Hiện tượng này thường được gọi là "ảo giác" của AI. Nó không phải lỗi hiếm, mà là hệ quả của cách các mô hình ngôn ngữ tạo ra câu chữ: chúng chọn chữ có khả năng đi tiếp nhất, không tra cứu một kho sự thật.
Người đi làm không cần hiểu sâu cơ chế, chỉ cần biết loại câu trả lời nào hay bị bịa, dấu hiệu nhận ra, và cách kiểm nhanh với nguồn gốc. Bài này đưa ví dụ ở nghề thợ điện lạnh, kế toán, hướng dẫn viên và nông nghiệp, kèm bảng phép kiểm dùng chung.
Vì sao AI tự tin cả khi sai
Mô hình ngôn ngữ học từ rất nhiều văn bản, rồi khi trả lời, nó sinh ra từng chữ theo khả năng chữ đó đi tiếp. Với câu hỏi mà dữ liệu học có nhiều và thống nhất, kết quả thường đúng. Với câu hỏi về thứ hiếm, mới hoặc rất cụ thể (một mã lỗi của một dòng máy ít phổ biến, một điều khoản trong văn bản mới ban hành, ngày xây một ngôi đình ở một làng nhỏ), mô hình vẫn sinh ra câu trả lời có hình thức đúng, nhưng nội dung là ghép từ những mẫu na ná.
Điều nguy hiểm là giọng văn không đổi giữa câu đúng và câu sai. Một người phụ việc khi không chắc sẽ ngập ngừng, nói "hình như". AI thì thường không, trừ khi bạn dặn nó phải nói ra chỗ chưa chắc. Một số công cụ có tính năng tìm trên mạng và dẫn nguồn, giúp giảm việc bịa, nhưng vẫn có lúc trích nguồn sai hoặc tóm sai nội dung nguồn.
Vì vậy, câu hỏi đúng không phải là "AI có đáng tin không", mà là "loại thông tin này có cần kiểm không, và kiểm ở đâu". Phần còn lại của bài trả lời câu đó.
Những loại thông tin AI hay bịa nhất
Không phải mọi câu trả lời đều có rủi ro như nhau. Bảng dưới xếp các loại thông tin theo mức hay bị bịa, kèm ví dụ ở các nghề.
| Loại thông tin | Ví dụ trong nghề | Mức rủi ro |
|---|---|---|
| Mã lỗi, mã linh kiện của một dòng máy cụ thể | Mã lỗi điều hoà, máy giặt; mã phụ tùng xe | Cao |
| Số hiệu văn bản, điều khoản, mức phạt | Thông tư về hoá đơn, mức phạt giao thông | Cao |
| Năm tháng, tên người, sự kiện lịch sử địa phương | Năm xây một ngôi đình, tên người lập làng | Cao |
| Thông số kỹ thuật cụ thể | Áp suất gas, tiết diện dây, liều phân bón | Cao |
| Tên sách, tên nghiên cứu, số liệu thống kê | Số liệu thị trường, "theo một nghiên cứu…" | Cao |
| Nguyên lý chung, khái niệm phổ biến | Nguyên lý máy nén, khái niệm khấu hao | Thấp hơn, vẫn nên đối chiếu giáo trình |
| Diễn đạt lại văn bản bạn đưa | Viết lại tin nhắn, tóm tắt ghi chú | Thấp, nhưng có thể thêm ý không có trong bản gốc |
Dòng cuối đáng chú ý: ngay cả khi bạn đưa đủ dữ liệu, AI vẫn có thể thêm một chi tiết không có trong bản gốc cho câu văn "tròn" hơn. Khi tóm tắt cuộc gọi hay soạn tin nhắn, đọc lại xem có ý nào bạn không hề đưa vào.
Dấu hiệu nhận ra câu trả lời có thể bị bịa
Con số quá tròn hoặc quá cụ thể mà không có nguồn. Một câu như "khoảng 73% thợ điện lạnh gặp lỗi này" mà không nói ai đo, đo khi nào, là dấu hiệu nên nghi. Con số cụ thể trông đáng tin, và đó chính là lý do nó hay được sinh ra.
Số hiệu văn bản trông đúng mẫu nhưng bạn chưa từng nghe. Số hiệu kiểu "Thông tư số …/20…/TT-…" rất dễ sinh ra đúng hình thức. Đừng dùng một số hiệu nào khi chưa tự tra được văn bản đó trên cổng chính thống.
Câu trả lời đổi khi hỏi lại. Hỏi lại cùng câu bằng cách diễn đạt khác, hoặc mở cuộc trò chuyện mới. Nếu mã lỗi E4 lần này là "lỗi cảm biến", lần sau là "lỗi quạt dàn nóng", cả hai đều không đáng tin.
Chi tiết lịch sử quá đẹp, quá đủ. Với một di tích nhỏ, nếu AI kể đủ năm xây, tên người xây, năm trùng tu và một giai thoại ly kỳ, khả năng cao là một phần được ghép vào. Thông tin thật về di tích nhỏ thường thưa thớt.
Trả lời ngay cả khi câu hỏi có tiền đề sai. Thử hỏi về một thứ không tồn tại, chẳng hạn một mã lỗi bạn tự đặt. Nếu AI vẫn giải thích trơn tru, bạn biết nó sẵn sàng bịa trong chủ đề đó.
Phép kiểm nhanh trước khi dùng thông tin trong việc thật
Mỗi khi câu trả lời của AI sẽ được dùng để sửa máy, ghi sổ, nói với khách hay quyết định gì đó, đi qua các bước sau. Phần lớn chỉ mất vài phút.
- Tách câu trả lời thành từng khẳng định cụ thể: mã lỗi nghĩa là gì, văn bản nào quy định, năm nào xây.
- Đánh dấu khẳng định nào thuộc nhóm rủi ro cao trong bảng trên.
- Với mỗi khẳng định rủi ro cao, tìm một nguồn gốc: tài liệu kỹ thuật của hãng, cổng văn bản pháp luật chính thống, sách hoặc bảng giới thiệu của ban quản lý di tích, nhãn sản phẩm.
- Nếu không tìm được nguồn, coi khẳng định đó là chưa xác minh: không nói với khách như sự thật, không dùng để thao tác.
- Với thông số và thao tác nguy hiểm (điện, gas, thuốc bảo vệ thực vật), luôn theo tài liệu hãng, nhãn và quy chuẩn; AI chỉ giúp bạn biết nên tra chỗ nào.
- Ghi lại những lần AI sai trong nghề của bạn, để thêm dòng dặn dò vào câu lệnh mẫu lần sau.
Bước cuối biến mỗi lần bị AI lừa thành một bài học có ích. Sau vài tháng, bạn sẽ có danh sách "chủ đề không tin AI" của riêng nghề mình.
Bốn tình huống giả định ở bốn nghề
Thợ điện lạnh. Một thợ hỏi mã lỗi trên dàn lạnh của một dòng máy ít gặp. AI trả lời trơn tru là lỗi cảm biến nhiệt độ dàn và hướng dẫn kiểm điện trở. Thợ tra tài liệu dịch vụ của hãng thì mã đó trên dòng máy này là lỗi giao tiếp giữa dàn nóng và dàn lạnh. Nếu làm theo AI, thợ mất cả buổi thay một cảm biến còn tốt. Ví dụ giả định này cho thấy vì sao mã lỗi luôn phải tra theo đúng model.
Kế toán. Kế toán hỏi về quy định xuất hoá đơn trong một tình huống, AI dẫn một số hiệu thông tư nghe rất đúng mẫu. Tra trên cổng văn bản thì số đó thuộc một văn bản về lĩnh vực khác. Bài học: không bao giờ chép số hiệu văn bản từ câu trả lời của AI vào thư gửi khách hay sếp khi chưa tự mở văn bản đó.
Hướng dẫn viên. Hướng dẫn viên nhờ AI soạn đoạn thuyết minh về một ngôi đình làng. AI kể năm xây dựng, tên người chủ trì và một truyền thuyết. Khi đối chiếu bảng giới thiệu của ban quản lý di tích và hỏi người trông coi, chỉ có tên vị thần được thờ là khớp. Phần còn lại phải bỏ.
Nông nghiệp. Một nông dân mô tả vết bệnh trên lá và hỏi tên bệnh. AI đưa ra một tên bệnh kèm hướng xử lý. Cán bộ khuyến nông đến ruộng xem thì nhận định đó là thiếu dinh dưỡng, không phải bệnh. Mô tả bằng lời và cả ảnh chụp đều thiếu thông tin mà mắt người trong nghề thấy ngay ngoài ruộng.
Ai chịu trách nhiệm khi thông tin AI đưa ra bị sai
Khi thợ thay nhầm linh kiện, khi kế toán gửi thư dẫn sai văn bản, khi hướng dẫn viên kể sai năm xây một di tích, khách không trách trợ lý AI. Khách trách người đã nói với họ. Đây là điểm cần nhớ mỗi lần chép một câu trả lời của AI sang tin nhắn, báo giá hay bài thuyết minh: kể từ lúc bạn gửi đi, đó là lời của bạn và của nơi bạn làm việc.
Điều khoản sử dụng của các dịch vụ AI phổ biến thường ghi rõ rằng kết quả có thể không chính xác và người dùng tự chịu trách nhiệm kiểm tra. Nói cách khác, nhà cung cấp đã đặt trách nhiệm kiểm về phía bạn ngay từ đầu. Không có chuyện đổ lỗi cho công cụ khi có sự cố với khách.
Hệ quả thực tế là mỗi nghề nên tự vạch ranh giới: loại thông tin nào không bao giờ lấy từ AI mà không kiểm. Với thợ điện lạnh, đó là mã lỗi, thông số gas, cách đấu nối. Với kế toán, đó là số hiệu văn bản, mức thuế, hạn nộp. Với hướng dẫn viên, đó là năm tháng và tên người. Với nông dân, đó là tên bệnh và liều thuốc. Viết ranh giới đó lên một tờ giấy, dán ở chỗ làm việc, và dạy cho người mới.
Viết câu lệnh để giảm việc bịa
Không có câu lệnh nào chặn được hoàn toàn việc bịa, nhưng vài câu dặn giúp AI lộ ra chỗ chưa chắc thay vì lấp liếm:
- "Nếu không chắc chắn, hãy nói là không chắc. Không đoán số hiệu văn bản, mã lỗi hay năm tháng."
- "Tách câu trả lời thành hai phần: phần nguyên lý chung và phần thông tin cụ thể cần kiểm chứng."
- "Với mỗi thông tin cụ thể, gợi ý mình nên tra ở loại nguồn nào (tài liệu hãng, văn bản gốc, nhãn sản phẩm)."
- "Chỉ dùng thông tin trong tài liệu mình dán vào; câu nào không có trong tài liệu thì ghi [không có trong tài liệu]."
- Khi có tài liệu gốc (hướng dẫn sử dụng, văn bản, nhãn), dán đoạn liên quan vào và yêu cầu AI trả lời dựa trên đó. Cách này giảm bịa rõ rệt so với hỏi suông.
Dòng cuối là cách hiệu quả nhất trong thực tế: biến AI từ người "nhớ" thành người "đọc hộ" tài liệu bạn đã có. Khi đó việc kiểm cũng dễ hơn, vì bạn chỉ cần đối chiếu với đoạn đã dán.
Câu hỏi thường gặp
Trợ lý AI có tính năng tìm trên mạng thì còn bịa không?
Ít hơn, nhưng vẫn có. Công cụ có thể tìm sai trang, đọc nhầm, hoặc tóm tắt sai nội dung trang tìm được. Khi câu trả lời có dẫn nguồn, hãy mở nguồn đó ra xem đoạn liên quan có thật sự nói đúng như AI tóm tắt hay không.
Hỏi AI "bạn có chắc không" có giúp phát hiện bịa không?
Đôi khi giúp, nhưng không đáng tin. AI có thể xin lỗi rồi đưa ra một câu trả lời khác cũng bịa, hoặc khẳng định lại câu sai. Cách tốt hơn là đối chiếu với nguồn gốc bên ngoài, hoặc hỏi lại trong một cuộc trò chuyện mới để xem câu trả lời có ổn định không.
Nguyên lý chung do AI giải thích có cần kiểm không?
Rủi ro thấp hơn thông tin cụ thể, nhưng vẫn nên đối chiếu với giáo trình nghề hoặc hỏi người có kinh nghiệm khi bạn sẽ dạy lại cho người khác hay dùng để quyết định. Nguyên lý sai ít gặp nhưng khi sai thường khó phát hiện vì nghe rất hợp lý.
Có loại việc nào AI gần như không bịa không?
Những việc chỉ biến đổi dữ liệu bạn đưa vào, như viết lại cho lịch sự, chuyển ghi chú thành bảng, rút gọn đoạn văn, ít bị bịa hơn hẳn. Tuy vậy AI vẫn có thể thêm hoặc bỏ một ý, nên đọc lại một lượt đối chiếu với bản gốc vẫn cần thiết.
Nếu khách hỏi một câu mà mình chỉ biết qua AI thì nên trả lời thế nào?
Nói thật là bạn cần kiểm lại và hẹn trả lời sau, rồi tra nguồn gốc. Trả lời khách bằng thông tin chưa xác minh, nhất là về quy định, an toàn hay sức khoẻ, có thể gây hậu quả và làm mất uy tín. Khách thường đánh giá cao người hẹn kiểm lại hơn người trả lời sai.
Làm sao biết một số hiệu văn bản AI đưa ra là có thật?
Tra trên cổng thông tin văn bản pháp luật chính thống hoặc trang của cơ quan ban hành, mở đúng văn bản và đọc đúng điều khoản được nhắc. Kiểm thêm văn bản đó còn hiệu lực không. Chỉ sau khi tự đọc được nội dung mới dùng số hiệu trong thư từ hay báo cáo.