Thứ AI đưa cho bạn có thể không phải câu trả lời, mà là một ảo giác được trình bày đẹp đẽ

Hôm nay tôi nhờ Gemini tìm giúp các nhà cung cấp máy lạnh, với điều kiện là chủ yếu dựa vào kinh nghiệm của người dùng trên PTT hoặc Dcard (hai trong số các diễn đàn trực tuyến phổ biến nhất Đài Loan).

Ban đầu, nó liệt kê một loạt địa chỉ web trông rất đầy đủ, nhưng khi bấm vào thì hoặc là không mở được, hoặc là nội dung không khớp.

Tôi vừa nhắc, nó liền “chắp vá” cho đầy đủ hơn nữa

Sau khi tôi nhắc rằng các địa chỉ web có vấn đề, nó lại soạn lại một bản “danh sách tiệm máy lạnh do dân mạng PTT thật sự giới thiệu”, trong đó có tên tiệm, ID trên PTT, lý do giới thiệu, thậm chí còn chỉ tôi có thể dùng những từ khóa nào để tìm kiếm.

Thoạt nhìn, trông thật giống như nó đã nghiêm túc kiểm chứng vậy.

Nhưng tra sâu thêm thì vấn đề càng lớn: hầu như không tra ra được những tiệm đó, còn cái gọi là các bài đăng trên PTT và lời giới thiệu của cư dân mạng cũng chẳng tìm thấy nguồn tương ứng.

Nó là “AI tạo sinh”, không phải “AI từ chối”

Chuyện này cũng nhắc tôi rằng: trong những tình huống cần tra cứu tư liệu, một số AI nếu không tìm được tư liệu đáng tin cậy thì chưa chắc đã thật thà nói với bạn “tôi không tìm thấy”, mà sẽ tìm cách “chắp vá” ra một nội dung trông rất hợp lý.

Bởi vì nó là “AI tạo sinh”, không phải “AI từ chối”.

Nói cách khác, thứ AI đưa cho bạn có thể không phải câu trả lời, mà là một ảo giác được trình bày đẹp đẽ.

Những việc dính đến thế giới thực thì không thể chỉ nhìn vào AI

AI rất hợp để giúp chúng ta sắp xếp phương hướng, tạo ra từ khóa tìm kiếm, tóm lược những nội dung đã được xác nhận; nhưng hễ dính đến cửa tiệm, giá cả, đánh giá có thật, hay những chuyện như pháp luật, y tế, đầu tư, thì tuyệt đối không thể chỉ nhìn vào câu trả lời của AI.

AI có thể giúp chúng ta tiết kiệm thời gian tìm kiếm, nhưng không thể thay thế việc kiểm chứng nguồn tin. Trông có vẻ đầy đủ không có nghĩa là nó thật.