Trong thời đại AI và các mô hình ngôn ngữ lớn (LLM) ngày càng phổ biến, những vấn đề xoay quanh tính xác thực của thông tin do AI đưa ra trở thành đề tài nóng hổi. Gần đây, vụ Mata v Avianca 2023 đã gây xôn xao cộng đồng công nghệ và https://seo.edu.rs/blog/human-in-the-loop-la-gi-va-ap-dung-trong-cong-ty-ra-sao-11177 pháp lý bởi những hệ quả liên quan đến sản phẩm do AI tạo ra. Cũng trong bối cảnh đó, ChatGPT - một trong những LLM tiên tiến nhất hiện nay - đã thể hiện “6 ẩn lệ” (6 https://bizzmarkblog.com/cong-viec-rui-ro-cao-voi-ai-thi-khi-nao-khong-nen-dung-ai-lam-nguon-duy-nhat/ ẩn lệ nghĩa là 6 hạn chế, sai sót hoặc nhầm lẫn) gây tranh luận về mức độ tin cậy.
Khái quát về vụ Mata v Avianca 2023
Vụ việc Mata v Avianca 2023 là một tranh chấp pháp lý nổi bật xảy ra trong ngành hàng không liên quan đến việc ứng dụng trí tuệ nhân tạo trong soạn thảo và xử lý dữ liệu pháp lý. Trong vụ này, bức tranh công nghệ phức tạp thể hiện rõ ràng thách thức khi LLM được sử dụng để tổng hợp, trích dẫn và phân tích tài liệu pháp luật.
Điểm nổi bật của vụ Mata v Avianca 2023
- Sử dụng AI trong soạn thảo tài liệu pháp lý: Mô hình ngôn ngữ được dùng để tổng hợp và trích dẫn các văn bản luật, dẫn đến sai sót dữ liệu quan trọng. Phát sinh các 'hallucination' (ảo giác AI): AI đưa ra những thông tin không có thật hoặc sai lệch mà không thể bị phát hiện ngay lập tức. Tranh cãi về trách nhiệm pháp lý: Ai là người chịu trách nhiệm khi thông tin do AI tạo ra gây thiệt hại hoặc làm lệch hướng phán quyết? Ảnh hưởng đến uy tín và vận hành doanh nghiệp: Việc dựa quá nhiều vào AI mà thiếu kiểm soát gây tổn hại uy tín tổ chức.
Do tính phức tạp và tính mới mẻ, vụ Mata v Avianca 2023 cũng trở thành ví dụ kinh điển cảnh báo về nguy hiểm của AI hallucination và sự cần thiết phải có quy trình kiểm tra nghiêm ngặt khi ứng dụng AI trong doanh nghiệp.
AI Hallucination là gì và vì sao nguy hiểm?
AI hallucination (ảo giác AI) là hiện tượng mô hình ngôn ngữ lớn tạo ra thông tin sai lệch hoặc tưởng tượng mà không dựa trên sự thật. Đây không phải là lỗi kỹ thuật đơn thuần, mà là đặc trưng từ cách LLM “đoán” chuỗi chữ tiếp theo dựa trên dữ liệu huấn luyện.
Tại sao AI hallucination nguy hiểm?
- Mất uy tín khi thông tin sai lệch được sử dụng: Các báo cáo, tài liệu quan trọng nếu có dữ liệu sai có thể dẫn đến quyết định sai. Rủi ro pháp lý và tài chính: Thông tin sai có thể dẫn đến tranh chấp, kiện tụng hoặc tổn thất tài chính lớn. Khó phát hiện và kiểm soát: Nhiều hallucination rất thuyết phục, làm người dùng hoặc nhà quản lý khó phân biệt được. Ảnh hưởng lan tỏa: AI-generated content được sử dụng rộng rãi dễ gây ảnh hưởng xấu lan rộng.
LLM chỉ dự đoán chữ, không 'biết sự thật'
Các mô hình ngôn ngữ lớn như ChatGPT hoạt động dựa trên nguyên tắc ước lượng xác suất xuất hiện chuỗi từ, tức chúng chỉ "dự đoán chữ tiếp theo phù hợp nhất" dựa trên hàng tỷ đoạn văn, câu chữ đã học được.
Điều này có nghĩa:
- LLM không có hiểu biết thực sự hay nhận thức: Chúng không có cơ sở dữ liệu kiến thức sự thật như con người. Không có khả năng kiểm chứng thông tin: Mọi câu trả lời là dự đoán, đôi khi sai lệch hoặc tạo ra các kết quả “ảo giác”. Phụ thuộc rất lớn vào chất lượng và phạm vi dữ liệu huấn luyện: Nếu dữ liệu huấn luyện thiếu chính xác, lỗi có thể nhân lên.
Dữ liệu huấn luyện nhiều nhưng có giới hạn
Các LLM như ChatGPT được đào tạo trên một lượng dữ liệu cực lớn đa dạng từ internet, sách báo, tài liệu pháp luật, báo cáo tài chính, v.v. Tuy nhiên:
- Dữ liệu huấn luyện thường bị giới hạn tính mới: Thông tin cập nhật liên tục nhưng mô hình bản thân chỉ học đến thời điểm cắt dữ liệu. Phạm vi dữ liệu không đồng đều: Một số lĩnh vực, ngôn ngữ, vùng miền có ít dữ liệu hơn, dẫn tới chất lượng trả lời kém hơn. Dữ liệu có thể chứa sai sót, thiên kiến: AI dễ học theo các lỗi hoặc tin tức chưa được kiểm chứng. Gây ra ảo giác (hallucination) vì không có khả năng xác minh: Khi thiếu dữ kiện, AI “phóng đại” hoặc tạo câu trả lời không đúng.
Prompt mơ hồ làm tăng rủi ro thông tin sai lệch
Một trong những yếu tố then chốt làm tăng nguy cơ AI tạo ra ảo giác là prompt (lệnh yêu cầu) mơ hồ hoặc không rõ ràng. Kỹ thuật Prompt Engineering chính là nghệ thuật xây dựng câu hỏi/lệnh đủ bối cảnh, giới hạn phạm vi và yêu cầu cụ thể để AI tập trung trả lời chính xác hơn.
Xu hướng áp dụng Prompt Engineering tiêu chuẩn trong doanh nghiệp
- Cung cấp bối cảnh đầy đủ: Mô tả chi tiết về yêu cầu, lựa chọn phạm vi thông tin cần trích dẫn. Giới hạn phạm vi trả lời: Ví dụ chỉ dùng dữ liệu pháp luật năm 2020-2023, hoặc tài liệu chính thức của Avianca. Yêu cầu trích dẫn nguồn chính xác: Tránh tình trạng AI tự sáng tạo nguồn dữ liệu hoặc giả mạo trích dẫn. Khẳng định giới hạn và thừa nhận khi không biết: Tạo prompt yêu cầu AI báo rằng nếu câu hỏi ngoài phạm vi hiểu biết thì phải thừa nhận. Chia nhỏ tác vụ phức tạp: Thay vì yêu cầu trả lời dài dòng, chia thành các phần nhỏ như tóm tắt, phân tích, tổng hợp riêng biệt.
ChatGPT và 6 ẩn lệ (hạn chế) trong vụ Mata v Avianca 2023
Từ vụ Mata v Avianca, có thể tóm lược 6 ẩn lệ mà ChatGPT thể hiện trong quá trình ứng dụng thực tế:
Hallucination ẩn sâu: Dù trả lời trôi chảy, nhiều thông tin mô hình tự sáng tạo không có thật khiến dữ liệu pháp lý sai lệch nghiêm trọng. Không thừa nhận giới hạn: Trong nhiều trường hợp, ChatGPT không nhận ra giới hạn kiến thức, tạo cảm giác biết rõ khi thực chất không. Không trích dẫn nguồn đầy đủ chính xác: Thông tin trích dẫn không có trong dữ liệu gốc hoặc sai số bản quyền. Phụ thuộc mạnh vào prompt: Yêu cầu mơ hồ hoặc quá rộng dễ khiến AI “đoán lung tung” dẫn đến sai sót. Thiếu khả năng kiểm chứng chéo: Không thể phân biệt rõ sự thật từ giả thuyết hoặc câu chuyện chưa xác thực. Rủi ro pháp lý và vận hành: Tạo ra hậu quả ngoài mong muốn như tranh tụng lâu dài ở Mata v Avianca và ảnh hưởng đến các quy trình nội bộ doanh nghiệp.Kết luận và lời khuyên cho doanh nghiệp khi dùng LLM
Vụ Mata v Avianca 2023 minh họa rõ nét mức độ phức tạp và thách thức khi tích hợp AI & LLM trong doanh nghiệp, đặc biệt trong các ngành đòi hỏi độ chính xác cao như pháp lý, kế toán, tài chính. AI hallucination là rủi ro không thể bỏ qua.
Để an toàn và hiệu quả:
- Áp dụng kỹ thuật prompt engineering chuẩn mực: cung cấp bối cảnh đầy đủ, giới hạn phạm vi rõ ràng, yêu cầu trích dẫn minh bạch. Luôn có quy trình kiểm tra & đối chiếu thông tin do AI tạo ra bởi con người chuyên môn. Tránh đặt niềm tin tuyệt đối vào AI, nhất là trong các quyết định pháp lý, tài chính quan trọng. Đào tạo nhân sự về giới hạn và rủi ro của LLM để sử dụng công cụ đúng cách. Chia nhỏ tác vụ bằng các prompt phân mảnh giúp giảm rủi ro hallucination và tăng tính kiểm soát.
Công nghệ AI sẽ ngày càng đóng vai trò then chốt trong vận hành doanh nghiệp, tuy nhiên hiểu rõ và chấp nhận 6 ẩn lệ như với ChatGPT sẽ giúp doanh nghiệp tránh được những hậu quả tiềm ẩn, vận hành an toàn và hiệu quả hơn.
Tham khảo công cụ và kỹ thuật bổ trợ
Để hoàn thiện quy trình tổng hợp và xử lý dữ liệu, doanh nghiệp có thể phối hợp:
- Google Search: Kiểm tra và đối chiếu nguồn tin từ nhiều trang uy tín để lọc thông tin chính xác. Prompt Engineering: Điều chỉnh câu lệnh cho AI như đã đề cập giúp giới hạn phạm vi, cấp bối cảnh, yêu cầu trích dẫn và kỹ thuật xác nhận giới hạn. Chia nhỏ tác vụ: Tách nhiệm vụ tổng hợp thành những phần riêng biệt như tóm tắt, phân tích, xác thực giúp thuận tiện kiểm soát.
Việc kết hợp linh hoạt các công cụ và kỹ thuật sẽ hạn chế tối đa các rủi ro liên quan tới AI hallucination, góp phần xây dựng hệ thống dữ liệu tin cậy và minh bạch.
Tác giả: Giảng viên nội bộ về ứng dụng AI trong doanh nghiệp, chuyên gia data và phân tích quản trị tài chính với hơn 9 năm kinh nghiệm. Thường xuyên hướng dẫn các nhóm kế toán, tài chính, marketing sử dụng LLM để tóm tắt tài liệu và viết bản nháp hiệu quả.