Vì sao cùng dùng AI nhưng rủi ro thay đổi theo từng bối cảnh?

Một câu trả lời do AI tạo ra có thể chỉ cần sửa vài chữ trong bản nháp, nhưng cũng có thể ảnh hưởng đến quyền lợi của một người nếu được dùng trong thủ tục pháp lý. Vì thế, rủi ro không nằm riêng trong mô hình ngôn ngữ. Nó còn phụ thuộc vào nhiệm vụ, hậu quả của sai sót, khả năng kiểm tra và nguồn hỗ trợ mà người dùng có trong tay. [1]

Đánh giá của Trung tâm Nhân quyền thuộc Trường Luật UC Berkeley xem xét việc sử dụng mô hình ngôn ngữ lớn trong giáo dục, báo chí và pháp luật. Nhóm nghiên cứu phỏng vấn 56 người tại 24 quốc gia trong giai đoạn 2023–2025, kết hợp tổng quan tài liệu và các đánh giá mô hình theo từng lĩnh vực. Kết quả cho thấy cùng một khả năng tạo văn bản có thể mở rộng cơ hội ở nơi này nhưng làm tăng nguy cơ đối với quyền con người ở nơi khác. [1]

Yếu tố nào quyết định mức độ rủi ro?

Trước hết là mục đích sử dụng. Việc nhờ AI gợi ý cách diễn đạt một đoạn văn khác hẳn với việc giao cho nó cung cấp căn cứ cho quyết định tác động đến quyền lợi của con người. Trong trường hợp đầu, lỗi thường lộ ra trong quá trình biên tập. Trong trường hợp sau, lời giải thích thiếu chính xác hoặc thiếu sắc thái có thể ảnh hưởng đến thủ tục công bằng, khả năng được khắc phục thiệt hại hoặc một quyết định khó đảo ngược. Câu chữ trôi chảy vì vậy không phải thước đo đầy đủ về mức độ phù hợp. [1]

Khả năng kiểm tra cũng làm thay đổi rủi ro. Ví dụ, hai người nhận cùng một câu trả lời đáng ngờ: một người có tài liệu chuyên ngành, đồng nghiệp và thời gian đối chiếu; người còn lại phải sử dụng ngay vì không có lựa chọn hỗ trợ khác. Nội dung trên màn hình giống nhau, nhưng khả năng phát hiện lỗi và chịu hậu quả lại khác nhau. Tình huống giả định này cho thấy vì sao việc đánh giá AI phải tính đến cả nguồn lực, đào tạo và quyền tiếp cận thông tin của người dùng.

Vì sao nơi thiếu nguồn lực có thể hưởng lợi nhiều hơn?

Đánh giá ghi nhận những cơ hội đáng chú ý tại một số quốc gia thuộc Global South, thuật ngữ chỉ các xã hội thường có vị thế kinh tế và chính trị kém thuận lợi hơn trong hệ thống toàn cầu. Trong báo chí, mô hình ngôn ngữ có thể hỗ trợ viết và nghiên cứu, từ đó cải thiện năng suất và điều kiện làm việc tại những tòa soạn hạn chế nhân lực. Trong pháp luật, công cụ có thể giúp người không có luật sư tiếp cận thông tin ban đầu, chẳng hạn trong các vụ kiện có giá trị nhỏ. [1]

Giá trị của sự hỗ trợ này phụ thuộc vào phần năng lực mà AI bổ sung. Một bản nháp tự động có thể không quá quan trọng với nhóm có nhiều biên tập viên, nhưng lại giảm đáng kể khối lượng công việc cho nhà báo phải tự đảm nhiệm nhiều khâu. Tương tự, lời giải thích pháp lý nhập môn không thay thế tư vấn chuyên môn, song có thể tạo điểm khởi đầu cho người trước đó gần như không được hỗ trợ. Nghịch lý là chính những nơi hưởng lợi nhiều đôi khi cũng thiếu thời gian và hệ thống để phát hiện lỗi. [1]

Sai sót thay đổi ra sao giữa ba lĩnh vực?

Trong báo chí, mô hình có thể tạo ra chi tiết nghe hợp lý nhưng không có căn cứ, hiện tượng thường được gọi là “ảo giác”. Nếu nội dung ấy đi vào bài viết rồi tiếp tục được chia sẻ, sai sót có thể lan xa hơn câu trả lời ban đầu và góp phần phát tán thông tin sai. Khả năng hỗ trợ nghiên cứu và viết bài vì thế chỉ thực sự hữu ích khi thông tin được đối chiếu trước lúc công bố. Một công cụ tiết kiệm thời gian ở khâu soạn thảo không tự động bảo đảm độ tin cậy của sản phẩm cuối. [1]

Trong pháp luật, lời khuyên không chính xác hoặc thiếu sắc thái có thể đe dọa quyền được xét xử công bằng, thủ tục đúng đắn và quyền được khắc phục. Đánh giá xem việc thẩm phán dùng mô hình ngôn ngữ để đưa ra phán quyết là một trường hợp rủi ro cao cần được điều chỉnh cụ thể. Trong giáo dục, hệ thống học tập cá nhân hóa có thể giúp giáo viên hỗ trợ từng học sinh giải quyết khó khăn riêng, nhưng việc phù hợp với chuẩn giáo dục và giúp người học ghi nhớ vẫn là thách thức. [1]

Văn hóa ảnh hưởng đến câu trả lời thế nào?

Nhóm nghiên cứu nêu nguy cơ đồng nhất hóa văn hóa và hệ tư tưởng. Khi dữ liệu hoặc thiết kế không đại diện đầy đủ cho các cộng đồng, mô hình có thể ưu tiên những cách diễn đạt, chuẩn mực và góc nhìn xuất hiện thường xuyên hơn. Câu trả lời vẫn có thể mạch lạc nhưng không phù hợp với xã hội nơi nó được sử dụng. Vấn đề khi đó không chỉ là đúng hay sai về dữ kiện, mà còn liên quan đến bình đẳng và khả năng những kinh nghiệm ít được đại diện tiếp tục bị đẩy ra ngoài lề. [1]

Có thể hình dung một bài tập yêu cầu học sinh phân tích phong tục địa phương, trong khi công cụ liên tục đưa ra ví dụ từ một môi trường văn hóa khác. Nội dung không nhất thiết sai hoàn toàn, nhưng có thể khiến trải nghiệm gần gũi với học sinh trở thành phần ngoại vi. Đây là ví dụ giả định về sự không phù hợp theo bối cảnh: một câu trả lời hữu ích còn phải tính đến ngôn ngữ, chuẩn mực và kinh nghiệm mà người tiếp nhận sử dụng để hiểu vấn đề.

Nên đánh giá AI bằng những câu hỏi nào?

Một phép thử chung khó đại diện cho toàn bộ tác động của mô hình ngôn ngữ. Có thể tách việc đánh giá thành ba câu hỏi: công cụ có làm đúng nhiệm vụ không; người dùng có nhận ra và sửa được lỗi không; nếu lỗi lọt qua, ai sẽ chịu hậu quả? Cùng một hạn chế về độ chính xác có thể chỉ gây bất tiện khi sửa câu chữ, nhưng trở thành vấn đề quyền con người nếu tham gia vào quyết định pháp lý hoặc việc phân phối cơ hội giáo dục. [1]

UC Berkeley đề xuất đa dạng hóa dữ liệu để đại diện tốt hơn cho các cộng đồng, điều chỉnh cách từ chối và giọng điệu phản hồi theo mức độ rủi ro, đồng thời phát triển mô hình phù hợp với từng nghề. Đánh giá cũng khuyến nghị xác định rõ trách nhiệm, thiết lập quy trình khắc phục thiệt hại và điều chỉnh những trường hợp sử dụng có rủi ro cao. Như vậy, câu hỏi thiết thực không phải AI tốt hay xấu nói chung, mà là nó được trao nhiệm vụ gì, ai kiểm tra và cơ chế nào bảo vệ người bị ảnh hưởng. [1]