Nguyên tắc

Thông minh chưa chắc đã tốt

Bạn đã từng gọi API LLM, viết prompt và đưa tính năng lên production. Về mặt kỹ thuật, mọi thứ chạy ổn.

Nhưng một tính năng thông minh không tự động là một tính năng tốt.

Chỉ một câu trả lời thiên lệch, một lần lộ dữ liệu hay một lời khuyên sai cũng đủ biến sản phẩm thành tin nóng theo hướng xấu.

Vì vậy, kỹ sư cần cân nhắc tác động tới người dùng trước, trong và sau khi triển khai.

Năm trụ cột cốt lõi

Thiết kế AI có trách nhiệm dựa trên năm nguyên tắc.

Công bằng tránh kết quả bất lợi cho một nhóm người dùng. Minh bạch giúp người dùng biết khi nào họ đang tương tác với AI.

Riêng tư giữ dữ liệu được dùng phù hợp. An toàn giảm nội dung gây hại. Giảm thiên lệch hạn chế khuôn mẫu không công bằng.

Hãy dùng năm trụ cột này như một checklist khi review tính năng LLM.

Công bằng và giảm thiên lệch

Hai nguyên tắc này rất dễ bị nhầm là một.

Công bằng nhìn vào kết quả: tính năng có tạo ra kết quả bất lợi cho một nhóm người dùng nào không?

Giảm thiên lệch nhìn vào phản hồi của mô hình: nhận diện, kiểm tra và hạn chế các khuôn mẫu không công bằng.

Ví dụ, trợ lý viết mô tả công việc luôn gán một nghề cho một giới tính. Đó là thiên lệch cần bắt được khi kiểm thử.

Minh bạch: nói rõ đây là AI

Người dùng có quyền biết khi nào họ đang tương tác với AI.

Họ cũng cần biết giới hạn của hệ thống, ví dụ câu trả lời có thể sai.

Với kỹ sư, minh bạch là một quyết định trong luồng trải nghiệm: nhãn rõ ràng trên giao diện và thông báo giới hạn đặt đúng chỗ người dùng nhìn thấy.

Để ý nhãn ngay cạnh câu trả lời và dòng nhắc giới hạn sát ô nhập: người dùng thấy cả hai đúng lúc họ đọc và gõ.

Nếu giấu AI sau giọng điệu giống người, người dùng dễ tin quá mức.

Riêng tư: dữ liệu vào và ra

Mỗi lần gọi API LLM, dữ liệu đi theo hai chiều.

Đầu vào là những gì người dùng gửi, kể cả nội dung bạn đưa vào prompt. Đầu ra là phản hồi mô hình trả về.

Cả hai đều cần được thu thập, lưu trữ và sử dụng phù hợp.

Hãy tự hỏi: có cần gửi toàn bộ dữ liệu này không? Log lưu bao lâu? Dữ liệu có bị dùng cho mục đích khác không?

An toàn: giảm rủi ro gây hại

LLM có thể tạo ra thứ bạn không lường trước.

Nguyên tắc an toàn nhắm vào ba rủi ro: nội dung gây hại, lời khuyên sai và hành vi ngoài dự kiến.

Ví dụ, chatbot hỗ trợ khách hàng tự hứa một chính sách không tồn tại. Đó là hành vi ngoài dự kiến.

Hãy kiểm thử các tình huống này trước khi phát hành, đừng chờ người dùng phát hiện.

Đưa nguyên tắc vào quy trình

Sai lầm phổ biến là chỉ nghĩ tới đạo đức khi đã có sự cố.

Thay vào đó, đưa nguyên tắc vào từng bước: yêu cầu sản phẩm, thiết kế luồng trải nghiệm, prompt, kiểm thử và giám sát sau phát hành.

Như vậy bạn bao phủ cả trước, trong và sau khi triển khai.

Lần tới khi tích hợp một API AI, hãy mang năm trụ cột vào ngay buổi viết yêu cầu đầu tiên.

Nhận định: "Nếu tính năng LLM trả lời nhanh và thông minh thì nó đã đủ là một tính năng AI có trách nhiệm."

• Đúng
• Sai

Answer: Sai

Sai. Thông minh không đồng nghĩa với tốt. Kỹ sư vẫn phải cân nhắc tác động tới người dùng: kết quả có công bằng không, người dùng có biết đang dùng AI không, dữ liệu có được bảo vệ không, có nội dung gây hại hay thiên lệch không.

Nguyên tắc _____ giúp người dùng biết khi nào họ đang tương tác với AI và giới hạn của hệ thống. Nguyên tắc _____ đảm bảo dữ liệu đầu vào và đầu ra được thu thập, lưu trữ, sử dụng phù hợp. Nguyên tắc _____ nhằm giảm nội dung gây hại và lời khuyên sai.

Answer: Nguyên tắc minh bạch giúp người dùng biết khi nào họ đang tương tác với AI và giới hạn của hệ thống. Nguyên tắc riêng tư đảm bảo dữ liệu đầu vào và đầu ra được thu thập, lưu trữ, sử dụng phù hợp. Nguyên tắc an toàn nhằm giảm nội dung gây hại và lời khuyên sai.

Minh bạch liên quan tới việc công khai vai trò và giới hạn của AI; riêng tư liên quan tới xử lý dữ liệu; an toàn liên quan tới giảm nội dung gây hại, lời khuyên sai hoặc hành vi ngoài dự kiến.

Trợ lý tư vấn vay vốn dùng LLM thường đưa ra gợi ý kém thuận lợi hơn cho người dùng viết bằng phương ngữ của một vùng. Nguyên tắc nào bị vi phạm trực tiếp nhất?

• Công bằng
• Minh bạch
• Riêng tư
• An toàn

Answer: Công bằng

Công bằng nhằm tránh tạo ra kết quả bất lợi cho một nhóm người dùng. Ở đây một nhóm (người dùng phương ngữ) nhận kết quả tệ hơn. Vấn đề không nằm ở việc công khai AI (minh bạch), xử lý dữ liệu (riêng tư) hay nội dung độc hại (an toàn).