AI ethics frameworks define principles and rules for developing responsible AI. Key concerns include bias and fairness, transparency, accountability, privacy, safety, and the alignment problem — ensuring AI systems do what humans actually want.

AI Ethics Framework Builder

Đây là gì?

Khung đạo đức AI xác định các nguyên tắc và quy tắc để phát triển AI có trách nhiệm. Các mối quan tâm chính bao gồm sự thiên vị và công bằng, tính minh bạch, trách nhiệm giải trình, quyền riêng tư, an toàn và vấn đề liên kết – đảm bảo hệ thống AI thực hiện những gì con người thực sự muốn.

📖 Tìm hiểu sâu

Ví dụ 1

Hãy nghĩ đến việc xây dựng khuôn khổ đạo đức AI giống như viết hiến pháp cho một đất nước máy móc mới. Giống như hiến pháp cân bằng quyền tự do cá nhân với an toàn công cộng, khuôn khổ AI phải cân bằng giữa tốc độ đổi mới với việc bảo vệ con người — và các cộng đồng khác nhau sẽ cân nhắc những ưu tiên đó một cách khác nhau.

Ví dụ 2

Hãy tưởng tượng bạn thuê một nhân viên mới cực kỳ nhanh nhẹn và không bao giờ ngủ nhưng không có đạo đức. Trước khi để họ đưa ra quyết định về các khoản vay, tuyển dụng hoặc chăm sóc y tế, bạn sẽ tạo ra một bộ quy tắc đề cập đến sự công bằng, minh bạch và trách nhiệm giải trình. Cuốn sách quy tắc đó về cơ bản là một khuôn khổ đạo đức AI.

🎯 Mẹo sử dụng

Người mới

Bắt đầu bằng cách điều chỉnh thanh trượt Trọng lượng Công bằng — xem hình dạng biểu đồ radar thay đổi như thế nào trong thời gian thực

Trung cấp

Sử dụng Kịch bản ngẫu nhiên để kiểm tra căng thẳng khung của bạn trên các ứng dụng AI khác nhau

Chuyên gia

Ở chế độ Chuyên gia, hãy hạ Ngưỡng thiên vị để xem các tiêu chuẩn chặt chẽ hơn ảnh hưởng như thế nào đến Độ tin cậy ra quyết định tổng thể

📚 Thuật ngữ

AI Alignment

Đảm bảo hệ thống AI theo đuổi các mục tiêu phù hợp với giá trị và ý định của con người.

Bias

Lỗi hệ thống trong kết quả đầu ra của AI phản ánh những định kiến trong dữ liệu đào tạo hoặc lựa chọn thiết kế.

Explainability

Khả năng hiểu và giải thích cách hệ thống AI đưa ra quyết định (XAI).

Fairness

Đảm bảo AI đối xử công bằng với tất cả các nhóm nhân khẩu học, tránh kết quả phân biệt đối xử.

Accountability

Phân công trách nhiệm rõ ràng đối với các quyết định về AI và hậu quả của chúng.

Transparency

Sự cởi mở về cách thức hoạt động của hệ thống AI, những hạn chế của chúng và dữ liệu chúng sử dụng.

Informed Consent

Người dùng hiểu cách dữ liệu của họ được AI sử dụng và tự nguyện đồng ý với dữ liệu đó.

Value Alignment

Thách thức kỹ thuật trong việc mã hóa các giá trị của con người thành các chức năng mục tiêu của AI.

Trolley Problem in AI

Áp dụng các tình huống khó xử về đạo đức cổ điển cho các hệ thống tự trị đưa ra quyết định sinh tử.

AI Safety

Nghiên cứu đảm bảo các hệ thống AI tiên tiến hoạt động như dự định mà không gây ra tác hại ngoài ý muốn.

🏆 Nhân vật chính

Stuart Russell (2019)

Giáo sư UC Berkeley, người đã coi việc liên kết AI là thách thức trọng tâm, tác giả cuốn sách 'Tương thích với con người'

Timnit Gebru (2020)

Nhà nghiên cứu đạo đức AI, đồng tác giả bài báo có ảnh hưởng về rủi ro mô hình ngôn ngữ lớn và thành lập Viện DAIR

Joy Buolamwini (2018)

Nhà nghiên cứu của MIT, người thành lập Liên minh Công lý Thuật toán, vạch trần sự thiên vị chủng tộc trong nhận dạng khuôn mặt

Yoshua Bengio (2023)

Người tiên phong về deep learning (Turing Award 2018), người trở thành tiếng nói hàng đầu về quy định an toàn AI

UNESCO (2021)

Xuất bản Khuyến nghị toàn cầu đầu tiên về Đạo đức của AI, được 193 quốc gia thành viên thông qua

🎓 Tài nguyên học tập

On the Dangers of Stochastic Parrots [paper]
Bài viết có ảnh hưởng về rủi ro môi trường và xã hội của các mô hình ngôn ngữ lớn (FAccT 2021)
Fairness and Abstraction in Sociotechnical Systems [paper]
Khung để hiểu sự công bằng trong AI được hình thành như thế nào bởi bối cảnh xã hội (FAT* 2019)
AI Ethics Guidelines Global Inventory [article]
Cơ sở dữ liệu gồm hơn 160 nguyên tắc đạo đức AI từ khắp nơi trên thế giới
Partnership on AI [article]
Tổ chức nhiều bên liên quan phát triển các phương pháp hay nhất cho AI có trách nhiệm

💬 Lời nhắn cho người học

Khám phá thế giới hấp dẫn của việc xây dựng khuôn khổ đạo đức AI. Mọi khám phá đều bắt đầu từ sự tò mò - không có câu trả lời đúng duy nhất, chỉ có sự cân nhắc kỹ lưỡng!