内容摘要
本视频是"人人皆可用的生成式 AI"课程第三周第九讲，也是课程正课的倒数第二讲。吴恩达介绍了**负责任的 AI（Responsible AI）**的概念框架——涵盖五个核心维度，以及三项可立即付诸实践的操作建议。视频以吴恩达本人亲手叫停过几个在财务上可行但不符合伦理的项目作为结语，体现了他对这一话题的真实承诺，而非仅仅是理论阐述。
核心观点
-
负责任的 AI 的定义：以符合伦理、可信赖、对社会负责的方式开发和使用 AI
这是目前开发者、企业和政府都在认真对待的议题。近年来，许多政府和公司已经发布了负责任 AI 的框架，虽然还有大量工作需要完成，但进展已经相当显著。 -
负责任的 AI 的五个核心维度
- 公平性（Fairness）：确保 AI 不会延续或放大偏见
- 透明度（Transparency）：使 AI 系统及其决策对受影响的利益相关者可理解
- 隐私（Privacy）：保护用户数据并确保信息保密
- 安全性（Security）：保护 AI 系统免受恶意攻击
- 伦理使用（Ethical Use）：确保 AI 被用于有益目的
-
实施挑战：伦理没有数学定义，人类争论了两千年
这五个维度的实施并不总是简单直接的。以"伦理"为例，人类至少已经争论了两千年什么是道德、什么是不道德，仍然没有一个清晰的数学定义。尽管有很多显而易见的情况，但也有很多边界模糊的情形。这正是为什么需要特定的最佳实践来帮助团队和组织进行有益于做出更负责任决策的讨论和辩论。 -
三项实践建议
- 第一：构建鼓励讨论和辩论的文化：如果团队中有人对 AI 使用的某个伦理方面有疑虑，应该能够自由地提出来，以便团队做出更好的决策。
- 第二：头脑风暴"可能出问题的事"：独立或与团队或更广泛的利益相关者一起，提前识别潜在问题并在事前加以缓解。可以用五个维度作为检查清单（公平性、透明度、隐私、安全性、伦理使用）。例如吴恩达的团队曾提前头脑风暴部署的 LLM 是否可能存在偏见问题。
- 第三：与多元化团队合作，纳入所有受影响利益相关者的视角：在医疗项目中与患者和医生交谈，在零售应用中与顾客和卖家交流——这些视角往往能改变项目方向，带来团队本来不会有的新想法。
-
吴恩达的个人承诺：曾叫停在财务上可行但不符合伦理的项目
吴恩达分享了一个个人经历：他曾多次叫停在财务上评估可行、但在伦理评估上存在问题的项目。这是他对"只参与你认为符合伦理且让人们变得更好的项目"这一原则的真实践行，而非纸上谈兵。
关键收获
💡 收获 1：五维框架（公平、透明、隐私、安全、伦理使用）是评估 AI 项目伦理风险的实用检查清单
这五个维度不只是抽象原则，它们可以直接作为项目头脑风暴的检查清单使用：在项目启动或部署前，逐一问"这个 AI 系统在这个维度上可能出现什么问题？"这是将抽象伦理原则转化为可操作流程的有效方式。
💡 收获 2："提前头脑风暴出错场景"比事后补救成本低得多
类似于软件工程中的"设计时考虑安全性"（Security by Design），负责任 AI 的最佳实践也强调提前识别风险。当 AI 系统已经部署并产生影响后再修正，代价往往远高于在设计阶段就考虑到这些问题。
💡 收获 3：多元化视角是 AI 伦理决策的关键资产，而非装饰
吴恩达的医疗和零售案例表明，团队外部的视角——患者、医生、顾客、卖家——往往能发现团队内部看不到的问题，甚至改变项目的根本方向。多元化不是政治正确的表态，而是做出更好决策的实际工具。
💡 收获 4：吴恩达叫停财务可行项目的个人经历是本课程最有分量的伦理声明
"财务上合理"和"伦理上正确"有时会产生冲突，而吴恩达选择了后者。这不是一个抽象的价值宣言，而是一个可以被效仿的具体决策模式：在决定投入资源之前，将伦理评估与财务评估并列进行，且赋予伦理评估否决权。
重要引述
"Responsible AI refers to developing and using AI in ways that are ethical, trustworthy, and socially responsible."
（负责任的 AI 是指以符合伦理、可信赖且对社会负责的方式开发和使用 AI。）
"For at least a couple thousand years now, humanity has been debating what is ethical and what is not ethical. There is unfortunately no clear mathematical definition of ethical versus unethical behavior."
（至少两千年来，人类一直在辩论什么是道德的，什么是不道德的。遗憾的是，道德行为与不道德行为之间并没有一个清晰的数学定义。）
"I've had a few times that I've killed projects that I assessed to be financially sound on ethical grounds."
（我曾经多次在伦理评估的基础上，叫停了我评估为在财务上可行的项目。）
"I hope you keep on considering responsible AI and only work on projects that you think are ethical and that make people better off."
（我希望你继续考虑负责任的 AI，只参与那些你认为符合伦理且让人们变得更好的项目。）
总体结论
本讲以简洁有力的方式呈现了负责任 AI 的核心框架。五个维度（公平、透明、隐私、安全、伦理使用）提供了评估 AI 项目伦理风险的结构化工具，三项实践建议（文化建设、提前头脑风暴、多元化视角）将抽象原则转化为可操作的工作流程。最令人印象深刻的是吴恩达以自身叫停项目的经历作为结语——这不是一份展示用的价值观宣言，而是一种可以被学习和实践的决策模式。在课程即将结束之际，这一讲提醒学习者：GenAI 的使用不只是技术和商业问题，更是一个关于如何用技术让世界变得更好的伦理问题。
逐字稿（中文翻译）
负责任的 AI 是指以符合伦理、可信赖且对社会负责的方式开发和使用 AI。许多开发者、企业和政府都非常重视这一点，一直在进行讨论，也在努力确保 AI 被负责任地构建和使用。由于这些对负责任 AI 的关注和努力，我们实际上在过去几年取得了相当大的进展——例如，许多政府和公司已经发布了负责任 AI 的框架。但还有大量工作需要完成。让我们来看看负责任 AI 意味着什么。
在我们仍在摸索如何构建负责任 AI 的很多细节时，一些共同的主题已经浮现。以下是我认为实施负责任 AI 的几个关键维度：
首先是公平性——确保 AI 不会延续或放大偏见；透明度——确保 AI 系统及其决策对利益相关者、对受影响的人是可理解的；隐私——保护用户数据并确保信息保密；安全性——保护 AI 系统免受恶意攻击；以及最后，伦理使用——确保 AI 被用于有益目的。
这些维度或原则的挑战之一在于，实施并不总是简单直接的。举个例子，我认为至少两千年来，人类一直在辩论什么是道德的，什么是不道德的。遗憾的是，道德行为与不道德行为之间并没有一个清晰的数学定义——尽管当然也有很多清楚明了的情况。这正是为什么，对于个人、组织乃至国家来说，要采纳负责任的 AI，需要一些新兴的最佳实践来帮助进行讨论和辩论，从而引领更好、更负责任的决策——即使有时正确的做法可能是模糊不清的。
我想分享几个实用建议：
第一，我认为重要的是建立一种鼓励对伦理问题进行讨论和辩论的文化。所以如果你的团队中有人对负责任 AI 的使用有疑虑，如果他们能自由地提出这个问题，让团队能够做出更好的决策，那会很好。
第二个建议是——无论是独自一人、与团队一起还是与更广泛的利益相关者群体——头脑风暴事情可能出错的方式。我发现在许多项目中，这种头脑风暴能够帮助识别潜在问题，并允许团队提前加以缓解。用于头脑风暴的检查清单可以是我在前一张幻灯片中描述的五个维度：AI 系统是否可能在公平性、透明度、隐私、安全性或伦理使用方面存在问题？例如，在我参与过的一些项目中，我的团队提前头脑风暴了我们部署的 LLM 是否可能存在公平性问题，比如是否可能表现出你在前面讨论中看到的某些偏见。
第三，我鼓励你与多元化的团队合作，并纳入受 AI 系统影响的所有利益相关者的视角。在许多项目中，寻求多元化的意见，以及与和我自己可能有很大不同的人交谈，让我的团队更好地理解了 AI 系统的影响，并引领我们做出更好的决策。例如，在医疗健康领域构建系统时，我发现与患者和医生交谈给了我不同的视角，真正改变了我们项目的发展方向；在零售应用方面，与一些顾客以及卖家交谈给了我的团队我们原本不会有的新想法。我认为这种模式对很多项目都成立。如果你在特定行业工作，比如医疗、金融、媒体或科技，可能已经有针对你所在行业的负责任 AI 特定新兴最佳实践，在你开展项目时参考这些也会很有帮助。
我认为我们都希望使用 AI 让人们的生活变得更好。有几次，我叫停了我在财务上评估可行、但在伦理评估上有问题的项目。在你决定做什么、不做什么时，我希望你继续考虑负责任的 AI，只参与那些你认为符合伦理且让人们变得更好的项目。
现在我们快要到达本课程的结尾了，让我们去下一个视频看看我们所涵盖内容的总结！
本文档根据视频字幕整理翻译，内容为 DeepLearning.AI "Generative AI for Everyone" 课程第三周第九讲。
负责任的 AI
下载 MP3