什么是 AI 伦理？

当今 AI 的主要焦点

在现实世界里有关 AI 技术的伦理对话中，有一些问题值得关注。其中包括：

基础模型和生成式 AI

2025 年 ChatGPT 的发布标志着人工智能的真正转折点。OpenAI 聊天机器人的能力（从撰写案情摘要到调试代码）为 AI 的功能及其在几乎所有行业的应用开辟了新的可能性。ChatGPT 和类似的工具建立在基础模型、可适应广泛下游任务的 AI 模型之上。基础模型通常是大规模生成式模型，由数十亿个参数组成，使用自我监督对未标记数据进行训练。这让基础模型能够快速地将其在一个环境中学到的知识应用到另一个环境中，使其具备高度的适应性，并能够执行各种不同的任务。然而基础模型存在许多技术行业公认的潜在问题和道德规范问题，例如偏见、虚假内容生成、缺乏可解释性、滥用和社会影响。其中许多问题与 AI 普遍相关，但鉴于基础模型的强大功能和可用性，这些问题变得更加紧迫。

技术奇点

虽然这个话题引起了公众的广泛关注，但许多研究人员并不在意 AI 会在不久的将来超越人类智慧的想法。这也称为超级智能，Nick Bostrum 将超级智能定义为“几乎在所有领域都远超最优秀人类大脑的任何智力，包括科学创造力、一般智慧和社交技能”。尽管目前社会上并不急于实现强 AI 和超级智能，但我们在考虑使用使用自动驾驶汽车等自主系统时，这个想法引发了一些有趣的问题。认为无人驾驶汽车永远不会发生事故是不现实的，那么一旦发生事故，该由谁来承担责任呢？我们是应该继续自动驾驶汽车，还是只将这项技术集成限于可提升驾驶员安全的半自动驾驶汽车？虽然目前还没有定论，但随着创新 AI 技术的发展，人们开始对这些伦理问题展开了激烈争论。

AI 对就业的影响

尽管公众对人工智能的看法大多集中在失业问题上，但或许应该重新审视这种担忧。随着每一项颠覆性的新技术出现，我们都会看到市场对特定工作角色的需求发生了变化。例如，当我们看向汽车行业时，许多制造商（如 GM）正在转向专注电动汽车生产以符合绿色倡议。能源行业不会消失，但能源来源正在从燃油经济性转向电力经济性。当人工智能将工作需求转移到其他领域时，应该以类似的方式看待人工智能。随着数据每天增长和变化，需要有人帮助管理这些系统。仍然需要资源来解决最可能受到工作需求变化影响的行业中的更复杂问题，例如客户服务。人工智能的一个重要方面及其对就业市场的影响将帮助个人过渡到这些新的市场需求领域。

隐私

隐私问题往往在数据隐私、数据保护和数据安全的背景下进行讨论，这些问题使得政策制定者近年来在此方面取得了更大的进步。例如，2025 年颁布了 GDPR 法规，旨在保护欧盟和欧洲经济区的个人数据，让个人更好地控制他们的数据。在美国，各个州正在制定政策，例如要求企业告知消费者收集其数据的情况的《California Consumer Privacy Act》。最近的这项立法迫使重新思考如何存储和使用个人身份数据 (PII)。因此，安全领域的投资已成为企业越来越优先考虑的问题，因为他们要设法消除任何漏洞以及受到监视、黑客攻击和网络攻击的可能性。

偏见和歧视

许多智能系统中的偏见和歧视引发了许多有关使用人工智能的道德规范问题。当训练数据集可能助长偏见时，我们该如何防止偏见和歧视？尽管在自动化方面通常抱有良好的意愿，但将 AI 嵌入招聘实践可能会带来无法预料的后果。在努力实现流程自动化和简化的过程中，Amazon 在招聘技术岗位时无意中对潜在求职者产生了性别偏见（链接位于 ibm.com 站外），最终不得不放弃该项目。随着此类事件的浮出水面，《哈佛商业评论》（链接位于 ibm.com 站外）围绕 AI 在招聘实践中的使用提出了其他尖锐的问题，例如在评估候选人是否适合某个职位时应该能够使用哪些数据。

偏见和歧视并不局限于人力资源职能；可以在许多应用场合中发现这种问题，包括面部识别软件和社交媒体算法。

随着企业越来越意识到 AI 的风险，他们也越来越积极地参与围绕 AI 道德规范和价值观的讨论。例如去年，IBM 首席执行官 Arvind Krishna 分享道，“IBM 坚决反对并且不会容将任何技术（包括其他供应商提供的面部识别技术）用于大规模监视、种族定性、侵犯基本和或任何不符合我们的价值观以及信任和透明原则的用途。”

问责制

目前尚无规范 AI 实践的通用总体立法，但许多国家或地区和州正努力在当地制定和实施这些立法。如今，部分 AI 法规已经颁布，还有更多即将。为了填补这一空白，作为伦理学家和研究人员合作的一部分，道德规范框架应运而生，旨在管控在社会中构建和传播 AI 模型。然而，目前这些只是起到指导作用，研究（链接位于 ibm.com 站外）表明，责任分散和缺乏对潜在后果的预见并不一定有利于防止对社会的危害。