量子运行

图片来源：

iStock

技术伦理准则：当商业接管研究时

即使科技公司想要负责任，有时道德也会让他们付出太多代价。

作者：
作者姓名
量子运行远见
2023 年 2 月 15 日

洞察总结

由于人工智能 (AI) 系统可能对特定少数群体造成潜在危险和算法偏差，许多联邦机构和公司越来越多地要求技术提供商发布关于他们如何开发和部署人工智能的道德准则。然而，在现实生活中应用这些准则要复杂得多，也更模糊。

道德冲突背景

在硅谷，企业仍在探索如何最好地将道德原则应用到实践中，包括提出这样一个问题：“优先考虑道德需要多少成本？” 2 年 2020 月 XNUMX 日，谷歌道德人工智能团队联席负责人 Timnit Gebru 发布推文称她已被解雇。她因偏见和面部识别研究而在 AI 社区广受尊重。导致她被解雇的事件涉及她与人合着的一篇论文，谷歌认为该论文不符合他们的出版标准。

然而，Gebru 和其他人认为解雇是出于公共关系而非进步。解雇发生在 Gebru 质疑一项不发表关于模仿人类语言的人工智能如何伤害边缘化人群的研究的命令之后。 2021 年 XNUMX 月，Gebru 的合著者玛格丽特·米切尔 (Margaret Mitchell) 也被解雇了。

谷歌表示，米切尔将电子文件移出公司，违反了公司的行为准则和安全政策。米切尔没有详细说明她被解雇的原因。此举引发了大量批评，导致谷歌宣布在 2021 年 XNUMX 月之前改变其多样性和研究政策。这一事件只是道德冲突如何分裂大型科技公司及其本应客观的研究部门的一个例子。

破坏性影响

据《哈佛商业评论》报道，企业主面临的最大挑战是在应对道德危机的外部压力与公司和行业的内部需求之间找到平衡点。外部批评促使公司重新评估其业务实践。然而，来自管理层的压力、行业竞争和市场对企业经营方式的普遍预期有时会产生有利于现状的反补贴激励。因此，道德冲突只会随着文化规范的演变以及公司（尤其是有影响力的科技公司）继续突破他们可以实施以产生新收入的新颖商业实践的界限而增加。

与这种道德平衡作斗争的公司的另一个例子是 Meta 公司。为了解决其公开的道德缺陷，Facebook 在 2020 年成立了一个独立的监督委员会，有权推翻内容审核决定，即使是创始人马克扎克伯格做出的决定。 2021 年 XNUMX 月，该委员会对有争议的内容做出了第一次裁决，推翻了它看到的大部分案件。

然而，由于每天 Facebook 上有数十亿条帖子和无数的内容投诉，监督委员会的运作比传统政府慢得多。尽管如此，董事会还是提出了一些有效的建议。 2022 年，该小组建议 Meta Platforms 通过禁止用户在平台上分享个人家庭住址（即使这些地址是公开的）来打击在 Facebook 上发布的 doxxing 事件。董事会还主张 Facebook 开通沟通渠道，透明地解释违规行为发生的原因以及处理方式。