技術倫理準則：當商業接管研究時

• 作者：
• 作者姓名

  量子運行遠見
• 2023 年 2 月 15 日

洞察總結

由於人工智能 (AI) 系統可能對特定少數群體造成潛在危險和算法偏見，許多聯邦機構和公司越來越多地要求技術提供商發布有關如何開發和部署人工智能的道德準則。 然而，在現實生活中應用這些準則要復雜得多，也更模糊。

道德衝突背景

在矽谷，企業仍在探索如何最好地將道德原則應用於實踐，包括提出這樣的問題：“優先考慮道德需要花費多少錢？” 2 年 2020 月 XNUMX 日，谷歌道德人工智能團隊聯合負責人 Timnit Gebru 發布推文稱她已被解僱。 她因其偏見和麵部識別研究而在人工智能界廣受尊重。 導致她被解僱的事件涉及她與人合著的一篇論文，谷歌認為該論文不符合他們的出版標準。 

然而，格布魯和其他人認為，解僱是出於公共關係而不是進步。 此次解僱是在格布魯對一項不得發表有關模仿人類語言的人工智能如何傷害邊緣人群的研究的命令提出質疑之後發生的。 2021 年 XNUMX 月，格布魯的合著者瑪格麗特·米切爾也被解僱。 

谷歌表示，米切爾將電子文件轉移到公司外部，違反了公司的行為準則和安全政策。 米切爾沒有詳細說明她被解僱的原因。 此舉引發了鋪天蓋地的批評，導致谷歌宣佈在 2021 年 XNUMX 月之前改變其多樣性和研究政策。這一事件只是道德衝突如何分裂大型科技公司及其所謂客觀研究部門的一個例子。

破壞性影響

據《哈佛商業評論》報導，企業主面臨的最大挑戰是在應對道德危機的外部壓力與公司和行業的內部需求之間找到平衡。 外部批評促使公司重新評估其商業行為。 然而，來自管理、行業競爭和企業經營方式的總體市場預期的壓力有時會產生有利於現狀的反補貼激勵措施。 因此，隨著文化規範的發展以及公司（尤其是有影響力的科技公司）不斷突破其可以實施的新穎商業實踐以產生新收入的界限，道德衝突只會增加。

Meta 公司是另一個與這種道德平衡作鬥爭的公司的例子。 為了解決其公開的道德缺陷，Facebook 於 2020 年成立了一個獨立監督委員會，有權推翻內容審核決定，甚至是創始人馬克·扎克伯格做出的決定。 2021 年 XNUMX 月，該委員會對爭議內容做出了首次裁決，並推翻了其所審理的大部分案件。 

然而，Facebook 上每天有數十億條帖子和無數的內容投訴，監督委員會的運作速度比傳統政府慢得多。 儘管如此，董事會還是提出了一些有效的建議。 2022 年，該小組建議 Meta Platforms 打擊 Facebook 上發布的人肉搜索事件，禁止用戶在平台上分享個人家庭地址，即使這些地址是公開的。 該委員會還主張 Facebook 開放一個溝通渠道，透明地解釋違規行為發生的原因以及如何處理。

私營部門道德衝突的影響

私營部門道德衝突的更廣泛影響可能包括： 

• 越來越多的公司建立獨立的道德委員會來監督道德準則在各自業務實踐中的實施情況。
• 學術界對技術研究商業化如何導致更多可疑的做法和系統的批評越來越多。
• 隨著科技公司獵取有才華的公共和大學人工智能研究人員，提供豐厚的薪水和福利，更多的公共部門人才流失。
• 政府越來越多地要求所有公司發布其道德準則，無論它們是否提供技術服務。
• 更多直言不諱的研究人員因利益衝突而被大公司解僱，但很快又被替換。

需要考慮的問題

• 您認為道德衝突將如何影響消費者獲得的產品和服務類型？
• 公司可以採取哪些措施來確保其技術研究的透明度？