クォンタムラン

画像クレジット:

iStock

テクノロジーにおける倫理ガイドライン: 商取引が研究を引き継ぐとき

テクノロジー企業が責任を負いたいと思っていても、倫理があまりにも高くつく場合があります。

著者：
著者名
クォンタムラン・フォーサイト
2023 年 2 月 15 日

洞察の要約

人工知能 (AI) システムが特定の少数派に与える可能性のある潜在的な危険とアルゴリズムのバイアスのため、多くの連邦機関や企業はテクノロジープロバイダーに対し、AI の開発と導入方法に関する倫理ガイドラインを公開するようますます求めています。ただし、これらのガイドラインを実際の生活に適用することは、はるかに複雑で曖昧です。

倫理衝突の状況

シリコンバレーでは、企業は依然として倫理原則を実践に適用する最善の方法を模索しており、その中には「倫理を優先するのにどれくらいのコストがかかりますか?」という質問も含まれます。 2年2020月XNUMX日、Googleの倫理AIチームの共同リーダーであるティムニット・ゲブル氏は、解雇されたとツイートした。彼女は、偏見と顔認識の研究で AI コミュニティで広く尊敬されていました。彼女の解雇につながった事件は、グーグルが出版基準を満たしていないと判断した彼女の共著論文に関するものだった。

しかし、ゲブル氏らは、解雇の動機は進歩ではなく広報活動だったと主張している。この解任は、ゲブル氏が人間の言語を模倣するAIが社会から疎外された人々にどのような害を及ぼす可能性があるかについての研究を発表しないよう命令に疑問を呈した後に行われた。 2021年XNUMX月には、Gebruの共著者であるマーガレット・ミッチェル氏も解雇された。

Googleは、ミッチェル氏が電子ファイルを社外に移動することで同社の行動規範とセキュリティポリシーに違反したと述べた。ミッチェル氏は解雇の理由について詳しくは述べなかった。この動きは雪崩のように批判を引き起こし、グーグルは2021年XNUMX月までに多様性と研究方針の変更を発表することになった。この事件は、倫理の衝突によって大手ハイテク企業とその客観的であるはずの研究部門がいかに分断されているかを示す一例にすぎない。

破壊的な影響

ハーバード・ビジネス・レビューによると、経営者が直面する最大の課題は、倫理的危機に対応するための外部からの圧力と、自社や業界の内部要求との間のバランスを見つけることだという。外部からの批判により、企業はビジネス慣行の再評価を迫られます。しかし、経営陣からのプレッシャー、業界の競争、ビジネスの運営方法に関する一般的な市場の期待が、現状を支持する相殺的なインセンティブを生み出すことがあります。したがって、文化規範が進化し、企業（特に影響力のあるテクノロジー企業）が新たな収益を生み出すために導入できる新しいビジネス慣行の限界を押し広げ続けるにつれて、倫理的衝突は増大する一方だろう。

この倫理的バランスに苦戦している企業のもう 2020 つの例は、Meta という会社です。公にされた倫理的欠陥に対処するため、Facebookは2021年に独立した監視委員会を設立し、コンテンツモデレーションの決定を、たとえ創設者マーク・ザッカーバーグが下したものであっても覆す権限を与えた。 XNUMX年XNUMX月、委員会は係争中のコンテンツに関して最初の判決を下し、調査した訴訟のほとんどを覆した。

しかし、Facebook には毎日数十億件の投稿があり、数え切れないほどのコンテンツに関する苦情が寄せられているため、監視委員会の運営は従来の政府よりもはるかに遅いです。それにもかかわらず、取締役会はいくつかの有効な勧告を行っていました。 2022年、委員会はメタプラットフォームに対し、ユーザーが個人の自宅住所を公開されている場合でもプラットフォーム上で共有することを禁止することで、Facebook上で公開された個人情報漏洩事件を取り締まるよう勧告した。同委員会はまた、Facebookが違反が発生する理由とその対処方法を透明性を持って説明するためのコミュニケーションチャネルを開くことも主張した。