הנחיות אתיקה בטכנולוגיה: כאשר המסחר משתלט על המחקר
הנחיות אתיקה בטכנולוגיה: כאשר המסחר משתלט על המחקר
הנחיות אתיקה בטכנולוגיה: כאשר המסחר משתלט על המחקר
- מְחַבֵּר:
- פברואר 15, 2023
סיכום תובנה
בגלל הסכנות הפוטנציאליות וההטיה האלגוריתמית שמערכות בינה מלאכותית (AI) עשויות לגרום לקבוצות מיעוט נבחרות, סוכנויות וחברות פדרליות רבות דורשות יותר ויותר מספקי טכנולוגיה לפרסם הנחיות אתיות לגבי האופן שבו הם מפתחים ופריסה של AI. עם זאת, יישום ההנחיות הללו בחיים האמיתיים הוא הרבה יותר מורכב ומעורפל.
האתיקה מתנגשת בהקשר
בעמק הסיליקון, עסקים עדיין בוחנים כיצד ליישם את העקרונות האתיים בצורה הטובה ביותר בפועל, כולל שאילת השאלה "כמה עולה לתת עדיפות לאתיקה?" ב-2 בדצמבר 2020, תמנית גברו, מנהיגה משותפת של צוות הבינה המלאכותית האתית של גוגל, פרסמה ציוץ לפיו היא פוטרה. היא זכתה לכבוד נרחב בקהילת הבינה המלאכותית בשל ההטיה ומחקר זיהוי הפנים שלה. התקרית שהובילה לפיטוריה נגעה למאמר שהייתה שותפה לכתיבתה שגוגל החליטה שלא עומד בסטנדרטים שלהם לפרסום.
עם זאת, גברו ואחרים טוענים כי הפיטורים נבעו מיחסי ציבור ולא מהתקדמות. הפיטורים התרחשו לאחר שגברו הטיל ספק בצו לא לפרסם מחקר על האופן שבו בינה מלאכותית המחקה שפה אנושית יכולה לפגוע באוכלוסיות שוליות. בפברואר 2021 פוטרה גם הכותבת המשותפת של גברו, מרגרט מיטשל.
גוגל הצהירה כי מיטשל שברה את קוד ההתנהגות ומדיניות האבטחה של החברה על ידי העברת קבצים אלקטרוניים אל מחוץ לחברה. מיטשל לא פירטה בטענה לפיטוריה. המהלך עורר מבול של ביקורת, מה שהוביל את גוגל להכריז על שינויים בגיוון ובמדיניות המחקר שלה עד פברואר 2021. התקרית הזו היא רק דוגמה אחת לאופן שבו התנגשויות האתיקה מחלקות חברות טכנולוגיה גדולות ומחלקות המחקר האובייקטיביות לכאורה שלהן.
השפעה משבשת
לפי ה-Harvard Business Review, האתגר הגדול ביותר שעומד בפני בעלי עסקים הוא למצוא איזון בין לחצים חיצוניים להגיב למשברים אתיים לבין הדרישות הפנימיות של החברות והתעשיות שלהם. ביקורות חיצוניות דוחפות חברות להעריך מחדש את שיטות העבודה העסקיות שלהן. עם זאת, לחצים מצד ההנהלה, התחרות בתעשייה וציפיות השוק הכללי לגבי האופן שבו עסקים צריכים להתנהל יכולים לפעמים ליצור תמריצים מנוגדים המעדיפים את הסטטוס קוו. בהתאם לכך, ההתנגשויות האתיות רק יגדלו ככל שהנורמות התרבותיות יתפתחו וככל שחברות (במיוחד חברות טכנולוגיה משפיעות) ימשיכו לפרוץ גבולות על הפרקטיקות העסקיות החדשות שהן יכולות ליישם כדי לייצר הכנסות חדשות.
דוגמה נוספת לתאגידים הנאבקים באיזון האתי הזה היא החברה, Meta. כדי לטפל בחסרונות האתיים המפורסמים שלה, הקימה פייסבוק ועדת פיקוח עצמאית בשנת 2020, עם הסמכות לבטל החלטות ניהול תוכן, אפילו אלה שקיבלו המייסד מארק צוקרברג. בינואר 2021 קבעה הוועדה את פסיקותיה הראשונות בנושא תכנים שנוי במחלוקת וביטלה את רוב המקרים שראתה.
עם זאת, עם מיליארדי פוסטים בפייסבוק מדי יום ומספר לא ידוע של תלונות על תוכן, מועצת הפיקוח פועלת הרבה יותר לאט מאשר ממשלות מסורתיות. אף על פי כן, המועצה הגישה כמה המלצות תקפות. בשנת 2022, הפאנל המליץ ל- Meta Platforms לפצח תקריות דוקס שפורסמו בפייסבוק על ידי איסור על משתמשים לשתף כתובות בית של אנשים בפלטפורמות גם אם הן זמינות לציבור. הדירקטוריון גם דגל שפייסבוק תפתח ערוץ תקשורת כדי להסביר בשקיפות מדוע מתרחשות הפרות וכיצד הן מטופלות.
השלכות של התנגשויות אתיקה במגזר הפרטי
השלכות רחבות יותר של התנגשויות אתיקה במגזר הפרטי עשויות לכלול:
- חברות נוספות בונות מועצות אתיקה עצמאיות כדי לפקח על יישום ההנחיות האתיות בפרקטיקות העסקיות שלהן.
- ביקורת מוגברת מהאקדמיה על האופן שבו מסחור מחקר טכנולוגי הוביל לפרקטיקות ומערכות מפוקפקות יותר.
- עוד בריחת מוחות במגזר הציבורי כאשר חברות טכנולוגיה רודפות ראשים חוקרי בינה מלאכותית ציבורית ואוניברסיטאית מוכשרים, ומציעות משכורות והטבות משמעותיות.
- ממשלות דורשות יותר ויותר מכל החברות לפרסם את ההנחיות האתיות שלהן, בין אם הן מספקות שירותים טכנולוגיים או לא.
- חוקרים גלויים יותר מפוטרים מחברות גדולות בגלל ניגודי עניינים רק כדי להיות מוחלפים במהירות.
שאלות שכדאי לקחת בחשבון
- איך לדעתך התנגשויות אתיקה ישפיעו על סוג המוצרים והשירותים שהצרכנים מקבלים?
- מה יכולות חברות לעשות כדי להבטיח שקיפות במחקר הטכנולוגי שלהן?
הפניות לתובנות
הקישורים הפופולריים והמוסדיים הבאים קיבלו התייחסות לתובנה זו:
