Pautas éticas en tecnología: cuando el comercio se hace cargo de la investigación

• Escrito por:
• Nombre del autor

  Previsión Quantumrun
• Febrero 15, 2023

Resumen de información

Debido a los peligros potenciales y el sesgo algorítmico que los sistemas de inteligencia artificial (IA) pueden infligir a grupos minoritarios seleccionados, muchas agencias y empresas federales exigen cada vez más a los proveedores de tecnología que publiquen pautas éticas sobre cómo están desarrollando e implementando la IA. Sin embargo, la aplicación de estas pautas en la vida real es mucho más compleja y turbia.

Contexto de choque ético

En Silicon Valley, las empresas todavía están explorando la mejor manera de aplicar los principios éticos en la práctica, incluida la pregunta "¿cuánto cuesta priorizar la ética?" El 2 de diciembre de 2020, Timnit Gebru, codirectora del equipo de inteligencia artificial ética de Google, publicó un tuit en el que decía que la habían despedido. Era muy respetada en la comunidad de IA por su investigación de prejuicios y reconocimiento facial. El incidente que llevó a su despido se refería a un artículo del que era coautora y que Google decidió que no cumplía con sus estándares de publicación. 

Sin embargo, Gebru y otros argumentan que el despido fue motivado por relaciones públicas más que por el progreso. El despido se produjo después de que Gebru cuestionara una orden de no publicar un estudio sobre cómo la IA que imita el lenguaje humano puede dañar a las poblaciones marginadas. En febrero de 2021, la coautora de Gebru, Margaret Mitchell, también fue despedida. 

Google declaró que Mitchell violó el código de conducta y las políticas de seguridad de la empresa al mover archivos electrónicos fuera de la empresa. Mitchell no dio más detalles sobre los motivos de su despido. La medida provocó una avalancha de críticas, lo que llevó a Google a anunciar cambios en sus políticas de investigación y diversidad para febrero de 2021. Este incidente es solo un ejemplo de cómo los enfrentamientos éticos dividen a las grandes empresas tecnológicas y sus departamentos de investigación supuestamente objetivos.

Impacto disruptivo

Según Harvard Business Review, el mayor desafío al que se enfrentan los empresarios es encontrar un equilibrio entre las presiones externas para responder a las crisis éticas y las demandas internas de sus empresas e industrias. Las críticas externas empujan a las empresas a reevaluar sus prácticas comerciales. Sin embargo, las presiones de la gerencia, la competencia de la industria y las expectativas generales del mercado sobre cómo se deben administrar los negocios a veces pueden crear incentivos compensatorios que favorecen el statu quo. En consecuencia, los choques éticos solo aumentarán a medida que las normas culturales evolucionen y las empresas (especialmente las firmas tecnológicas influyentes) continúen superando los límites de las prácticas comerciales novedosas que pueden implementar para generar nuevos ingresos.

Otro ejemplo de corporaciones que luchan con este equilibrio ético es la empresa Meta. Para abordar sus deficiencias éticas publicitadas, Facebook estableció una junta de supervisión independiente en 2020, con la autoridad para anular las decisiones de moderación de contenido, incluso las tomadas por el fundador Mark Zuckerberg. En enero de 2021, el comité emitió sus primeros fallos sobre el contenido en disputa y anuló la mayoría de los casos que vio. 

Sin embargo, con miles de millones de publicaciones diarias en Facebook y una cantidad incalculable de quejas de contenido, la junta de supervisión opera mucho más lentamente que los gobiernos tradicionales. No obstante, la junta había hecho algunas recomendaciones válidas. En 2022, el panel aconsejó a Meta Platforms que tomara medidas enérgicas contra los incidentes de doxing publicados en Facebook al prohibir a los usuarios compartir las direcciones de las casas de las personas en las plataformas, incluso si están disponibles públicamente. La junta también abogó por que Facebook abra un canal de comunicación para explicar de manera transparente por qué ocurren las violaciones y cómo se manejan.

Implicaciones de los enfrentamientos éticos del sector privado

Las implicaciones más amplias de los conflictos éticos en el sector privado pueden incluir: 

• Más empresas que crean juntas de ética independientes para supervisar la implementación de pautas éticas en sus respectivas prácticas comerciales.
• Aumento de las críticas de la academia sobre cómo la comercialización de la investigación tecnológica ha llevado a prácticas y sistemas más cuestionables.
• Más fuga de cerebros del sector público a medida que las empresas de tecnología buscan investigadores talentosos de IA públicos y universitarios, que ofrecen salarios y beneficios sustanciales.
• Los gobiernos requieren cada vez más que todas las empresas publiquen sus pautas éticas, independientemente de si brindan servicios tecnológicos o no.
• Los investigadores más francos son despedidos de las grandes empresas debido a conflictos de intereses solo para ser reemplazados rápidamente.

Preguntas a considerar

• ¿Cómo cree que los choques éticos afectarán el tipo de productos y servicios que reciben los consumidores?
• ¿Qué pueden hacer las empresas para garantizar la transparencia en su investigación tecnológica?