Diretrizes éticas em tecnologia: quando o comércio assume a pesquisa

• Autor:
• Nome do autor

  Previsão Quantumrun
• 15 de fevereiro de 2023

Resumo do insight

Devido aos perigos potenciais e ao viés algorítmico que os sistemas de inteligência artificial (IA) podem infligir a grupos minoritários selecionados, muitas agências federais e empresas exigem cada vez mais que os provedores de tecnologia publiquem diretrizes éticas sobre como estão desenvolvendo e implantando a IA. No entanto, aplicar essas diretrizes na vida real é muito mais complexo e obscuro.

Contexto de conflito de ética

No Vale do Silício, as empresas ainda estão explorando a melhor forma de aplicar os princípios éticos na prática, inclusive fazendo a pergunta: “quanto custa priorizar a ética?” Em 2 de dezembro de 2020, Timnit Gebru, colíder da equipe ética de IA do Google, postou um tweet dizendo que havia sido demitida. Ela era amplamente respeitada na comunidade de IA por sua pesquisa de preconceito e reconhecimento facial. O incidente que levou à sua demissão dizia respeito a um artigo do qual ela era coautora e que o Google decidiu que não atendia aos padrões de publicação. 

No entanto, Gebru e outros argumentam que a demissão foi motivada por relações públicas e não pelo progresso. A demissão ocorreu depois que Gebru questionou uma ordem para não publicar um estudo sobre como a IA que imita a linguagem humana pode prejudicar populações marginalizadas. Em fevereiro de 2021, a coautora de Gebru, Margaret Mitchell, também foi demitida. 

O Google afirmou que Mitchell quebrou o código de conduta e as políticas de segurança da empresa ao mover arquivos eletrônicos para fora da empresa. Mitchell não entrou em detalhes sobre o motivo de sua demissão. A mudança gerou uma avalanche de críticas, levando o Google a anunciar mudanças em suas políticas de diversidade e pesquisa até fevereiro de 2021. Este incidente é apenas um exemplo de como os confrontos éticos dividem as grandes empresas de tecnologia e seus departamentos de pesquisa supostamente objetivos.

Impacto disruptivo

Segundo a Harvard Business Review, o maior desafio que os empresários enfrentam é encontrar um equilíbrio entre as pressões externas para responder a crises éticas e as demandas internas de suas empresas e setores. As críticas externas levam as empresas a reavaliar suas práticas de negócios. No entanto, as pressões da administração, da concorrência do setor e das expectativas gerais do mercado sobre como os negócios devem ser administrados podem, às vezes, criar incentivos compensatórios que favorecem o status quo. Conseqüentemente, os choques éticos só aumentarão à medida que as normas culturais evoluírem e as empresas (especialmente empresas de tecnologia influentes) continuarem a ultrapassar os limites das novas práticas de negócios que podem implementar para gerar novas receitas.

Outro exemplo de corporações que lutam com esse equilíbrio ético é a empresa Meta. Para resolver suas deficiências éticas divulgadas, o Facebook criou um conselho de supervisão independente em 2020, com autoridade para anular as decisões de moderação de conteúdo, mesmo aquelas tomadas pelo fundador Mark Zuckerberg. Em janeiro de 2021, o comitê tomou suas primeiras decisões sobre conteúdo contestado e anulou a maioria dos casos que viu. 

No entanto, com bilhões de postagens no Facebook diariamente e um número incontável de reclamações de conteúdo, o conselho de supervisão opera muito mais lentamente do que os governos tradicionais. No entanto, o conselho fez algumas recomendações válidas. Em 2022, o painel aconselhou a Meta Platforms a reprimir os incidentes de doxxing publicados no Facebook, proibindo os usuários de compartilhar endereços residenciais de indivíduos em plataformas, mesmo que estivessem disponíveis publicamente. O conselho também defendeu que o Facebook abra um canal de comunicação para explicar de forma transparente por que as violações ocorrem e como elas são tratadas.

Implicações dos confrontos éticos do setor privado

Implicações mais amplas de conflitos éticos no setor privado podem incluir: 

• Mais empresas construindo conselhos de ética independentes para supervisionar a implementação de diretrizes éticas em suas respectivas práticas de negócios.
• O aumento das críticas da academia sobre como a comercialização da pesquisa tecnológica levou a práticas e sistemas mais questionáveis.
• Mais fuga de cérebros do setor público à medida que as empresas de tecnologia caçam pesquisadores talentosos de IA públicos e universitários, oferecendo salários e benefícios substanciais.
• Os governos exigem cada vez mais que todas as empresas publiquem suas diretrizes éticas, independentemente de fornecerem serviços de tecnologia ou não.
• Pesquisadores mais francos sendo demitidos de grandes empresas devido a conflitos de interesse apenas para serem rapidamente substituídos.

Questões a considerar

• Como você acha que os choques éticos afetarão o tipo de produtos e serviços que os consumidores recebem?
• O que as empresas podem fazer para garantir a transparência em suas pesquisas tecnológicas?