Nguyên tắc đạo đức trong công nghệ: Khi thương mại tiếp quản nghiên cứu

• tác giả:
• tên tác giả

  Tầm nhìn lượng tử
• 15 Tháng hai, 2023

Tóm tắt thông tin chi tiết

Do những nguy cơ tiềm ẩn và sai lệch thuật toán mà các hệ thống trí tuệ nhân tạo (AI) có thể gây ra cho một số nhóm thiểu số được chọn, nhiều cơ quan và công ty liên bang ngày càng yêu cầu các nhà cung cấp công nghệ xuất bản các hướng dẫn đạo đức về cách họ phát triển và triển khai AI. Tuy nhiên, việc áp dụng những nguyên tắc này trong cuộc sống thực phức tạp và khó hiểu hơn nhiều.

Bối cảnh xung đột đạo đức

Tại Thung lũng Silicon, các doanh nghiệp vẫn đang khám phá cách tốt nhất để áp dụng các nguyên tắc đạo đức vào thực tế, bao gồm cả việc đặt câu hỏi, “chi phí bao nhiêu để ưu tiên đạo đức?” Vào ngày 2 tháng 2020 năm XNUMX, Timnit Gebru, đồng lãnh đạo nhóm AI có đạo đức của Google, đã đăng một dòng tweet nói rằng cô ấy đã bị sa thải. Cô ấy được tôn trọng rộng rãi trong cộng đồng AI vì nghiên cứu nhận dạng khuôn mặt và thiên vị của mình. Sự cố khiến cô ấy bị sa thải liên quan đến một bài báo mà cô ấy là đồng tác giả mà Google quyết định không đáp ứng các tiêu chuẩn xuất bản của họ. 

Tuy nhiên, Gebru và những người khác lập luận rằng vụ sa thải được thúc đẩy bởi quan hệ công chúng hơn là tiến bộ. Việc sa thải xảy ra sau khi Gebru đặt câu hỏi về lệnh không công bố nghiên cứu về cách AI bắt chước ngôn ngữ con người có thể gây hại cho những nhóm dân cư bị thiệt thòi. Vào tháng 2021 năm XNUMX, đồng tác giả của Gebru, Margaret Mitchell, cũng bị sa thải. 

Google tuyên bố rằng Mitchell đã vi phạm quy tắc ứng xử và chính sách bảo mật của công ty bằng cách di chuyển các tệp điện tử ra bên ngoài công ty. Mitchell đã không nói chi tiết về lý do sa thải cô ấy. Động thái này đã gây ra một loạt chỉ trích, khiến Google phải thông báo những thay đổi đối với chính sách nghiên cứu và đa dạng của mình trước tháng 2021 năm XNUMX. Vụ việc này chỉ là một ví dụ về xung đột đạo đức chia rẽ các công ty công nghệ lớn và bộ phận nghiên cứu được cho là khách quan của họ như thế nào.

Tác động gián đoạn

Theo Harvard Business Review, thách thức lớn nhất mà các chủ doanh nghiệp phải đối mặt là tìm ra sự cân bằng giữa áp lực bên ngoài để đối phó với khủng hoảng đạo đức và nhu cầu nội bộ của công ty và ngành của họ. Những lời chỉ trích từ bên ngoài thúc đẩy các công ty đánh giá lại các hoạt động kinh doanh của họ. Tuy nhiên, áp lực từ ban quản lý, cạnh tranh trong ngành và kỳ vọng chung của thị trường về cách thức điều hành doanh nghiệp đôi khi có thể tạo ra các động cơ đối kháng có lợi cho hiện trạng. Theo đó, xung đột đạo đức sẽ chỉ gia tăng khi các chuẩn mực văn hóa phát triển và khi các công ty (đặc biệt là các công ty công nghệ có ảnh hưởng) tiếp tục vượt qua ranh giới đối với các phương thức kinh doanh mới mà họ có thể thực hiện để tạo ra doanh thu mới.

Một ví dụ khác về các tập đoàn đang vật lộn với sự cân bằng đạo đức này là công ty Meta. Để giải quyết những thiếu sót về đạo đức đã được công khai, Facebook đã thành lập một ban giám sát độc lập vào năm 2020, với quyền hủy bỏ các quyết định kiểm duyệt nội dung, ngay cả những quyết định do người sáng lập Mark Zuckerberg đưa ra. Vào tháng 2021 năm XNUMX, ủy ban đã đưa ra phán quyết đầu tiên về nội dung gây tranh cãi và hủy bỏ hầu hết các trường hợp mà ủy ban này phát hiện. 

Tuy nhiên, với hàng tỷ bài đăng trên Facebook hàng ngày và vô số khiếu nại về nội dung, hội đồng giám sát hoạt động chậm hơn nhiều so với các chính phủ truyền thống. Tuy nhiên, hội đồng quản trị đã đưa ra một số khuyến nghị hợp lệ. Vào năm 2022, hội thảo đã khuyên Nền tảng Meta giải quyết các sự cố doxxing được công bố trên Facebook bằng cách cấm người dùng chia sẻ địa chỉ nhà riêng của cá nhân trên các nền tảng ngay cả khi chúng được công khai. Hội đồng quản trị cũng chủ trương Facebook mở một kênh thông tin để giải thích minh bạch lý do vi phạm xảy ra và cách xử lý.

Ý nghĩa của xung đột đạo đức khu vực tư nhân

Ý nghĩa rộng hơn của xung đột đạo đức trong khu vực tư nhân có thể bao gồm: 

• Nhiều công ty thành lập các ban đạo đức độc lập để giám sát việc thực hiện các nguyên tắc đạo đức trong hoạt động kinh doanh tương ứng của họ.
• Những lời chỉ trích ngày càng tăng từ giới học thuật về cách thương mại hóa nghiên cứu công nghệ đã dẫn đến nhiều hệ thống và thực tiễn đáng ngờ hơn.
• Chảy máu chất xám trong khu vực công nhiều hơn khi các công ty công nghệ săn đầu người các nhà nghiên cứu AI tài năng của trường đại học và công lập, đưa ra mức lương và lợi ích đáng kể.
• Các chính phủ ngày càng yêu cầu tất cả các công ty công bố các nguyên tắc đạo đức của họ bất kể họ có cung cấp dịch vụ công nghệ hay không.
• Nhiều nhà nghiên cứu thẳng thắn hơn bị sa thải khỏi các công ty lớn do xung đột lợi ích chỉ để nhanh chóng bị thay thế.

Các câu hỏi cần xem xét

• Bạn nghĩ xung đột đạo đức sẽ ảnh hưởng như thế nào đến loại sản phẩm và dịch vụ mà người tiêu dùng nhận được?
• Các công ty có thể làm gì để đảm bảo tính minh bạch trong nghiên cứu công nghệ của họ?