Truyền thông giả dối tổng hợp: Thấy không còn tin nữa

• tác giả:
• tên tác giả

  Tầm nhìn lượng tử
• 22 Tháng hai, 2024

Tóm tắt thông tin chi tiết

Phương tiện tổng hợp, kết hợp trí tuệ nhân tạo (AI) với các yếu tố video, âm thanh và hình ảnh, chân thực đến mức khó có thể phân biệt được với phương tiện thực tế. Sự phát triển của nó bắt nguồn từ nhiều thập kỷ trước, với việc học sâu (DL) và Mạng đối thủ sáng tạo (GAN) đóng một vai trò quan trọng trong sự phát triển của nó. Khi công nghệ này phát triển, nó mang đến những cơ hội sáng tạo cũng như những thách thức đáng kể về quyền riêng tư, đạo đức và thông tin sai lệch.

Bối cảnh sai lệch của phương tiện truyền thông tổng hợp

Phương tiện tổng hợp thể hiện sự kết hợp đột phá giữa nội dung do AI tạo ra, bao gồm video trực tiếp, các yếu tố hình ảnh và âm thanh trong khuôn khổ công nghệ tiên tiến. Hình thức truyền thông này được đặc trưng bởi tính hiện thực đặc biệt và chất lượng sống động, khiến nó gần như không thể phân biệt được với phương tiện truyền thông trong thế giới thực. Việc tạo ra các phương tiện tổng hợp có thể bắt nguồn từ những năm 1950, trải qua quá trình phát triển đáng kể vào cuối những năm 1980 và đầu những năm 1990 khi sức mạnh tính toán tăng vọt. 

Học sâu là công nghệ cốt lõi thúc đẩy phương tiện tổng hợp, một nhánh phức tạp của học máy (ML). Có ảnh hưởng đặc biệt trong lĩnh vực này là GAN, đã cách mạng hóa lĩnh vực này bằng cách học hỏi từ những hình ảnh hiện có để tạo ra những hình ảnh hoàn toàn mới nhưng chân thực đến kỳ lạ. GAN hoạt động bằng hệ thống mạng thần kinh kép: một mạng tạo ra hình ảnh giả dựa trên hình ảnh thật, trong khi mạng kia đánh giá tính xác thực của chúng, vượt qua ranh giới của những gì có thể có trong thị giác máy tính và xử lý hình ảnh.

Khi AI tiếp tục phát triển nhanh chóng, các ứng dụng và ý nghĩa của phương tiện tổng hợp ngày càng trở nên quan trọng hơn. Mặc dù những bước tiến công nghệ này mở ra cánh cửa cho sự đổi mới trong nhiều lĩnh vực khác nhau, bao gồm trò chơi điện tử, xe tự hành và nhận dạng khuôn mặt, nhưng chúng đồng thời gây ra những lo ngại cấp bách về quyền riêng tư và đạo đức. Do đó, tương lai của phương tiện truyền thông tổng hợp đại diện cho một con dao hai lưỡi, mang lại tiềm năng sáng tạo và đổi mới to lớn, đồng thời thách thức chúng ta giải quyết các tác động liên quan đến đạo đức và quyền riêng tư của nó.

Tác động gián đoạn

Một nghiên cứu năm 2022 do tổ chức phi lợi nhuận Rand Corporation thực hiện thảo luận về bốn rủi ro chính của phương tiện truyền thông tổng hợp: thao túng bầu cử thông qua các video bịa đặt về các ứng cử viên, làm trầm trọng thêm sự chia rẽ xã hội bằng cách khuếch đại nội dung tuyên truyền và đảng phái, xói mòn niềm tin vào các tổ chức thông qua việc đại diện giả mạo cho các nhân vật có thẩm quyền, và phá hoại nền báo chí bằng cách gây nghi ngờ về tính xác thực của tin tức hợp pháp. Những tác phẩm sâu này có thể đặc biệt gây tổn hại ở các quốc gia đang phát triển, nơi phổ biến trình độ học vấn thấp hơn, nền dân chủ mong manh và xung đột giữa các sắc tộc. Thông tin sai lệch đã là một vấn đề nghiêm trọng ở những khu vực này và tin giả sâu có thể làm gia tăng tranh chấp và bạo lực, như đã thấy trong các sự cố trước đây ở các quốc gia như Myanmar, Ấn Độ và Ethiopia. Hơn nữa, nguồn lực hạn chế được phân bổ để kiểm duyệt nội dung bên ngoài Hoa Kỳ, đặc biệt là trên các nền tảng như WhatsApp, làm tăng nguy cơ các hành vi giả mạo sâu không bị phát hiện ở những khu vực này.

Deepfake cũng gây ra những mối đe dọa đặc biệt đối với phụ nữ do sự chênh lệch giới tính trong nội dung khiêu dâm. Phương tiện do AI tạo ra đã được sử dụng để tạo ra nội dung khiêu dâm deepfake không có sự đồng thuận, dẫn đến lạm dụng và bóc lột. Những công nghệ này cũng có thể gây ra rủi ro bảo mật bằng cách nhắm mục tiêu vào các hoạt động tình báo, ứng cử viên chính trị, nhà báo và các nhà lãnh đạo để gây bối rối hoặc thao túng. Các ví dụ lịch sử, chẳng hạn như chiến dịch đưa thông tin sai lệch do Nga hậu thuẫn chống lại nghị sĩ Ukraine Svitlana Zalishchuk, cho thấy tiềm năng của các cuộc tấn công như vậy.

Sự hiểu biết của cộng đồng khoa học về tác động xã hội của deepfake vẫn đang phát triển, với các nghiên cứu đưa ra nhiều kết quả khác nhau về khả năng của người dùng trong việc phát hiện những video này và tác động của chúng. Một số nghiên cứu cho thấy con người có thể phát hiện deepfake tốt hơn máy móc, tuy nhiên những video này thường được xem là sống động, thuyết phục và đáng tin cậy, làm tăng khả năng lan truyền của chúng trên mạng xã hội. Tuy nhiên, ảnh hưởng của video deepfake đến niềm tin và hành vi có thể ít hơn dự đoán, cho thấy mối lo ngại về tính thuyết phục của chúng có thể hơi sớm. 

Ý nghĩa của sự giả dối của phương tiện truyền thông tổng hợp

Ý nghĩa rộng hơn của sự giả dối trên phương tiện truyền thông tổng hợp có thể bao gồm: 

• Các kỹ thuật nâng cao trong xác thực nội dung số, dẫn đến các phương pháp tinh vi hơn để xác minh tính xác thực của phương tiện.
• Nhu cầu giáo dục kiến ​​thức kỹ thuật số trong trường học ngày càng tăng, trang bị cho thế hệ tương lai những kỹ năng phân tích phương tiện truyền thông một cách phản biện.
• Những thay đổi trong tiêu chuẩn báo chí, đòi hỏi quy trình xác minh nội dung đa phương tiện chặt chẽ hơn để duy trì độ tin cậy.
• Mở rộng khung pháp lý nhằm giải quyết vấn đề thao túng nội dung số, mang lại sự bảo vệ tốt hơn trước thông tin sai lệch.
• Tăng cường rủi ro về quyền riêng tư cá nhân do khả năng lạm dụng nhận dạng khuôn mặt và dữ liệu cá nhân trong việc tạo các tác phẩm giả mạo.
• Phát triển các lĩnh vực thị trường mới chuyên phát hiện và ngăn chặn deepfake, tạo cơ hội việc làm và tiến bộ công nghệ.
• Các chiến dịch chính trị áp dụng các biện pháp giám sát phương tiện truyền thông chặt chẽ hơn để giảm thiểu tác động của nội dung giả mạo trong các cuộc bầu cử.
• Những thay đổi trong chiến lược quảng cáo và tiếp thị, tập trung nhiều hơn vào tính xác thực và nội dung có thể kiểm chứng để duy trì niềm tin của người tiêu dùng.
• Tác động tâm lý gia tăng do lan truyền nội dung thực tế nhưng sai sự thật, có khả năng ảnh hưởng đến sức khỏe tâm thần và nhận thức của công chúng.
• Những thay đổi trong động lực quan hệ quốc tế khi deepfake trở thành một công cụ trong chiến lược địa chính trị, ảnh hưởng đến ngoại giao và niềm tin toàn cầu.

Các câu hỏi cần xem xét

• Phương tiện tổng hợp ảnh hưởng như thế nào đến nhận thức của bạn về các sự kiện hiện tại?
• Làm thế nào sự phát triển của công nghệ deepfake có thể ảnh hưởng đến sự cân bằng giữa quyền tự do ngôn luận và nhu cầu quản lý để ngăn chặn thông tin sai lệch và lạm dụng?