Các gã khổng lồ truyền thông xã hội Meta và X đã phê duyệt quảng cáo nhắm mục tiêu đến người dùng ở Đức với phát ngôn bạo lực chống Hồi giáo và chống người Do Thái trước cuộc bầu cử liên bang của đất nước, theo nghiên cứu mới từ Eko, một nhóm chiến dịch phi lợi nhuận có trách nhiệm với doanh nghiệp.
Các nhà nghiên cứu của nhóm đã kiểm tra xem liệu hai nền tảng có hoạt động hay không. Hệ thống đánh giá quảng cáo sẽ phê duyệt hoặc từ chối gửi quảng cáo chứa thông điệp thù hận và bạo lực nhắm mục tiêu vào nhóm thiểu số trước cuộc bầu cử nơi vấn đề nhập cư chiếm vị trí trung tâm trong diễn ngôn chính trị chính thống — bao gồm các quảng cáo có chứa những lời lẽ miệt thị chống Hồi giáo; kêu gọi giam giữ những người nhập cư trong các trại tập trung hoặc sử dụng khí độc; và hình ảnh do AI tạo ra về các nhà thờ Hồi giáo và giáo đường Do Thái bị đốt cháy.
Hầu hết các quảng cáo thử nghiệm đã được phê duyệt trong vòng vài giờ sau khi được gửi để xem xét vào giữa tháng 2. Cuộc bầu cử liên bang ở Đức dự kiến sẽ diễn ra vào Chủ Nhật, ngày 23 tháng 2.
Đã lên lịch quảng cáo có lời nói căm thù
Eko cho biết X đã phê duyệt tất cả 10 quảng cáo có lời nói căm thù mà các nhà nghiên cứu của họ đã gửi chỉ vài ngày trước khi cuộc bầu cử liên bang diễn ra, trong khi Meta đã phê duyệt một nửa (năm quảng cáo) để chạy trên Facebook (và có thể cả Instagram) — mặc dù nó đã từ chối năm cái còn lại.
Lý do Meta đưa ra năm lần từ chối cho thấy nền tảng này tin rằng có thể có rủi ro về sự nhạy cảm về chính trị hoặc xã hội có thể ảnh hưởng đến việc bỏ phiếu.
Tuy nhiên, năm quảng cáo mà Meta phê duyệt bao gồm lời nói căm thù bạo lực giống như những người tị nạn Hồi giáo giống như một “vi-rút” “sâu bọ,” hoặc “loài gặm nhấm,” coi những người nhập cư Hồi giáo là 'những kẻ hiếp dâm', và kêu gọi khử trùng, đốt hoặc khử khí. Meta cũng chấp thuận một quảng cáo kêu gọi đốt các giáo đường Do Thái để “ngăn chặn chương trình nghị sự về chuột của người Do Thái theo chủ nghĩa toàn cầu hóa.”
Như một chú thích phụ, Eko cho biết không có hình ảnh nào do AI tạo ra mà nó sử dụng để minh họa cho các quảng cáo có lời nói căm thù được gắn nhãn là được tạo một cách giả tạo — tuy nhiên một nửa trong số 10 quảng cáo vẫn được Meta phê duyệt, bất kể công ty có chính sách yêu cầu tiết lộ việc sử dụng hình ảnh AI đối với các quảng cáo về vấn đề xã hội, bầu cử hoặc chính trị.
X, trong khi đó, đã phê duyệt tất cả năm quảng cáo đáng ghét này — và năm trang khác chứa lời nói căm thù bạo lực tương tự nhắm vào người Hồi giáo và người Do Thái.
Những quảng cáo được chấp thuận bổ sung này bao gồm tin nhắn tấn công “rutent” những người nhập cư mà bản sao quảng cáo tuyên bố là “lũ lụt” đất nước ‘để đánh cắp nền dân chủ của chúng ta,’ và một lời nói tục tĩu chống Do Thái cho rằng người Do Thái đang nói dối về biến đổi khí hậu nhằm phá hủy ngành công nghiệp châu Âu và tích lũy sức mạnh kinh tế.
Quảng cáo sau được kết hợp với hình ảnh do AI tạo ra mô tả một nhóm người đàn ông trong bóng tối ngồi quanh một chiếc bàn được bao quanh bởi những chồng vàng miếng, với Ngôi sao David trên bức tường phía trên họ — với hình ảnh cũng nghiêng nhiều về xu hướng bài Do Thái.
Một quảng cáo khác được X phê duyệt có nội dung tấn công trực tiếp vào SPD, đảng trung tả hiện đang lãnh đạo chính phủ liên minh của Đức, với tuyên bố không có thật rằng đảng này muốn tiếp nhận 60 triệu người tị nạn Hồi giáo từ Trung Đông, trước khi tiếp tục cố gắng gây ra phản ứng bạo lực. X cũng đã lên lịch hợp lý cho một quảng cáo gợi ý “cánh tả” muốn “mở biên giới” và kêu gọi tiêu diệt những người Hồi giáo 'những kẻ hiếp dâm.'
Elon Musk, chủ sở hữu của X, đã sử dụng nền tảng mạng xã hội nơi ông có gần 220 triệu người theo dõi để đích thân can thiệp vào cuộc bầu cử ở Đức. Trong một dòng tweet vào tháng 12, ông đã kêu gọi cử tri Đức ủng hộ đảng Far Right AfD để “cứu nước Đức.” Anh ấy cũng đã tổ chức một buổi phát trực tiếp với lãnh đạo AfD, Alice Weidel, trên X.
Các nhà nghiên cứu của Eko đã vô hiệu hóa tất cả các quảng cáo thử nghiệm trước khi bất kỳ quảng cáo nào đã được phê duyệt được lên lịch chạy để đảm bảo không có người dùng nền tảng nào tiếp xúc với lời nói căm thù bạo lực.
Nó cho biết các cuộc kiểm tra nêu bật những sai sót rõ ràng với nền tảng quảng cáo’ cách tiếp cận kiểm duyệt nội dung. Thật vậy, trong trường hợp của X, không rõ liệu nền tảng này có thực hiện bất kỳ kiểm duyệt quảng cáo nào hay không, vì tất cả 10 quảng cáo có lời nói căm thù bạo lực đều nhanh chóng được chấp thuận hiển thị.
Các phát hiện cũng cho thấy rằng các nền tảng quảng cáo có thể kiếm được doanh thu nhờ phát tán lời nói căm thù bạo lực.
Đạo luật dịch vụ kỹ thuật số của EU trong khuôn khổ
Các thử nghiệm của Eko cho thấy rằng cả hai nền tảng đều không thực thi đúng cách các lệnh cấm ngôn từ kích động thù địch mà cả hai đều tuyên bố sẽ áp dụng cho nội dung quảng cáo trong chính sách của riêng họ. Hơn nữa, trong trường hợp của Meta, Eko đã đi đến kết luận tương tự sau khi tiến hành một thử nghiệm tương tự vào năm 2023 trước các quy định quản trị trực tuyến mới của EU sắp ra mắt — cho thấy chế độ này không có ảnh hưởng gì tới cách nó vận hành.
“Phát hiện của chúng tôi cho thấy rằng hệ thống kiểm duyệt quảng cáo do AI điều khiển của Meta về cơ bản vẫn bị hỏng, mặc dù Đạo luật dịch vụ kỹ thuật số (DSA) hiện đã có hiệu lực đầy đủ,” người phát ngôn của Eko nói với TechCrunch.
“Thay vì tăng cường quy trình xem xét quảng cáo hoặc các chính sách về ngôn từ kích động thù địch, Meta dường như đang đi ngược lại trên diện rộng," họ nói thêm, chỉ vào thông báo gần đây của công ty về việc lùi lại các chính sách kiểm duyệt và xác minh tính xác thực như một dấu hiệu của “hồi quy tích cực” mà họ đề nghị đặt nó vào một hướng xung đột trực tiếp với các quy định của DSA về rủi ro hệ thống.
Eko đã gửi những phát hiện mới nhất của mình lên Ủy ban Châu Âu, cơ quan giám sát việc thực thi các khía cạnh chính của DSA đối với cặp gã khổng lồ truyền thông xã hội. Họ cũng cho biết họ đã chia sẻ kết quả với cả hai công ty nhưng không có phản hồi nào.
EU đã mở các cuộc điều tra DSA về Meta và X, bao gồm những lo ngại về an ninh bầu cử và nội dung bất hợp pháp, nhưng Ủy ban vẫn chưa làm như vậy kết thúc các thủ tục tố tụng này. Tuy nhiên, vào tháng 4 họ cho biết họ nghi ngờ Meta kiểm duyệt quảng cáo chính trị không thỏa đáng.
Quyết định sơ bộ về một phần cuộc điều tra DSA về X, được công bố vào tháng 7, bao gồm những nghi ngờ rằng nền tảng này đang thất bại tuân thủ các quy định về tính minh bạch trong quảng cáo của quy định. Tuy nhiên, cuộc điều tra đầy đủ bắt đầu vào tháng 12 năm 2023, cũng liên quan đến rủi ro về nội dung bất hợp pháp và EU vẫn chưa đưa ra bất kỳ phát hiện nào về phần lớn cuộc điều tra trong hơn một năm sau đó.
Các hành vi vi phạm DSA đã được xác nhận có thể bị phạt lên tới 6% doanh thu hàng năm trên toàn cầu, trong khi việc không tuân thủ mang tính hệ thống thậm chí có thể khiến quyền truy cập khu vực vào các nền tảng vi phạm bị chặn tạm thời.
Tuy nhiên, hiện tại, EU vẫn đang dành thời gian để quyết định về các cuộc điều tra Meta và X nên — đang chờ quyết định cuối cùng — bất kỳ lệnh trừng phạt DSA nào vẫn còn hiệu lực.
Trong khi đó, chỉ còn vài giờ nữa là cử tri Đức sẽ đi bầu cử — và ngày càng nhiều nghiên cứu xã hội dân sự cho thấy rằng quy định quản trị trực tuyến hàng đầu của EU đã không bảo vệ được tiến trình dân chủ của nền kinh tế lớn EU khỏi một loạt mối đe dọa từ công nghệ.
Đầu tuần này, Global Witness đã công bố kết quả kiểm tra thuật toán của X và TikTok “Dành cho bạn” nguồn cấp dữ liệu ở Đức, cho thấy các nền tảng này thiên về quảng bá nội dung AfD so với nội dung từ các đảng chính trị khác. Các nhà nghiên cứu xã hội dân sự cũng đã cáo buộc X chặn quyền truy cập dữ liệu để ngăn họ nghiên cứu các rủi ro an ninh bầu cử trước cuộc bầu cử ở Đức — quyền truy cập DSA lẽ ra phải được kích hoạt.
“Ủy ban Châu Âu đã thực hiện các bước quan trọng bằng cách mở các cuộc điều tra DSA đối với cả Meta và X, bây giờ chúng ta cần thấy Ủy ban thực hiện hành động mạnh mẽ để giải quyết những lo ngại được nêu ra trong các cuộc điều tra này,” Người phát ngôn của Eko cũng nói với chúng tôi.
“Phát hiện của chúng tôi, cùng với bằng chứng ngày càng tăng từ các nhóm xã hội dân sự khác, cho thấy rằng Big Tech sẽ không tự nguyện làm sạch nền tảng của mình. Meta và X tiếp tục cho phép lời nói căm thù bất hợp pháp, kích động bạo lực và thông tin sai lệch về bầu cử lan rộng trên quy mô lớn, bất chấp các nghĩa vụ pháp lý của họ theo DSA,” Người phát ngôn nói thêm. (Chúng tôi đã giấu tên người phát ngôn để ngăn chặn hành vi quấy rối.)
“Các cơ quan quản lý phải có hành động mạnh mẽ — cả trong việc thực thi DSA mà còn trong việc thực hiện các biện pháp giảm thiểu trước bầu cử chẳng hạn. Điều này có thể bao gồm việc tắt hệ thống đề xuất dựa trên hồ sơ ngay trước cuộc bầu cử và triển khai các biện pháp 'vỡ kính' thích hợp khác để ngăn chặn việc khuếch đại thuật toán của nội dung ở ranh giới ranh giới, chẳng hạn như nội dung thù hận trong cuộc bầu cử sắp diễn ra.”
Nhóm vận động cũng cảnh báo rằng EU hiện đang phải đối mặt với áp lực từ chính quyền Trump nhằm giảm bớt cách tiếp cận của mình trong việc điều chỉnh Big Tech. “Trong bối cảnh chính trị hiện tại, có một mối nguy hiểm thực sự là Ủy ban không thực thi đầy đủ các luật mới này như một sự nhượng bộ đối với Hoa Kỳ,” họ đề nghị.
Cập nhật: Người phát ngôn của Meta, Lara Hesse, đã gửi một tuyên bố qua email để phản hồi những phát hiện của Eko.
“Những quảng cáo này vi phạm chính sách của chúng tôi. Không có nội dung nào trong số đó được xuất bản và hệ thống của chúng tôi đã phát hiện cũng như vô hiệu hóa Trang của nhà quảng cáo trước khi chúng tôi biết về nghiên cứu này,” tuyên bố của công ty cho biết thêm: “Quy trình xem xét quảng cáo của chúng tôi có nhiều lớp phân tích và phát hiện, cả trước và sau khi quảng cáo hiển thị. Chúng tôi đã thực hiện các bước sâu rộng phù hợp với DSA và tiếp tục đầu tư các nguồn lực đáng kể để bảo vệ các cuộc bầu cử.”
Tech Crunch
