Ofcom, cơ quan quản lý an toàn Internet của Vương quốc Anh, đã công bố một dự thảo hướng dẫn mới khác khi cơ quan này tiếp tục triển khai Đạo luật An toàn Trực tuyến (OSA) — Bộ đề xuất mới nhất nhằm mục đích hỗ trợ các công ty trong phạm vi đáp ứng các nghĩa vụ pháp lý nhằm bảo vệ phụ nữ và trẻ em gái khỏi các mối đe dọa trực tuyến như quấy rối và bắt nạt, hành vi khinh thường phụ nữ và lạm dụng hình ảnh thân mật.
Chính phủ đã nói rằng bảo vệ phụ nữ và trẻ em gái là ưu tiên hàng đầu trong việc thực hiện OSA. Một số hình thức lạm dụng (chủ yếu) khinh thường phụ nữ — chẳng hạn như chia sẻ hình ảnh thân mật mà không có sự đồng ý hoặc sử dụng các công cụ AI để tạo nội dung khiêu dâm deepfake nhắm mục tiêu đến các cá nhân — được quy định rõ ràng trong luật là các ưu tiên thực thi.
Quy định về an toàn trực tuyến đã được quốc hội Vương quốc Anh thông qua vào Tháng 9 năm 2023, đã phải đối mặt với những lời chỉ trích rằng nó không đáp ứng được nhiệm vụ cải cách nền tảng những gã khổng lồ, mặc dù có những hình phạt đáng kể nếu không tuân thủ — lên tới 10% doanh thu hàng năm trên toàn cầu.
Các nhà vận động vì an toàn trẻ em cũng bày tỏ sự thất vọng về việc mất bao lâu để thực thi luật này, cũng như nghi ngờ liệu luật này có mang lại hiệu quả như mong muốn hay không.
Trong một cuộc phỏng vấn với BBC vào tháng 1, ngay cả bộ trưởng công nghệ Peter Kyle — người kế thừa luật pháp từ chính phủ trước — gọi nó là “rất không đồng đều” và “không đạt yêu cầu.” Nhưng chính phủ đang gắn bó với cách tiếp cận này. Một phần của sự bất mãn xung quanh OSA có thể bắt nguồn từ việc các bộ trưởng có thời gian lãnh đạo lâu dài được phép thực hiện chế độ yêu cầu quốc hội phê duyệt hướng dẫn tuân thủ Ofcom.
Tuy nhiên, việc thực thi dự kiến sẽ sớm bắt đầu có hiệu lực liên quan đến các yêu cầu cốt lõi về giải quyết nội dung bất hợp pháp và bảo vệ trẻ em. Các khía cạnh khác của việc tuân thủ OSA sẽ mất nhiều thời gian hơn để thực hiện. Và Ofcom thừa nhận gói khuyến nghị thực hành mới nhất này sẽ không được thực thi đầy đủ cho đến năm 2027 hoặc muộn hơn.
Đang tiến đến vạch xuất phát thực thi
“Các nhiệm vụ đầu tiên của Đạo luật An toàn Trực tuyến sẽ có hiệu lực vào tháng tới,” Jessica Smith của Ofcom, người đứng đầu việc phát triển hướng dẫn tập trung vào an toàn cho phụ nữ, đã nói với TechCrunch trong một cuộc phỏng vấn. “Vì vậy, chúng tôi sẽ thực thi một số nghĩa vụ cốt lõi của Đạo luật An toàn Trực tuyến trước hướng dẫn này [bản thân nó sẽ có hiệu lực thi hành].”
Dự thảo hướng dẫn mới về việc giữ an toàn cho phụ nữ và trẻ em gái trên mạng nhằm bổ sung cho hướng dẫn rộng hơn trước đó của Ofcom về nội dung bất hợp pháp — chẳng hạn, cơ quan này cũng đưa ra các đề xuất nhằm bảo vệ trẻ vị thành niên khỏi xem nội dung người lớn trực tuyến.
Vào tháng 12, cơ quan quản lý đã công bố hướng dẫn cuối cùng về cách các nền tảng và dịch vụ nên giảm thiểu rủi ro liên quan đến nội dung bất hợp pháp, một lĩnh vực mà việc bảo vệ trẻ em là ưu tiên rõ ràng.
Trước đây, họ cũng đã tạo ra Mã an toàn cho trẻ em, trong đó đề xuất các dịch vụ trực tuyến thực hiện kiểm tra độ tuổi và lọc nội dung để đảm bảo trẻ em không tiếp xúc với nội dung không phù hợp như nội dung khiêu dâm. Và khi nỗ lực thực hiện chế độ an toàn trực tuyến, nó cũng đã phát triển các đề xuất về công nghệ đảm bảo độ tuổi cho các trang web nội dung người lớn, nhằm mục đích thúc đẩy các trang web khiêu dâm thực hiện các bước hiệu quả để ngăn chặn trẻ vị thành niên truy cập nội dung không phù hợp với lứa tuổi.
Bộ hướng dẫn mới nhất được phát triển với sự trợ giúp từ các nạn nhân, những người sống sót, các nhóm ủng hộ phụ nữ và các chuyên gia về an toàn, theo Ofcom. Nó bao gồm bốn lĩnh vực chính mà cơ quan quản lý cho biết phụ nữ bị ảnh hưởng không tương xứng bởi tác hại trực tuyến — cụ thể là: hành vi sai trái trực tuyến; chồng chất và quấy rối trực tuyến; lạm dụng gia đình trực tuyến; và lạm dụng hình ảnh thân mật.
An toàn theo thiết kế
Khuyến nghị hàng đầu của Ofcom thúc giục các dịch vụ và nền tảng trong phạm vi áp dụng nguyên tắc “an toàn theo thiết kế” tiếp cận. Smith nói với chúng tôi rằng cơ quan quản lý muốn khuyến khích các công ty công nghệ “lùi lại một bước” và “nghĩ về trải nghiệm người dùng của họ trong vòng thi.” Mặc dù thừa nhận một số dịch vụ đã áp dụng một số biện pháp hữu ích trong việc giảm thiểu rủi ro trực tuyến trong lĩnh vực này, nhưng bà cho rằng vẫn còn thiếu tư duy toàn diện khi ưu tiên sự an toàn của phụ nữ và trẻ em gái.
“Điều chúng tôi thực sự yêu cầu chỉ là một loại thay đổi từng bước trong cách hoạt động của quy trình thiết kế,” cô ấy nói với chúng tôi rằng mục tiêu là đảm bảo rằng những cân nhắc về an toàn được đưa vào thiết kế sản phẩm.
Cô nhấn mạnh sự nổi lên của các dịch vụ AI tạo hình ảnh mà cô lưu ý rằng đã dẫn đến “lớn” sự gia tăng lạm dụng hình ảnh thân mật giả mạo sâu như một ví dụ về việc các nhà công nghệ có thể thực hiện các biện pháp chủ động để giảm thiểu nguy cơ các công cụ của họ được vũ khí hóa để nhắm mục tiêu vào phụ nữ và trẻ em gái — nhưng chưa.
“Chúng tôi nghĩ rằng có những điều hợp lý mà các dịch vụ có thể thực hiện ở giai đoạn thiết kế sẽ giúp giải quyết nguy cơ xảy ra một số tác hại đó,” cô ấy đề nghị.
Ví dụ về “tốt” Các thông lệ ngành mà Ofcom nêu bật trong hướng dẫn bao gồm các dịch vụ trực tuyến thực hiện các hành động như:
- Xóa vị trí địa lý theo mặc định (để giảm thiểu rủi ro về quyền riêng tư/theo dõi);
- Tiến hành “lạm dụng” thử nghiệm để xác định xem một dịch vụ có thể bị vũ khí hóa/sử dụng sai mục đích như thế nào;
- Thực hiện các bước để tăng cường bảo mật tài khoản;
- Thiết kế theo lời nhắc của người dùng nhằm mục đích khiến người đăng phải suy nghĩ kỹ trước khi đăng nội dung lạm dụng;
- Và cung cấp các công cụ báo cáo có thể truy cập để cho phép người dùng báo cáo sự cố.
Như trường hợp của tất cả hướng dẫn OSA của Ofcom, không phải mọi biện pháp đều phù hợp với mọi loại hoặc quy mô dịch vụ — vì luật áp dụng cho các dịch vụ trực tuyến lớn và nhỏ, đồng thời áp dụng trên nhiều lĩnh vực khác nhau, từ mạng xã hội, đến hẹn hò trực tuyến, trò chơi, diễn đàn và ứng dụng nhắn tin, v.v. Vì vậy, phần lớn công việc của các công ty trong phạm vi hoạt động sẽ là hiểu ý nghĩa của việc tuân thủ trong bối cảnh sản phẩm của họ.
Khi được hỏi liệu Ofcom có xác định được bất kỳ dịch vụ nào hiện đáp ứng các tiêu chuẩn của hướng dẫn hay không, Smith cho rằng họ chưa xác định được. “Vẫn còn rất nhiều việc phải làm trong toàn ngành,” cô ấy nói.
Cô cũng ngầm thừa nhận rằng có thể có những thách thức ngày càng tăng do một số bước thụt lùi được thực hiện đối với lòng tin và sự an toàn của một số công ty lớn trong ngành. Ví dụ: kể từ khi tiếp quản Twitter và đổi tên mạng xã hội thành X, Elon Musk đã cắt giảm số lượng nhân viên tin cậy và an toàn của mạng này — ủng hộ việc theo đuổi những gì ông đã coi là cách tiếp cận theo chủ nghĩa tối đa đối với quyền tự do ngôn luận.
Trong những tháng gần đây, Meta — công ty sở hữu Facebook và Instagram — dường như đã thực hiện một số bước bắt chước, nói rằng họ đang chấm dứt hợp đồng kiểm tra thực tế của ba mươi bên để ủng hộ việc triển khai một “ghi chú cộng đồng” Ví dụ: hệ thống ghi nhãn nhờ nguồn lực cộng đồng đối với các tranh chấp nội dung.
Tính minh bạch
Smith cho rằng phản ứng của Ofcom đối với những thay đổi cấp cao như vậy — nơi các nhà khai thác’ các hành động có thể có nguy cơ quay số lên thay vì giảm bớt tác hại trực tuyến — sẽ tập trung vào việc sử dụng quyền minh bạch và thu thập thông tin mà nó có theo OSA để minh họa các tác động và nâng cao nhận thức của người dùng.
Vì vậy, tóm lại, chiến thuật ở đây có vẻ là “tên tuổi và sự xấu hổ” — ít nhất là trong trường hợp đầu tiên.
“Sau khi hoàn tất hướng dẫn, chúng tôi sẽ tạo một báo cáo [thị trường] … về ai đang sử dụng hướng dẫn, ai đang làm theo những bước nào, loại kết quả nào họ đạt được cho người dùng là phụ nữ và trẻ em gái, đồng thời thực sự làm sáng tỏ những biện pháp bảo vệ được áp dụng trên các nền tảng khác nhau để người dùng có thể đưa ra lựa chọn sáng suốt về nơi họ dành thời gian trực tuyến” cô ấy đã nói với chúng tôi.
Smith gợi ý rằng các công ty muốn tránh nguy cơ bị xấu hổ trước công chúng vì thực hiện kém về an toàn cho phụ nữ sẽ có thể tham khảo hướng dẫn của Ofcom về “các bước thực tế” về cách cải thiện tình hình cho người dùng của họ và giải quyết cả nguy cơ gây tổn hại đến danh tiếng.
“Các nền tảng đang hoạt động ở Vương quốc Anh sẽ phải tuân thủ luật pháp Vương quốc Anh,” cô ấy nói thêm trong bối cảnh cuộc thảo luận trên các nền tảng chính không còn nhấn mạnh đến niềm tin và sự an toàn. “Vì vậy, điều đó có nghĩa là tuân thủ các nghĩa vụ gây tổn hại bất hợp pháp và nghĩa vụ bảo vệ trẻ em theo Đạo luật An toàn Trực tuyến.”
“Tôi nghĩ đây chính là lúc sức mạnh minh bạch của chúng tôi cũng phát huy tác dụng — nếu ngành này đang thay đổi hướng đi và các tác hại ngày càng gia tăng thì đây là nơi chúng tôi có thể làm sáng tỏ và chia sẻ thông tin liên quan với người dùng ở Vương quốc Anh, với giới truyền thông, với các nghị sĩ.”
Công nghệ xử lý nội dung khiêu dâm deepfake
Một loại tác hại trực tuyến mà Ofcom rõ ràng đang tăng cường các khuyến nghị của mình ngay cả trước khi việc thực thi OSA tích cực bắt đầu là lạm dụng hình ảnh thân mật — vì hướng dẫn dự thảo mới nhất đề xuất việc sử dụng kết hợp băm để phát hiện và xóa hình ảnh lạm dụng đó, trong khi các đề xuất trước đó của Ofcom không đi xa đến thế.
“Chúng tôi đã bao gồm các bước bổ sung trong hướng dẫn này vượt xa những gì chúng tôi đã đặt ra trong quy tắc của mình,” Smith lưu ý, xác nhận rằng Ofcom có kế hoạch cập nhật các mã trước đó để kết hợp thay đổi này “trong tương lai gần.”
“Vì vậy, đây là cách nói với các nền tảng rằng bạn có thể vượt qua yêu cầu có thể thực thi đó bằng cách làm theo các bước được nêu trong hướng dẫn này,” cô ấy nói thêm.
Ofcom khuyến nghị sử dụng công nghệ đối sánh hàm băm để chống lạm dụng hình ảnh thân mật do rủi ro này tăng đáng kể, theo Smith — đặc biệt là liên quan đến việc lạm dụng hình ảnh giả sâu do AI tạo ra.
“Số vụ lạm dụng hình ảnh thân mật giả mạo sâu được báo cáo vào năm 2023 nhiều hơn tất cả các năm trước cộng lại,” cô lưu ý và nói thêm rằng Ofcom cũng đã thu thập thêm bằng chứng về tính hiệu quả của việc so khớp hàm băm để giải quyết tác hại này.
Toàn bộ dự thảo hướng dẫn hiện sẽ được tham vấn — với lời mời phản hồi của Ofcom cho đến ngày 23 tháng 5 năm 2025 — sau đó sẽ đưa ra hướng dẫn cuối cùng vào cuối năm nay.
Toàn bộ 18 tháng sau đó, Ofcom sẽ đưa ra báo cáo đầu tiên đánh giá hoạt động thực tiễn của ngành trong lĩnh vực này.
“Chúng ta đang bước sang năm 2027 trước khi đưa ra báo cáo đầu tiên về ai đang làm gì [để bảo vệ phụ nữ và trẻ em gái trên mạng] — nhưng hiện tại không có gì có thể ngăn cản các nền tảng hoạt động,” cô ấy nói thêm.
Trả lời những lời chỉ trích rằng OSA khiến Ofcom mất quá nhiều thời gian để thực hiện, bà nói rằng việc cơ quan quản lý tư vấn về các biện pháp tuân thủ là đúng đắn. Tuy nhiên, với việc biện pháp cuối cùng sẽ có hiệu lực vào tháng tới, bà lưu ý rằng Ofcom cũng dự đoán sẽ có sự thay đổi trong cuộc thảo luận xung quanh vấn đề này.
Tech Crunch
