Hé lộ cách TikTok hạn chế các nội dung nhạy cảm

Hé lộ cách TikTok hạn chế các nội dung nhạy cảm

Việc trả thù người yêu cũ, vợ/chồng cũ bằng hình ảnh, video nhạy cảm vốn là việc rất thường xảy ra sau khi níu kéo tình cảm không thành công.

StopNCII.org (ngừng lạm dụng hình ảnh thân mật không đồng thuận) được phát triển với sự hợp tác của Meta nhằm phát hiện và ngăn chặn bất kỳ hình ảnh, video nhạy cảm nào có trong cơ sở dữ liệu.

Trang web cho phép mọi người tạo hàm băm (dấu vân tay kỹ thuật số duy nhất) của hình ảnh và video, quá trình này diễn ra trên thiết bị của người dùng. Để bảo vệ quyền riêng tư, các tệp thực tế không được tải lên StopNCII.org, thứ được tải lên sẽ chỉ là một chuỗi chữ cái và số duy nhất.

Chuỗi chữ cái và số được gửi đến StopNCII.org sau đó sẽ được chia sẻ với các đối tác của sáng kiến. Nếu hình ảnh hoặc video được tải lên TikTok, Facebook, Instagram… khớp với hàm băm trong cơ sở dữ liệu, tệp sẽ được gửi đến nhóm kiểm duyệt của nền tảng.

Nếu người kiểm duyệt thấy rằng hình ảnh vi phạm các quy tắc của nền tảng, họ sẽ xóa hình ảnh đó, đồng thời ngăn chặn chia sẻ sang các nền tảng khác.

Công cụ này đã hoạt động được hơn 1 năm và giúp đỡ nhiều người bị ảnh hưởng bởi các video, hình ảnh nhạy cảm được chia sẻ mà không có sự đồng ý của họ. Meta đã hợp tác với SWGfL, tổ chức phi lợi nhuận của Vương quốc Anh đứng sau Đường dây trợ giúp khiêu dâm trả thù, để phát triển StopNCII.org.

Sáng kiến này được xây dựng dựa trên một thí điểm của Meta ở Úc vào năm 2017, yêu cầu người dùng tải hình ảnh nhạy cảm lên cuộc trò chuyện với chính họ trên Messenger. Meta hứa sẽ xóa các hình ảnh sau khi băm chúng, nhưng cách tiếp cận này làm dấy lên những lo ngại rõ ràng về quyền riêng tư.

TikTok và Bumble đã tham gia sáng kiến này trong bối cảnh sự giám sát ngày càng tăng của cơ quan quản lý đối với các nội dung nhạy cảm.

Ví dụ, Vương quốc Anh có kế hoạch buộc các nền tảng lưu trữ nội dung do người dùng tạo phải gỡ bỏ những hình ảnh thân mật không có sự đồng thuận nhanh chóng hơn, như được nêu trong Dự luật An toàn Trực tuyến của chính phủ.

Hiện tại TikTok đang phải đối mặt với lời kêu gọi cấm ứng dụng ở Mỹ vì lo ngại về an ninh quốc gia. Chia sẻ với Axios trong một cuộc phỏng vấn, Ủy viên FCC Brendan Carr tin rằng sẽ không có điều gì tốt hơn ngoài việc cấm TikTok tại Mỹ.

Đây không phải là lần đầu tiên Carr (một ủy viên đảng Cộng hòa) và các quan chức chính phủ Mỹ khác gây sức ép về lệnh cấm TikTok.

Tháng trước, công ty đã phản đối một báo cáo từ Forbes rằng một nhóm nhân viên ByteDance tại Trung Quốc đã lên kế hoạch sử dụng nền tảng này để theo dõi vị trí của một số công dân Mỹ.