Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này

ictnews Để ngăn chặn phát tán video bạo lực như vụ xả súng tại New Zealand, Facebook và YouTube có thể sử dụng công nghệ có tên digital hashing.

Gần 18 tiếng sau vụ tấn công giết chết 49 người tại New Zealand, video quay lại cảnh tàn sát vẫn xuất hiện trên YouTube và Facebook. Một số chuyên gia cho rằng các hãng nên ứng dụng rộng rãi công nghệ mà họ đang sử dụng trong việc chống lại khiêu dâm trẻ em và vi phạm bản quyền để ngăn chặn phát tán các video bạo lực.

Video livestream dài 17 phút do kẻ thủ ác quay và đăng trên Facebook. Facebook cho biết đã gỡ video nhanh chóng nhưng nhiều giờ sau, các bản đăng lại vẫn tồn tại. Twitter đã chặn tài khoản đăng video và xóa các phiên bản khác trên nền tảng. YouTube sử dụng cả nguồn lực con người lẫn công nghệ để gỡ nội dung vi phạm chính sách.

Theo các chuyên gia, công nghệ “băm điện tử” (digital hashing) nên được sử dụng tốt hơn để chặn việc đăng lại các video dù không thể tóm gọn video quay trực tiếp. YouTube nói rằng họ dùng công nghệ băm để ngăn chặn việc tải lên video xả súng tại New Zealand nhưng với các video có chứa một phần trong clip gốc, họ phải dựa vào hệ thống báo cáo của người dùng.

Trong một tuyên bố, Facebook nói đã bổ sung mỗi video tìm được vào cơ sở dữ liệu nội bộ để phát hiện và tự động xóa các bản sao của video. Facebook xóa video khỏi Facebook Live và băm nó để tự động xóa video có hình ảnh tương tự ra khỏi Facebook và Instagram. Dù vậy, công ty không bình luận vì sao vài phần của video gốc vẫn còn trên nền tảng vài giờ sau.

Theo Hany Farid, giáo sư khoa học máy tính của trường cao đẳng Dartmouth, người đang dùng công nghệ hash để đối phó với khiêu dâm trẻ em, nếu Facebook sử dụng hàm băm mạnh hơn, công ty có thể tìm thấy phần lớn các bài đăng lại. Ngoài ra, bất kỳ phiên bản nào lọt lưới sau đó có thể bị băm và bổ sung vào chung cơ sở dữ liệu để ngăn chặn việc tải lên sau này.

Các mạng xã hội như Facebook đang phụ thuộc ngày càng lớn vào trí tuệ nhân tạo (AI) để báo cáo nội dung bạo lực. Tuy nhiên, quy trình không ổn định do nhiều yêu tố, chẳng hạn số lượng nội dung được tải lên hàng ngày hay AI không thể hiểu được bối cảnh mà sự việc diễn ra. Facebook, Google và Twitter dùng công nghệ băm để chống lại nội dung bất hợp pháp như khiêu dâm trẻ em, vi phạm bản quyền và video đi ngược với điều khoản dịch vụ.

Công nghệ hashing hoạt động như thế nào?

Công nghệ hashing sẽ chia video thành nhiều khung hình và gán cho mỗi khung hình một chữ ký số độc nhất (hay hash). Hash này được tổng hợp vào trong cơ sở dữ liệu trung tâm, nơi mọi bức ảnh, video đăng trên nền tảng sẽ được đối chiếu với bộ dữ liệu ấy. Hệ thống đòi hỏi một cơ sở dữ liệu hình ảnh, không sử dụng trí tuệ nhân tạo để xác định cái nào là ảnh mà chỉ phát hiện sự tương đồng giữa ảnh và video.

Hash có lợi thế ở quy mô. Năm 2008, Farid hợp tác với Microsoft tạo ra PhotoDNA, một hệ thống có thể nhanh chóng phát hiện khiêu dâm trẻ em ở quy mô lớn. PhotoDNA đang được dùng bởi nhiều nền tảng công nghệ lớn. Tốc độ xử lý của nó rất nhanh, cho phép xử lý hàng tỷ lượt tải mỗi ngày.

Theo Farid, mỗi ảnh mà người dùng tải lên Facebook trong 10 năm qua đều được quét qua cơ sở dữ liệu nội dung lạm dụng tình dục trẻ em. Các nền tảng cũng dùng công nghệ hash để kiểm soát các video xâm phạm bản quyền. Nếu muốn đăng một tập phim Avengers lên YouTube, bạn không thể làm điều đó nhờ công nghệ hash.

Trong các năm qua, các hãng công nghệ quan tâm nhiều hơn đến công nghệ hash trong việc ngăn chặn video khủng bố. Sau nhiều năm gặp khó khăn, Facebook, YouTube, Twitter và Microsoft đã cùng nhau tạo ra Diễn đàn Internet chống khủng bố toàn cầu, duy trì cơ sở dữ liệu nội dung về chủ nghĩa khủng bố.

Giáo sư Farid cho rằng công nghệ hash đã thể hiện tính hiệu quả trong chống lại lạm dụng trẻ em, vi phạm bản quyền, khủng bố, vì vậy nó cũng có thể ứng dụng trong các video bạo lực. Quyết định có ứng dụng nó hay không là câu hỏi về ý chí và chính sách chứ không phải về công nghệ.

Địa chỉ xem trực tiếp World Cup 2022, Anh vs Mỹ, 2h00 ngày 26/11

Kênh VTV3 để xem trận đấu giữa Anh và Mỹ hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

Địa chỉ xem trực tiếp World Cup 2022, Hà Lan vs Ecuador, 23h00 ngày 25/11

Kênh VTV2 để xem trận đấu giữa Hà Lan và Ecuador hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

Địa chỉ xem trực tiếp World Cup 2022, Qatar vs Senegal, 20h00 ngày 25/11

Kênh VTV2 để xem trận đấu giữa Qatar và Senegal hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

FPT IS đề xuất giải pháp an toàn thông tin cho doanh nghiệp

Trước bài toán cấp thiết về an toàn thông tin (ATTT), các chuyên gia cấp cao FPT IS chỉ ra nhiều góc nhìn chuyên sâu cùng các giải pháp then chốt, mở hướng áp dụng công nghệ vào thực tiễn cho tổ chức, doanh nghiệp.

Ngân hàng số Timo Bank phát triển trên nền tảng AWS

Ngân hàng số Timo được xây dựng trên nền tảng ngân hàng cốt lõi thuần đám mây trên Amazon Web Services chỉ trong sáu tháng, có thể đáp ứng nhu cầu phục vụ khách hàng tăng gấp mười lần.

Mất 44 triệu đồng vì kẻ xấu mạo danh ngân hàng, lừa chuyển tiền qua mạng

Tin tưởng vào các bài đăng có nội dung cho vay nóng trên Facebook, nhiều nạn nhân đã bị kẻ xấu lợi dụng và lừa chuyển tiền lên tới hàng chục triệu đồng.

Reuters: Anh cấm lắp đặt camera Trung Quốc tại nơi nhạy cảm

Chính phủ Anh hôm 24/11 yêu cầu các bộ ngành dừng lắp đặt camera giám sát Trung Quốc tại các tòa nhà nhạy cảm do rủi ro an ninh.

Máy tính bảng bất ngờ phát nổ bốc cháy dữ dội Icon

Chiếc máy tính bảng đang trên tay thợ sửa bất ngờ phát nổ, lửa bùng cháy dữ dội. Nhưng dường như người thợ sửa đã quá quen với những tình huống như thế này.

Thấy gì từ việc Shopee, Gojek sa thải nhân sự?

Khi đối mặt với tình hình vĩ mô khó khăn, các hãng công nghệ Đông Nam Á ‘học hỏi’ một chương của Big Tech phương Tây: sa thải quy mô lớn.

Địa chỉ xem trực tiếp World Cup 2022, Wales vs Iran, 17h00 ngày 25/11

Kênh VTV5 để xem trận đấu giữa Wales và Iran hôm nay có trên những hệ thống truyền hình trực tuyến như VTV News, VTV Go, VTVcab ON, hay cả FPT Play, TV360...

Đang cập nhật dữ liệu !