Facebook, YouTube có thể chặn video bạo lực nhờ công nghệ này

ictnews Để ngăn chặn phát tán video bạo lực như vụ xả súng tại New Zealand, Facebook và YouTube có thể sử dụng công nghệ có tên digital hashing.

Gần 18 tiếng sau vụ tấn công giết chết 49 người tại New Zealand, video quay lại cảnh tàn sát vẫn xuất hiện trên YouTube và Facebook. Một số chuyên gia cho rằng các hãng nên ứng dụng rộng rãi công nghệ mà họ đang sử dụng trong việc chống lại khiêu dâm trẻ em và vi phạm bản quyền để ngăn chặn phát tán các video bạo lực.

Video livestream dài 17 phút do kẻ thủ ác quay và đăng trên Facebook. Facebook cho biết đã gỡ video nhanh chóng nhưng nhiều giờ sau, các bản đăng lại vẫn tồn tại. Twitter đã chặn tài khoản đăng video và xóa các phiên bản khác trên nền tảng. YouTube sử dụng cả nguồn lực con người lẫn công nghệ để gỡ nội dung vi phạm chính sách.

Theo các chuyên gia, công nghệ “băm điện tử” (digital hashing) nên được sử dụng tốt hơn để chặn việc đăng lại các video dù không thể tóm gọn video quay trực tiếp. YouTube nói rằng họ dùng công nghệ băm để ngăn chặn việc tải lên video xả súng tại New Zealand nhưng với các video có chứa một phần trong clip gốc, họ phải dựa vào hệ thống báo cáo của người dùng.

Trong một tuyên bố, Facebook nói đã bổ sung mỗi video tìm được vào cơ sở dữ liệu nội bộ để phát hiện và tự động xóa các bản sao của video. Facebook xóa video khỏi Facebook Live và băm nó để tự động xóa video có hình ảnh tương tự ra khỏi Facebook và Instagram. Dù vậy, công ty không bình luận vì sao vài phần của video gốc vẫn còn trên nền tảng vài giờ sau.

Theo Hany Farid, giáo sư khoa học máy tính của trường cao đẳng Dartmouth, người đang dùng công nghệ hash để đối phó với khiêu dâm trẻ em, nếu Facebook sử dụng hàm băm mạnh hơn, công ty có thể tìm thấy phần lớn các bài đăng lại. Ngoài ra, bất kỳ phiên bản nào lọt lưới sau đó có thể bị băm và bổ sung vào chung cơ sở dữ liệu để ngăn chặn việc tải lên sau này.

Các mạng xã hội như Facebook đang phụ thuộc ngày càng lớn vào trí tuệ nhân tạo (AI) để báo cáo nội dung bạo lực. Tuy nhiên, quy trình không ổn định do nhiều yêu tố, chẳng hạn số lượng nội dung được tải lên hàng ngày hay AI không thể hiểu được bối cảnh mà sự việc diễn ra. Facebook, Google và Twitter dùng công nghệ băm để chống lại nội dung bất hợp pháp như khiêu dâm trẻ em, vi phạm bản quyền và video đi ngược với điều khoản dịch vụ.

Công nghệ hashing hoạt động như thế nào?

Công nghệ hashing sẽ chia video thành nhiều khung hình và gán cho mỗi khung hình một chữ ký số độc nhất (hay hash). Hash này được tổng hợp vào trong cơ sở dữ liệu trung tâm, nơi mọi bức ảnh, video đăng trên nền tảng sẽ được đối chiếu với bộ dữ liệu ấy. Hệ thống đòi hỏi một cơ sở dữ liệu hình ảnh, không sử dụng trí tuệ nhân tạo để xác định cái nào là ảnh mà chỉ phát hiện sự tương đồng giữa ảnh và video.

Hash có lợi thế ở quy mô. Năm 2008, Farid hợp tác với Microsoft tạo ra PhotoDNA, một hệ thống có thể nhanh chóng phát hiện khiêu dâm trẻ em ở quy mô lớn. PhotoDNA đang được dùng bởi nhiều nền tảng công nghệ lớn. Tốc độ xử lý của nó rất nhanh, cho phép xử lý hàng tỷ lượt tải mỗi ngày.

Theo Farid, mỗi ảnh mà người dùng tải lên Facebook trong 10 năm qua đều được quét qua cơ sở dữ liệu nội dung lạm dụng tình dục trẻ em. Các nền tảng cũng dùng công nghệ hash để kiểm soát các video xâm phạm bản quyền. Nếu muốn đăng một tập phim Avengers lên YouTube, bạn không thể làm điều đó nhờ công nghệ hash.

Trong các năm qua, các hãng công nghệ quan tâm nhiều hơn đến công nghệ hash trong việc ngăn chặn video khủng bố. Sau nhiều năm gặp khó khăn, Facebook, YouTube, Twitter và Microsoft đã cùng nhau tạo ra Diễn đàn Internet chống khủng bố toàn cầu, duy trì cơ sở dữ liệu nội dung về chủ nghĩa khủng bố.

Giáo sư Farid cho rằng công nghệ hash đã thể hiện tính hiệu quả trong chống lại lạm dụng trẻ em, vi phạm bản quyền, khủng bố, vì vậy nó cũng có thể ứng dụng trong các video bạo lực. Quyết định có ứng dụng nó hay không là câu hỏi về ý chí và chính sách chứ không phải về công nghệ.

1 triệu người dùng Facebook bị lộ mật khẩu

Meta Platforms sẽ thông báo cho khoảng 1 triệu người dùng Facebook về việc thông tin của họ, bao gồm tên đăng nhập và mật khẩu, có thể đã bị lộ.

50 công ty khởi nghiệp Việt bước vào khoá đào tạo của Google

50 công ty khởi nghiệp được tuyển chọn từ TP.HCM và Hà Nội sẽ bước vào khoá đào tạo do Google phối hợp với các bên thực hiện.

Lộ diện 6 đội startup lọt vào vòng chung kết khởi nghiệp toàn cầu

Ban tổ chức VietChallenge đã chính thức công bố 6 đội thi được bước tiếp đến vòng chung kết tại thành phố New York, Hoa Kỳ.

Vụ hack BNB Chain: Hacker rút ruột 586 triệu USD

Trong vụ hack BNB Chain, 586 triệu USD tiền mã hóa bị lấy đi, tuy nhiên chỉ một phần nhỏ đã đi ra khỏi mạng lưới.

Việt Nam có thêm chương trình đào tạo, cấp chứng chỉ mới về CNTT

Công ty DataStax và trường Swinburne Việt Nam vừa bắt tay hợp tác phát triển các chương trình giảng dạy, đào tạo và cấp chứng chỉ về dữ liệu và công nghệ thông tin - truyền thông (CNTT-TT).

TikTok ra mắt tính năng đăng ảnh kèm nhạc nền

Trong khi tất cả các đối thủ đang nỗ lực sao chép mô hình chia sẻ video ngắn thì TikTok lại “xoay trục” sang lĩnh vực biên tập, chia sẻ hình ảnh.

Tối nay người Việt sẽ được chứng kiến mưa sao băng

Đỉnh điểm của mưa sao băng Draconids sẽ diễn ra vào lúc chập tối ngày hôm nay (7/10) và kéo dài suốt cuối tuần.

Người dùng Internet Việt Nam được thực nghiệm về an toàn trực tuyến

Sự kiện “Safety Café Vietnam” - sáng kiến nhằm mang những kiến thức cần thiết về an toàn trực tuyến và quyền riêng tư tới người dùng Internet tại Việt Nam vừa được khởi động.

Bộ 3 sản phẩm đáng chú ý Google vừa ra mắt

Ngày 6/10, Google công bố thông số chi tiết Pixel Watch, mẫu đồng hồ thông minh đầu tiên của hãng, cùng điện thoại Pixel 7 và 7 Pro.

Lợi nhuận Samsung giảm 32%

Samsung Electronics ghi nhận lợi nhuận sụt giảm lần đầu tiên kể từ năm 2019, cho thấy tính nghiêm trọng của tình trạng suy thoái chip nhớ và máy tính toàn cầu.

Đang cập nhật dữ liệu !