Hệ thống gợi ý video mới cho người xem trên YouTube đã trở thành công cụ dẫn hướng nội dung cho những đối tượng xấu, trong khi công ty này vì mục đích lợi nhuận lại không hề có ý định thay đổi các chính sách để loại bỏ nó hoàn toàn.
Christiane không nghĩ tới bất cứ điều gì khi cô đăng tải đoạn video ghi lại cảnh cô con gái 10 tuổi và bạn bè của nó đang chơi ở bể bơi phía sau nhà.
“Video này hoàn toàn bình thường, nó không phải vấn đề gì nghiêm trọng”, người phụ nữ sống ở ngoại ô thành phố Rio de Janeiro, Brasil nói.
Vài ngày sau, video này nhận được hàng nghìn lượt xem. Chẳng bao lâu, nó vượt qua mốc 400.000, một con số đáng kinh ngạc cho video quanh cảnh những đứa trẻ chơi đùa trong bộ đồ tắm hai mảnh. Nhưng tới lúc này, Christiane đã bắt đầu lo sợ khi xem lại video và nhìn số lượt xem khổng lồ. Rõ ràng, cô có lý do để lo lắng.
Một nhóm các nhà nghiên cứu đã phát hiện hệ thống đề xuất tự động trên YouTube, thứ điều khiển phần lớn trong hàng tỷ lượt xem trên nền tảng bằng cách gợi ý những gì người dùng nên xem tiếp theo, có dấu hiệu hiển thị video cho những người dùng đã xem các video khác về trẻ em trong những bộ trang phục thiếu vải.
Đôi khi hệ thống đề xuất những video gia đình có nội dung vô thưởng vô phạt. Nhưng trong nhiều trường hợp, thuật toán của nó đã giới thiệu người dùng đến những video này sau khi người dùng xem các nội dung có chủ đề tình dục. Và video về con gái của Christiane, được đề xuất bởi hệ thống gợi ý của YouTube vài tháng sau khi các cảnh báo về vấn đề nội dung ấu dâm trên nền tảng này được đưa ra.
“Tôi thực sự sợ nó”, Christian nói. “Sợ hãi về một thực tế là các video của con mình lại rơi vào một danh mục tổng hợp đáng sợ như thế này”.
Christiane cho biết cô thực sự sợ hãi khi nhìn thấy số lượt xem trên video quay con gái mình.
Theo Jonas Kaiser, nhà nghiên cứu tại Trung tâm Internet & Xã hội Berkman Klein, thuộc Đại học Harvard thì thuật toán của YouTube vẫn đang khuyến nghị các video về trẻ nhỏ cho người dùng có lịch sử xem phù hợp với hồ sơ của một kẻ ấu dâm.
Chuyên gia này cho rằng trên thực tế, những kẻ ấu dâm không cần phải tìm kiếm video về trẻ em để xem chúng. Bởi YouTube có thể dẫn chúng đến đó thông qua một tiến trình gợi ý. Ban đầu, một người dùng xem các video chứa hình ảnh những người phụ nữ trẻ, ăn mặc khêu gợi. Sau đó, hệ thống sẽ gợi ý các video với những người phụ nữ tạo dáng gợi cảm trong bộ đồ trẻ em. Cuối cùng, người dùng này có thể xem được video về những bé gái khoảng 5 hoặc 6 tuổi đang mặc đồ tắm hoặc để hở cơ thể.
Các video này nếu đặt riêng một góc thì không gây ảnh hưởng gì, bởi nó có thể chỉ là một video mang tính chất gia đình. Bất kỳ khung hình liên quan tới trẻ em ăn mặc hở hang có thể chỉ xuất hiện thoáng qua một cách tình cờ. Nhưng, khi được YouTube nhóm lại với nhau, ý nghĩa và mục đích của chúng trở nên không thể nhầm lẫn.
Trên thực tế, sau khi được cảnh báo, YouTube đã xóa một số video nhưng vẫn để lại rất nhiều nội dung tương tự, bao gồm các nội dung được tải lên bởi tài khoản giả mạo. Công ty cho biết họ đã thay đổi hệ thống gợi ý để nó không còn liên kết các video này với nhau. Nói tóm lại, nền tảng này chỉ cho rằng vấn đề nằm ở một vài thuật toán và có thể xử lý nó dễ dàng, chứ không phải câu chuyện về chính sách quản lý.
Jennifer O’Connor, giám đốc sản phẩm của YouTube, tuyên bố mạnh mẽ: “Bảo vệ trẻ em đứng đầu trong danh sách việc quan trọng cần làm của chúng tôi”.
Nhưng đối với các nhà nghiên cứu, đây chỉ là hành vi chống chế. Điều YouTube cần làm và đã không làm là tắt hệ thống khuyến nghị nội dung mới trên các video trẻ em. AI và các công cụ của YouTube hoàn toàn có thể xác định và thực hiện việc này. Lý do đưa ra rất đơn giản và ai cũng có thể nhận ra, đó là các video này có lưu lượng truy cập rất lớn, thậm chí có thể nói là lớn nhất. Việc loại bỏ tính năng gợi ý theo YouTube sẽ “làm tổn thương những người sáng tạo nội dung”, những người đang sống dựa vào những cú nhấp chuột của người xem. Nhưng lợi ích đi kèm những người sáng tạo nội dung này lại là các nhà quảng cáo, hay đơn giản hơn là nguồn thu của chính YouTube. Do đó, đại diện công ty chỉ nói rằng sẽ giới hạn các gợi ý trên các video mà họ cho là sẽ khiến trẻ em gặp nguy hiểm. Không hơn.
Các nội dung được YouTube dung túng này hoàn toàn có thể gợi ý và tạo ra những kẻ ấu dâm.
YouTube mô tả hệ thống gợi ý của mình là một dạng trí thông minh nhân tạo không ngừng học hỏi, để đề xuất các nội dung phù hợp với người xem. Công ty cho biết nó thúc đẩy tới 70% lượt xem trên nền tảng, nhưng không tiết lộ chi tiết về cách hoạt động của nó.
Còn trong mắt các nhà nghiên cứu, họ gọi nó là “hiệu ứng hố thỏ”, giống như thứ mà cô bé Alice đã rơi vào để lạc xuống “xứ sở thần tiên”. Nhưng ở đây, nó lại ám chỉ việc nền tảng này dẫn người xem đến các video hoặc chủ đề cực đoan hơn bằng cách ghép nối chúng từ video rời rạc thành một hệ thống. Ví dụ khi bạn xem một video về xe đạp, YouTube có thể gợi ý bạn một video về vụ tai nạn liên quan tới xe đạp có lượt xem cao và nội dung gây sốc.
Nhà nghiên cứu Jonas Kaiser cùng các đồng nghiệp đã thử nghiệm hàng nghìn lần tính năng gợi ý của YouTube và dần nhận ra sự đáng sợ của nó. Các nội dung được gợi ý càng ngày càng có tính cực đoan hơn, đặc biệt khi nó có liên quan tới chủ đề tình dục. Từ một video những người phụ nữ thảo luận đơn thuần về tính dục, nó có thể dẫn tới video các cô gái mặc đồ lót hoặc cho con bú. Các nhân vật này có tuổi đời còn rất trẻ, đôi khi chỉ 18, 19 thậm chí 16 tuổi. Các nội dung mà hệ thống gợi ý ra dường như vô tận, với rất nhiều video đến từ Mỹ Latinh và Đông Âu.
Bên ngoài trụ sở YouTube ở California, Mỹ.
Córdova, người có nhiều thời gian nghiên cứu về các hệ thống phân phối nội dung khiêu dâm trực tuyến, nói rằng cô đã nhận ra những gì đang xảy ra. Ban đầu, các video là phi giới tính, có thể được tải lên bởi các bậc cha mẹ, người muốn chia sẻ khoảnh khắc đáng nhớ trong gia đình. Nhưng thuật toán của YouTube, dựa trên việc học hỏi từ các hình ảnh, đã coi những video là điểm đến cho mọi người trên một hành trình khác. Các video có lượt xem bất thường, đôi khi lên tới hàng triệu, chỉ ra rằng hệ thống này đã tìm thấy khán giả phù hợp và khiến họ tham gia ngày một đông.
“YouTube đã bình thường hóa nó”, Marcus Rogers, một nhà tâm lý học tại đại học Purdue, người đã thực hiện nhiều nghiên cứu về nội dung khiêu dâm trẻ em, nói.
Thậm chí theo ông, rủi ro không chỉ dừng lại ở đó. Bởi nhiều video trên YouTube có hiển thị liên kết với các tài khoản mạng xã hội của những người trẻ tuổi. Và những kẻ ấu dâm, rất khéo léo trong việc bắt chuyện và tiếp cận những đứa trẻ này với mục đích xấu, theo Rogers.
Còn đại diện YouTube, Jennifer O’Connor, phản đối và cho biết không có cái gì gọi là “hiệu ứng lỗ thỏ” ở đây.
Christiane, người mẹ đến từ Brazil, vẫn đang tức giận và “vật lộn” để tiếp thu những gì đã xảy ra. Cô băn khoăn không biết nói gì với chồng mình. Cô bày tỏ sự bối rối trước cách làm việc của nền tảng YouTube đồng thời lo lắng lo lắng làm thế nào để giữ con gái mình, cô gái nhỏ mặc đồ bơi xuất hiện trên đoạn video đã bị xem bởi hàng trăm nghìn người, được an toàn.
“Điều duy nhất tôi có thể làm”, cô nói. “Là cấm con bé đăng tải bất cứ thứ gì lên YouTube”.
Tham khảo The New York Times
