Ủy ban truyền thông mới của Ireland, được gọi là Coimisiún na Meán và chịu trách nhiệm về quy định truyền thông, đã mời gọi ý kiến từ cộng đồng về Bộ Quy tắc An toàn Trực tuyến đầu tiên của đất nước dành cho các dịch vụ nền tảng chia sẻ video. Bản thảo của Bộ Quy tắc bao gồm một đề xuất, trong đó có một số khuyến nghị, rằng các nền tảng nên xem xét việc tích hợp một tính năng tắt thuật toán gợi ý dựa trên hồ sơ người dùng theo mặc định.
Những biện pháp an toàn nhằm đảm bảo các nhà cung cấp dịch vụ nền tảng chia sẻ video (VPSP) chịu trách nhiệm pháp lý để bảo vệ người dùng trực tuyến, chẳng hạn như sử dụng công nghệ xác minh tuổi robust và ngăn chặn việc tải lên hoặc chia sẻ nội dung kích động bạo lực hoặc kích động thù địch, là điều dễ hiểu. Có thể ít người mong đợi được các khuyến nghị của Coimisiún na Meán (CnaM) về thuật toán gợi ý. Với việc các đại gia công nghệ như Google, Microsoft, Apple, TikTok và Meta đã chọn Ireland làm trụ sở cho hoạt động của họ trong Liên minh châu Âu, những thay đổi đề xuất có thể có ảnh hưởng lớn.
Các nguồn gợi ý, hoặc thuật toán gợi ý, dựa vào dữ liệu người dùng về sở thích, tìm kiếm hoặc hành động trước đó và dữ liệu liên quan khác để đề xuất nội dung video có thể thu hút người dùng. Chúng ta đã từng trải qua điều này: bạn nhấp vào một video về mèo vì bạn bè nói nó đáng yêu hoặc hài hước, và trước khi bạn biết, YouTube đã đề xuất một trăm video khác giống như mà bạn không muốn xem.
Nhưng CnaM không nhắm đến video về mèo; hệ thống gợi ý cũng có thể làm tăng cường nội dung có hại trên các nền tảng. Đó là lý do tại sao Ủy ban, áp dụng một phương pháp ‘An toàn theo Thiết kế’, đang yêu cầu VPSP “đến mức có thể, thực hiện các biện pháp hợp lý, tương xứng và hiệu quả để giảm nguy cơ gây hại (đặc biệt là đối với trẻ em) do cách mà hệ thống gợi ý tổng hợp và gửi nội dung đến người dùng.” Điểm chính là nhà cung cấp phải đảm bảo rằng thuật toán gợi ý không dẫn đến việc người dùng tiếp xúc với nội dung có hại.
Nhưng trách nhiệm của VPSP không dừng lại ở đó. Nếu Bộ Quy tắc thảo luận được thông qua “như vậy”, họ sẽ phải báo cáo về các biện pháp đã thực hiện liên quan đến thuật toán gợi ý hàng năm đến Ủy ban, “hoặc ở những khoảng thời gian khác được quyết định bởi Ủy ban”; nói cách khác, khi có yêu cầu. Và nhà cung cấp “phải chuẩn bị, công bố và thực hiện kế hoạch an toàn hệ thống gợi ý bao gồm các biện pháp hiệu quả để giảm thiểu rủi ro mà hệ thống gợi ý của họ có thể gây hại.” Trong quá trình chuẩn bị kế hoạch an toàn, VPSP phải xem xét “ít nhất là” liệu họ có bao gồm một tính năng cho phép người dùng đặt lại bất kỳ thuật toán lập hồ sơ nào “để nó hoạt động như là người dùng mới” hoặc một tính năng đảm bảo thuật toán gợi ý dựa trên lập hồ sơ bị tắt theo mặc định.
CnaM dự định tư vấn riêng về những vấn đề này, mà các bên liên quan đã nêu lên là mối quan tâm trong quá trình phát triển Bộ Quy tắc An toàn Trực tuyến. Họ không dự định bao gồm các biện pháp thay đổi thuật toán trong Bộ Quy tắc đầu tiên.
Nhưng quay lại với video về mèo. Năm 2022, các nhà nghiên cứu của Mozilla đã phân tích hoạt động trên YouTube của hơn 20,000 người tham gia trong vòng bảy tháng và phát hiện