Facebook sử dụng trí tuệ nhân tạo AI để kiểm duyệt nội dung

Facebook đang sử dụng AI để xử lý nhiều nhiệm vụ kiểm duyệt trên nền tảng của mình. Những nội dung bị vi phạm chính sách rõ ràng thì sẽ được xử lý tự động, những nội dung khác thì được người dùng hay bộ lọc của Facebook gắn cờ. Còn lại nếu chữa rõ ràng có vi phạm hay không thì sẽ được chuyển vào danh sách chờ kiểm duyệt để xem xét lại.

Hiện nay, Facebook sử dụng khoảng hơn 15.000 nhân viên trên khắp thế giới để kiểm duyệt, công việc của những nhân viên này là sắp xếp các bài đã bị gắn cờ và xem xét xem những bài này có vi phạm chính sách của Facebook không. Việc kiểm duyệt này của Facebook cũng tuân thủ nguyên tắc về thứ tự thời gian bài đăng hay thứ tự thời gian được báo cáo.

Facebook đang tăng cường các nỗ lực kiểm duyệt dựa trên AI

Trước đó, Facebook tuyên bố họ đã thực hiện hành động chống lại 9,6 triệu mẩu nội dung trong quý đầu tiên của năm 2020 - tăng đáng kể so với con số 5,7 triệu trong quý trước đó. Mặc dù một số bài đăng đó đủ rõ ràng để dẫn đến việc tự động chặn hoặc xóa, phần còn lại được đưa vào hàng đợi để người kiểm duyệt đánh giá. Quá trình kiểm duyệt xác định xem nội dung có hại có thể dẫn đến các vấn đề sức khỏe tâm thần hay không. Công ty cũng hứa sẽ cập nhật phần mềm kiểm duyệt nội dung của mình, tắt âm thanh theo mặc định và hiển thị video đen trắng.

Với việc Facebook tiếp tục là diễn đàn mà nhiều người trên thế giới giao tiếp với bạn bè và gia đình, khả năng phản ứng với nội dung giả mạo và thù địch là quan trọng để giữ an toàn cho nền tảng của họ.