in

Facebook phác thảo hệ thống mới để phát hiện tài khoản giả mạo và thông tin sai lệch dựa trên tương tác

Facebook đã công bố một bản phác thảo về một hệ thống mới có khả năng giúp Facebook cải thiện khả năng phát hiện các tài khoản giả mạo và thông tin sai lệch, bổ sung vào các phương pháp tiếp cận hiện có và tăng cường hỗ trợ trong việc loại bỏ các tác nhân xấu khỏi nền tảng của mình.

Thông báo trên khá nhiều thông tin kỹ thuật khó hiểu nên bài viết này sẽ giúp bạn có cái nhìn tổng quan đơn giản về TIES (Temporal Interaction EmbeddingS – Mô hình tương tác theo thời gian), theo đó nó sẽ cung cấp những cải tiến để hoàn thiện quy trình phát hiện của nó.

Facebook chia sẻ, theo như trước đây, các phương pháp phát hiện tài khoản giả mạo và các hoạt động độc hại đều dựa trên các hành động “tĩnh”, mà không dựa trên cách cách mọi người tương tác:

“Các thực thể trên nền tảng, chẳng hạn như tài khoản, bài đăng, trang và nhóm thì không tĩnh. Chúng tương tác với nhau theo thời gian, điều này có thể tiết lộ rất nhiều về bản chất của chúng. Ví dụ: tài khoản giả mạo và bài đăng thông tin sai lệch gợi ra nhiều loại phản ứng từ các tài khoản khác với các tài khoản và bài đăng bình thường / lành tính. “

Điều này có thể đúng? Có sự khác biệt rõ ràng trong cách mọi người tương tác với tài khoản giả mạo hoặc thông tin sai lệch? Điều này có thể giúp xác định tài khoản giả mạo hoặc thông tin sai lệch, ngay cả khi không có báo cáo của người dùng không?

Đó là cơ sở của việc phát triển hệ thống TIES trên Facebook – bằng cách giám sát tất cả các hoạt động và tương tác khác nhau với mỗi bài đăng, TIES có thể phát hiện các hành vi phổ biến được liên kết với các thực thể không xác thực.

“Các thực thể trên mạng xã hội (tài khoản, bài đăng, story, Group, Page, v.v.) tạo ra nhiều tương tác từ các thực thể khác theo thời gian. Ví dụ: bài đăng được người dùng thích, chia sẻ, nhận xét, v.v. hoặc tài khoản gửi hoặc từ chối yêu cầu kết bạn, gửi hoặc chặn tin nhắn, v.v. từ các tài khoản khác “

Trên quy mô lớn, hệ thống mới của Facebook hiện có thể so sánh các hành vi đó bằng các dấu hiệu cụ thể, sau đó có thể gắn cờ chúng để sau đó có thể kiểm tra thêm.

Ví dụ, trong hình ảnh tương tác tổng thể này, Facebook nói rằng các chấm màu vàng là dấu hiệu của hoạt động độc hại. Như bạn có thể thấy, các tương tác với các bài đăng này khác đáng kể so với các tương tác của người dùng với các bài đăng bình thường (màu tím).

“Cách thức hoạt động của các tài khoản giả mạo khác với các tài khoản bình thường. Các bài đăng kích động thù địch tạo ra các loại tương tác khác so với các bài đăng thông thường. Không chỉ thể loại mà cả mục tiêu của những tương tác này cũng có thể cung cấp thông tin. Ví dụ: một tài khoản có lịch sử phát tán các chia sẻ thù địch hoặc thông tin sai lệch có tương tác tích cực với một bài đăng khác có thể là dấu hiệu của việc nội dung đó có vấn đề. “

Nói một cách đơn giản, cơ sở của mô hình TIES trên Facebook, được tôi luyện nên từ hơn 2,5 triệu tài khoản (với 80% thật và 200% giả) và 130 nghìn bài đăng (khoảng 10% được gắn nhãn là thông tin sai lệch), hệ thống này đã có thể xác định chính xác các tác nhân xấu trong biểu đồ của Facebook bằng cách đo lường toàn bộ quy mô tương tác và mức độ gắn kết với mỗi bài đăng. Ở quy mô nhỏ, bạn sẽ không nhận thấy bất kỳ sự khác biệt thực sự nào về cách người dùng tương tác với các thực thể này, nhưng với phạm vi lớn hơn, các mô hình rõ ràng sẽ xuất hiện. Và điều đó sẽ cho phép Facebook cải thiện các nỗ lực phát hiện và loại bỏ các yêu tố gây hại trên.

Đây rõ ràng là một bước tiến lớn. Nhất là trong thời gian gần đây, khi mà Facebook đã phải chịu áp lực đáng kể trong việc giải quyết thông tin sai lệch, với một loạt các nhóm theo thuyết âm mưu COVID-19, cũng như những kẻ cực đoan chính trị bị điều khiển bởi các lý thuyết vô căn cứ về thiết lập xã hội.

Facebook đã thực sự hành động và cố gắng giải quyết sự lây lan của chúng, nhưng với 2,7 tỷ người dùng, khiến việc loại bỏ chúng gần như không thể hoàn toàn triệt để.

Và nó sẽ chỉ trở nên tồi tệ hơn – trong bối cảnh COVID-19, nhiều nhà xuất bản địa phương khác nhau đã buộc phải đóng cửa do thiếu hụt về doanh thu. Điều đó có khả năng sẽ khiến nhiều người chuyển sang Facebook để cập nhật tin tức hơn – nơi thuật toán của nó ưu tiên sự tương tác, mà thường cho thấy các bài đăng mang tính chia rẽ lại có sức hút mạnh hơn hẳn so với những bài viết dựa trên sự thật.

Về tài khoản giả mạo, hồi tháng 4, Facebook đã báo cáo rằng mặc dù họ đã cải thiện đáng kể nỗ lực phát hiện tài khoản giả mạo, nhưng khoảng 5% cơ sở người dùng của họ vẫn là các hồ sơ giả mạo. Nghe có vẻ không quá tệ – nhưng ở quy mô của Facebook, 5% tương đương với hơn 135 triệu hồ sơ giả đang hoạt động trên nền tảng hiện tại.

Facebook lưu ý điều này trong tài liệu TIES của mình, giải thích rằng mặc dù TIES chỉ có thể dẫn đến những cải tiến theo phân số:

“Cũng cần lưu ý rằng, ở quy mô của Facebook, ngay cả khi độ chính xác được cải thiện một tỉ lệ nhỏ phần trăm cũng có thể dẫn đến việc loại bỏ được số lượng đáng kể các tài khoản giả mạo.”

Với quy mô của Facebook hiện nay, sẽ rất khó để có thể hiểu được toàn bộ những thay đổi này. Nhưng trong bối cảnh hiện tại, hệ thống TIES sẽ giúp cải thiện đáng kể Facebook ở một số mặt nhất định, nhất là hệ thống phát hiện các yếu tố gây hại trên nền tảng của mình.

Và điều đó sẽ dẫn đến nhiều cải tiến hơn nữa có thể có tác động lớn hơn hẳn. Facebook vẫn còn nhiều việc phải làm và sẽ phải tiếp tục chịu áp lực ngày càng lớn về việc là một trong những điều kiện tốt giúp cho những yếu tố thù địch được lên tiếng và góp phần giúp các nhóm tiêu cực gây chia rẽ xã hội.

Bạn có thể đọc toàn bộ tài liệu TIES tại đây.

Theo https://www.socialmediatoday.com/news/facebook-adds-custom-backgrounds-for-messenger-rooms-adds-new-rooms-discov/584214/

What do you think?

Written by caroline

Facebook: iOS 14 sẽ gây ảnh hưởng đến các doanh nghiệp nhỏ trong mùa COVID

YouTube tăng không gian quảng cáo trong video và giúp giảm chi phí quảng cáo