Duy An -
Facebook đã chủ trì nhiều cuộc hội nghị dành cho các công ty công nghệ bàn về cách ngăn chặn nạn tự tử trong hơn mười năm qua và nay đang cập nhật thêm ngôn ngữ cho tính năng chống tự tử của mình.
Cảnh sát trưởng Joseph Gerace của hạt Chautauqua, bang New York (Mỹ), đã chứng kiến nhiều vụ tự tử trong đời mình. Nhưng ông đặc biệt ấn tượng vụ một thành viên đội an ninh Facebook gọi điện đến Trung tâm khẩn cấp 911 của hạt báo rằng một cư dân nữ có thể sắp tự tử vào hồi tháng 7 năm 2017. Cảnh sát đã cứu được cô gái, người thường xuyên dùng Facebook, nhờ trang mạng kịp thời phát hiện nhiều nội dung có ý tự làm hại mình trên trang cá nhân của cô này.
Trách nhiệm của mạng xã hội lớn nhất thế giới
Trong nhiều năm qua, Facebook cho phép người dùng “report” (báo cáo) các nội dung liên quan đến tự tử để nhân viên công ty xem xét và quyết định có báo tin cho đường dây nóng của cơ quan thực thi pháp luật hay không. Theo đài CNBC, mạng xã hội lớn nhất thế giới đẩy mạnh cuộc chiến chống tự tử bằng cách sử dụng những thế mạnh về thuật toán và trí tuệ nhân tạo (AI). Tự tử là một trong mười nguyên nhân gây tử vong hàng đầu theo Trung tâm Kiểm soát và Phòng chống dịch bệnh (Mỹ) và Facebook - với hơn 2,1 tỉ người sử dụng hàng tháng - có một vai trò hiển nhiên trong cuộc chiến chống lại tình trạng này.
Khoảng một năm trước, Facebook bổ sung công nghệ tự động đánh dấu những bài đăng biểu lộ ý định tự tử để bộ phận theo dõi của công ty phân tích. Sau những kết quả đáng khích lệ, công ty đang cập nhật nhiều ngôn ngữ mới cho hệ thống và cải thiện tính năng chống tự tử cho Instagram, mạng xã hội chuyên về hình ảnh của Facebook.
Các hãng công nghệ cũng theo chân Facebook và ngày càng quan tâm đến ngăn ngừa tự tử. Ngày nay, nếu bạn gõ câu “Tôi muốn tự tử” lên công cụ tìm kiếm Google, màn hình sẽ hiện ra số điện thoại của Cơ quan Cấp cứu phòng chống tự tử quốc gia Mỹ. Tương tự, Microsoft cho hiển thị thông tin của trung tâm ứng cứu liên quan và cho phép người dùng báo cáo các hành động tự gây tổn thương trên dịch vụ trò chơi trực tuyến Xbox Live của mình. Cách phản ứng của Google và Microsoft cũng tương tự như những gì Facebook thực hiện khi công ty bắt đầu nghiên cứu cách ngăn chặn nạn tự tử từ hơn 10 năm trước.
Trí tuệ nhân tạo chiếm vị trí chủ đạo
Facebook giờ đây có hơn 7.500 nhân viên chuyên xem xét các khả năng xảy ra hành vi tự trừng phạt, bắt nạt người khác và bạo lực tình dục. “Bất cứ điều gì liên quan đến sự an toàn của con người đều được ưu tiên xem xét nhanh”, bà Monika Bickert, Giám đốc về quản lý chính sách toàn cầu của Facebook, nhấn mạnh. Mạng xã hội lớn nhất thế giới này còn tìm đến sự giúp đỡ của ông Dan Reidenberg, Giám đốc tổ chức SAVE chuyên nâng cao nhận thức về nạn tự tử. Việc đầu tiên Reidenberg hỗ trợ Facebook là cung cấp danh sách các cụm từ mà những người có ý định kết liễu đời mình hay sử dụng nhất. Bên cạnh đó, ông Reidenberg còn làm việc với công ty tại các hội nghị công nghệ do Facebook hỗ trợ hai năm một lần.
Tuy nhiên, cơ hội để Facebook tạo ra sự khác biệt nằm ở AI, lĩnh vực mà hầu như đại gia công nghệ nào cũng chen chân vào song lại ít quan tâm đến vấn nạn người dùng muốn tự tử. Năm 2013, Facebook thành lập phòng nghiên cứu AI và một trong những “đơn đặt hàng” quan trọng là tạo ra một hệ thống tự động có thể nhận diện chính xác các trường hợp tự tử. Ví dụ, bài đăng có nội dung “Nghe bài hát này thêm một lần nữa chắc tôi chết quá” không liên quan gì đến chuyện tự tử dù có nhắc đến cái chết trong đó. Không chỉ dừng lại ở từ ngữ, hệ thống nói trên phải có khả năng nắm bắt được những dấu hiệu bất thường trong hành vi của một người thực sự muốn kết thúc cuộc đời.
Mục tiêu quan trọng của nhóm nghiên cứu là làm hệ thống nói trên trở nên nhạy bén và có thể “định vị” ngay các bài đăng có vấn đề, như thể hiện sự mệt mỏi quá mức hay lời cảnh báo tự tử. Điều này giúp hệ thống không phải dựa quá nhiều vào phản ứng và bình luận của bạn bè đối tượng, từ đó tiết kiệm nhiều thời gian rà soát, tránh phí công vô ích trong trường hợp danh sách bạn bè của đối tượng quá ít ỏi.
