Meta giới thiệu tính năng an toàn do AI cung cấp để cảnh báo phụ huynh về các cuộc thảo luận về hành vi tự làm hại bản thân của thanh thiếu niên

Hệ thống phát hiện nội dung nâng cao nhằm ngăn chặn khủng hoảng sức khỏe tâm thần ở thanh thiếu niên

Trong một bước phát triển quan trọng nhằm đảm bảo an toàn kỹ thuật số cho thanh thiếu niên, Meta đã công bố một hệ thống trí tuệ nhân tạo mới được thiết kế để phát hiện các cuộc trò chuyện về việc tự làm hại bản thân trong thanh thiếu niên và cảnh báo cho cha mẹ các em. Tính năng này thể hiện nỗ lực mới nhất của gã khổng lồ công nghệ nhằm giải quyết mối lo ngại ngày càng tăng về những thách thức về sức khỏe tâm thần ở những người dùng trẻ tuổi sử dụng các nền tảng của hãng, bao gồm cả Instagram và Facebook.

Hiểu cơ chế an toàn mới

Hệ thống AI mới được triển khai sử dụng khả năng xử lý ngôn ngữ tự nhiên tiên tiến để xác định các cuộc thảo luận tiềm ẩn về hành vi tự làm hại bản thân, ý tưởng tự tử hoặc các cơn khủng hoảng sức khỏe tâm thần có liên quan trong các tin nhắn và bài đăng riêng tư liên quan đến người dùng dưới 18 tuổi. Khi phát hiện thấy nội dung liên quan, hệ thống sẽ thông báo cho phụ huynh thông qua trang tổng quan của Trung tâm Gia đình, cung cấp cho họ bối cảnh về cuộc trò chuyện trong khi vẫn duy trì các ranh giới quyền riêng tư phù hợp.

"Đây là vấn đề cân bằng giữa sự an toàn với sự tôn trọng quyền tự chủ của thanh thiếu niên," Antigone Davis, Trưởng bộ phận An toàn của Meta, giải thích. "Mục tiêu của chúng tôi là cung cấp cho phụ huynh những thông tin hữu ích mà không tạo ra môi trường giám sát có thể gây tổn hại đến lòng tin."

Triển khai kỹ thuật và hạn chế

Hệ thống AI đã được đào tạo về các tập dữ liệu phong phú về các cuộc trò chuyện liên quan đến sức khỏe tâm thần, cho phép hệ thống nhận ra nhiều dạng ngôn ngữ tự làm hại bản thân, bao gồm cả các cách diễn đạt được mã hóa hoặc gián tiếp. Tuy nhiên, Meta đã nhấn mạnh rằng hệ thống không phải là không thể sai lầm và có thể tạo ra kết quả dương tính giả hoặc bỏ sót một số biểu hiện đau khổ nhất định.

Giải quyết cuộc khủng hoảng sức khỏe tâm thần ở thanh thiếu niên

Việc triển khai diễn ra trong bối cảnh mối lo ngại ngày càng tăng về sức khỏe tâm thần của thanh thiếu niên, đặc biệt là trong thời đại kỹ thuật số. Các nghiên cứu đã chỉ ra mối tương quan giữa việc sử dụng mạng xã hội và tỷ lệ gia tăng lo lắng, trầm cảm và hành vi tự làm hại bản thân ở thanh thiếu niên. Tổng bác sĩ phẫu thuật Hoa Kỳ đã đưa ra lời khuyên nêu bật những thách thức về sức khỏe tâm thần mà giới trẻ phải đối mặt trong kỷ nguyên kỹ thuật số.

Tiến sĩ Lisa Jones, nhà tâm lý học lâm sàng chuyên về sức khỏe tâm thần vị thành niên, cho biết: "Các nền tảng truyền thông xã hội có trách nhiệm thực hiện các biện pháp bảo vệ những người dùng dễ bị tổn thương". "Tuy nhiên, những hệ thống này nên bổ sung chứ không thay thế sự hỗ trợ chuyên nghiệp về sức khỏe tâm thần."

Cân nhắc về quyền riêng tư và mối quan ngại về đạo đức

Tính năng mới đã làm dấy lên cuộc tranh luận giữa những người ủng hộ quyền riêng tư, những người lo ngại về khả năng bị giám sát đối với hoạt động liên lạc riêng tư. Meta đã cố gắng giải quyết những mối lo ngại này bằng cách triển khai các biện pháp kiểm soát truy cập nghiêm ngặt và đảm bảo rằng phụ huynh không thể xem nội dung thực tế của các cuộc trò chuyện—chỉ phát hiện được nội dung liên quan.

"Mặc dù mục đích này là cao cả nhưng chúng ta phải thận trọng trong việc tạo ra một nền văn hóa giám sát có thể ngăn cản thanh thiếu niên tìm kiếm sự giúp đỡ", Eva Galperin, Giám đốc An ninh mạng tại Electronic Frontier Foundation nhận xét. "Thanh thiếu niên có thể tránh bày tỏ sự đấu tranh thực sự nếu sợ sự can thiệp của cha mẹ."

Bối cảnh rộng hơn của các sáng kiến an toàn của Meta

Hệ thống phát hiện hành vi tự làm hại bản thân là một phần trong bộ tính năng an toàn rộng hơn của Meta dành cho người dùng trẻ tuổi, bao gồm:

• Cài đặt bảo mật mặc định cho tài khoản dưới 18 tuổi
• Công cụ quản lý thời gian
• Hạn chế nội dung đối với tài liệu có thể gây hại
• Trực tiếp tiếp cận các nguồn tài nguyên sức khỏe tâm thần

Những sáng kiến này diễn ra sau áp lực pháp lý ngày càng tăng đối với các công ty truyền thông xã hội nhằm bảo vệ người dùng trẻ tuổi. Đạo luật bảo vệ quyền riêng tư trực tuyến của trẻ em (COPPA) và luật đề xuất như Đạo luật an toàn trực tuyến cho trẻ em (KOSA) đã làm tăng kỳ vọng về các biện pháp an toàn trên nền tảng.

Quan điểm chuyên gia về tính hiệu quả

Các chuyên gia sức khỏe tâm thần đã bày tỏ nhiều ý kiến trái chiều về hiệu quả của những biện pháp can thiệp công nghệ như vậy. Trong khi một số người coi chúng là những công cụ có khả năng cứu mạng, những người khác cảnh báo không nên phụ thuộc quá nhiều vào hệ thống tự động để giải quyết các vấn đề sức khỏe tâm thần phức tạp.

Tiến sĩ Sarah Johnson, nhà nghiên cứu về tâm lý học vị thành niên, cho biết: “Can thiệp sớm có thể rất quan trọng trong việc ngăn ngừa những kết cục bi thảm”. "Tuy nhiên, những hệ thống này cần được đánh giá cẩn thận để đảm bảo chúng không tạo ra những hậu quả ngoài ý muốn hoặc ngăn cản thanh thiếu niên sử dụng các nền tảng mà họ có thể tìm thấy sự hỗ trợ."

Tiến trình triển khai và tính khả dụng

Tính năng phát hiện hành vi tự làm hại bản thân bắt đầu được triển khai tại Hoa Kỳ vào cuối năm 2023 và dự kiến sẽ mở rộng sang các thị trường khác trong suốt năm 2024. Hệ thống sẽ được các bậc cha mẹ chọn tham gia thông qua Meta Family Center. Tính năng này cần có sự đồng ý của cả cha mẹ và thanh thiếu niên để kích hoạt.

Meta đã chỉ ra rằng họ sẽ tiếp tục cải tiến hệ thống AI dựa trên phản hồi và nghiên cứu mới về sức khỏe tâm thần của thanh thiếu niên. Công ty cũng đã công bố quan hệ đối tác với các tổ chức sức khỏe tâm thần để cung cấp nguồn lực và hỗ trợ cho các gia đình bị ảnh hưởng bởi những cảnh báo này.

Tương lai của an toàn kỹ thuật số cho giới trẻ

Khi các nền tảng truyền thông xã hội ngày càng tích hợp các tính năng an toàn AI, các nhà quan sát trong ngành dự đoán sự tập trung ngày càng tăng vào việc hỗ trợ sức khỏe tâm thần chủ động thay vì kiểm duyệt nội dung mang tính ứng phó. Những bước phát triển trong tương lai có thể bao gồm các hệ thống phát hiện sớm phức tạp hơn, nguồn lực được cải thiện cho những người dùng có nguy cơ cao và tăng cường hợp tác với các chuyên gia sức khỏe tâm thần.

"Điều này thể hiện một bước quan trọng trong việc nhận biết vai trò của nền tảng đối với sức khỏe tâm thần của thanh thiếu niên", Tiến sĩ Johnson kết luận. "Nhưng điều quan trọng không kém cần nhớ là công nghệ chỉ là một phần của phương pháp tiếp cận toàn diện, bao gồm hỗ trợ gia đình, giáo dục và chăm sóc chuyên môn dễ tiếp cận."

Meta AI giờ đây có thể cảnh báo các bậc cha mẹ khi con họ thảo luận về việc tự làm hại bản thân https://ift.tt/A1Ynzex Meta AI giờ đây có thể cảnh báo các bậc cha mẹ khi con cái họ thảo luận về việc tự làm hại bản thân https://ift.tt/A1Ynzex

Thành phần tính năng	Chức năng	Hạn chế
Phát hiện AI	Xác định ngôn ngữ tự làm hại bản thân trong tin nhắn và bài đăng	Có thể bỏ lỡ các biểu thức được mã hóa hoặc dương tính giả
Thông báo dành cho phụ huynh	Gửi thông báo qua bảng điều khiển Trung tâm gia đình	Dự phòng với các quyền kiểm soát hiện có của phụ huynh
Xác minh độ tuổi	Nhắm mục tiêu các tài khoản được đăng ký là người dùng dưới 18 tuổi	Phụ thuộc vào thông tin độ tuổi chính xác