Meta เปิดตัวฟีเจอร์ความปลอดภัยที่ขับเคลื่อนด้วย AI เพื่อแจ้งเตือนผู้ปกครองเกี่ยวกับการสนทนาเกี่ยวกับการทำร้ายตัวเองของวัยรุ่น

ระบบการตรวจจับเนื้อหาขั้นสูงมีจุดมุ่งหมายเพื่อป้องกันวิกฤตสุขภาพจิตของเยาวชน

ในการพัฒนาที่สำคัญด้านความปลอดภัยทางดิจิทัลของเยาวชน Meta ได้ประกาศระบบปัญญาประดิษฐ์ใหม่ที่ออกแบบมาเพื่อตรวจจับการสนทนาเกี่ยวกับการทำร้ายตัวเองในหมู่วัยรุ่นและแจ้งเตือนผู้ปกครอง ฟีเจอร์นี้แสดงให้เห็นถึงความพยายามล่าสุดของยักษ์ใหญ่ด้านเทคโนโลยีในการจัดการกับความกังวลที่เพิ่มขึ้นเกี่ยวกับความท้าทายด้านสุขภาพจิตของผู้ใช้แพลตฟอร์มรุ่นเยาว์ รวมถึง Instagram และ Facebook

ทำความเข้าใจกลไกความปลอดภัยใหม่

ระบบ AI ที่นำมาใช้ใหม่ใช้การประมวลผลภาษาธรรมชาติขั้นสูงเพื่อระบุการสนทนาที่เป็นไปได้เกี่ยวกับการทำร้ายตนเอง ความคิดฆ่าตัวตาย หรือวิกฤตสุขภาพจิตที่เกี่ยวข้องในข้อความส่วนตัวและโพสต์ที่เกี่ยวข้องกับผู้ใช้อายุต่ำกว่า 18 ปี เมื่อตรวจพบเนื้อหาที่เกี่ยวข้อง ระบบจะแจ้งให้ผู้ปกครองทราบผ่านแดชบอร์ด Family Center โดยให้บริบทเกี่ยวกับการสนทนาในขณะที่ยังคงรักษาขอบเขตความเป็นส่วนตัวที่เหมาะสม

"นี่เป็นเรื่องเกี่ยวกับการรักษาสมดุลระหว่างความปลอดภัยกับการเคารพในการปกครองตนเองของวัยรุ่น" Antigone Davis หัวหน้าฝ่ายความปลอดภัยของ Meta อธิบาย "เป้าหมายของเราคือการให้ข้อมูลแก่ผู้ปกครองโดยไม่ต้องสร้างสภาพแวดล้อมในการเฝ้าระวังที่อาจทำลายความไว้วางใจ"

การใช้งานทางเทคนิคและข้อจำกัด

ระบบ AI ได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูลที่ครอบคลุมของการสนทนาที่เกี่ยวข้องกับสุขภาพจิต ทำให้สามารถจดจำภาษาที่ทำร้ายตัวเองในรูปแบบต่างๆ รวมถึงการแสดงออกทางโค้ดหรือทางอ้อม อย่างไรก็ตาม Meta ได้เน้นย้ำว่าระบบไม่มีข้อผิดพลาด และอาจก่อให้เกิดผลบวกลวงหรือพลาดการแสดงความกังวลบางอย่าง

การจัดการกับวิกฤตสุขภาพจิตของเยาวชน

การดำเนินการนี้เกิดขึ้นท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับสุขภาพจิตของเยาวชน โดยเฉพาะอย่างยิ่งในยุคดิจิทัล การศึกษาแสดงให้เห็นความสัมพันธ์ระหว่างการใช้โซเชียลมีเดียกับอัตราความวิตกกังวล ความซึมเศร้า และพฤติกรรมการทำร้ายตัวเองที่เพิ่มขึ้นในหมู่วัยรุ่น ศัลยแพทย์ทั่วไปของสหรัฐอเมริกาได้ออกคำแนะนำที่เน้นถึงความท้าทายด้านสุขภาพจิตที่คนหนุ่มสาวเผชิญในยุคดิจิทัล

"แพลตฟอร์มโซเชียลมีเดียมีหน้าที่รับผิดชอบในการใช้มาตรการป้องกันที่ปกป้องผู้ใช้ที่มีช่องโหว่" ดร. ลิซ่า โจนส์ นักจิตวิทยาคลินิกที่เชี่ยวชาญด้านสุขภาพจิตของวัยรุ่นกล่าว "อย่างไรก็ตาม ระบบเหล่านี้ควรส่งเสริม ไม่ใช่แทนที่การสนับสนุนด้านสุขภาพจิตอย่างมืออาชีพ"

การพิจารณาความเป็นส่วนตัวและข้อกังวลด้านจริยธรรม

ฟีเจอร์ใหม่ได้จุดประกายการถกเถียงในหมู่ผู้สนับสนุนความเป็นส่วนตัวที่กังวลเกี่ยวกับการสอดแนมการสื่อสารส่วนตัวที่อาจเกิดขึ้น Meta ได้พยายามแก้ไขข้อกังวลเหล่านี้โดยใช้การควบคุมการเข้าถึงที่เข้มงวดและทำให้มั่นใจว่าผู้ปกครองจะไม่สามารถมองเห็นเนื้อหาที่แท้จริงของการสนทนาได้ มีเพียงเนื้อหาที่เกี่ยวข้องกับเท่านั้นที่ตรวจพบ

"แม้ว่าความตั้งใจจะสูงส่ง แต่เราก็ต้องระมัดระวังในการสร้างวัฒนธรรมในการเฝ้าติดตามที่อาจกีดกันวัยรุ่นจากการขอความช่วยเหลือ" Eva Galperin ผู้อำนวยการฝ่ายความปลอดภัยทางไซเบอร์ของ Electronic Frontier Foundation ให้ความเห็น "วัยรุ่นอาจหลีกเลี่ยงการแสดงออกถึงการต่อสู้ดิ้นรนอย่างแท้จริง หากพวกเขากลัวการแทรกแซงของผู้ปกครอง"

บริบทที่กว้างขึ้นของการริเริ่มด้านความปลอดภัยของ Meta

ระบบตรวจจับการทำร้ายตัวเองเป็นส่วนหนึ่งของชุดคุณลักษณะด้านความปลอดภัยที่กว้างขึ้นของ Meta สำหรับผู้ใช้อายุน้อย ซึ่งรวมถึง:

• การตั้งค่าความเป็นส่วนตัวเริ่มต้นสำหรับบัญชีที่มีอายุต่ำกว่า 18 ปี
• เครื่องมือการบริหารเวลา
• ข้อจำกัดด้านเนื้อหาเกี่ยวกับเนื้อหาที่อาจเป็นอันตราย
• การเข้าถึงแหล่งข้อมูลด้านสุขภาพจิตโดยตรง

ความคิดริเริ่มเหล่านี้เป็นไปตามแรงกดดันด้านกฎระเบียบที่เพิ่มขึ้นต่อบริษัทโซเชียลมีเดียเพื่อปกป้องผู้ใช้รุ่นเยาว์ กฎหมาย Children's Online Privacy Protection Act (COPPA) และกฎหมายที่เสนอ เช่น Kids Online Safety Act (KOSA) ได้เพิ่มความคาดหวังต่อมาตรการความปลอดภัยของแพลตฟอร์ม

มุมมองของผู้เชี่ยวชาญเกี่ยวกับประสิทธิผล

ผู้เชี่ยวชาญด้านสุขภาพจิตได้แสดงความคิดเห็นที่หลากหลายเกี่ยวกับประสิทธิผลของการแทรกแซงทางเทคโนโลยีดังกล่าว แม้ว่าบางคนมองว่าสิ่งเหล่านี้เป็นเครื่องมือที่สามารถช่วยชีวิตได้ แต่บางคนกลับเตือนไม่ให้พึ่งพาระบบอัตโนมัติมากเกินไปสำหรับปัญหาสุขภาพจิตที่ซับซ้อน

"การแทรกแซงตั้งแต่เนิ่นๆ อาจมีความสำคัญในการป้องกันผลลัพธ์ที่น่าเศร้า" ดร. ซาราห์ จอห์นสัน นักวิจัยด้านจิตวิทยาวัยรุ่นกล่าว "อย่างไรก็ตาม ระบบเหล่านี้ควรได้รับการประเมินอย่างรอบคอบเพื่อให้แน่ใจว่าจะไม่สร้างผลลัพธ์ที่ไม่ได้ตั้งใจหรือกีดกันวัยรุ่นจากการใช้แพลตฟอร์มที่อาจได้รับการสนับสนุน"

ลำดับเวลาการใช้งานและความพร้อมใช้งาน

ฟีเจอร์การตรวจจับการทำร้ายตัวเองเริ่มเปิดตัวในสหรัฐอเมริกาในช่วงปลายปี 2023 และคาดว่าจะขยายไปยังตลาดอื่นๆ ตลอดปี 2024 ระบบจะเลือกใช้สำหรับผู้ปกครองผ่าน Meta Family Center ซึ่งต้องได้รับความยินยอมจากทั้งผู้ปกครองและวัยรุ่นจึงจะเปิดใช้งานได้

Meta ระบุว่าจะดำเนินการปรับปรุงระบบ AI ต่อไปโดยอิงตามความคิดเห็นและการวิจัยที่เกิดขึ้นใหม่ด้านสุขภาพจิตของวัยรุ่น บริษัทยังได้ประกาศความร่วมมือกับองค์กรด้านสุขภาพจิตเพื่อจัดหาทรัพยากรและการสนับสนุนสำหรับครอบครัวที่ได้รับผลกระทบจากการแจ้งเตือนเหล่านี้

อนาคตของความปลอดภัยทางดิจิทัลสำหรับเยาวชน

เนื่องจากแพลตฟอร์มโซเชียลมีเดียผสานรวมฟีเจอร์ด้านความปลอดภัยของ AI มากขึ้น ผู้สังเกตการณ์ในอุตสาหกรรมจึงคาดหวังว่าจะมีการมุ่งเน้นที่การสนับสนุนด้านสุขภาพจิตเชิงรุกเพิ่มมากขึ้น มากกว่าการกลั่นกรองเนื้อหาเชิงรับ การพัฒนาในอนาคตอาจรวมถึงระบบการตรวจจับตั้งแต่เนิ่นๆ ที่ซับซ้อนยิ่งขึ้น ทรัพยากรที่ได้รับการปรับปรุงสำหรับผู้ใช้ที่มีความเสี่ยง และการปรับปรุงการทำงานร่วมกันกับผู้เชี่ยวชาญด้านสุขภาพจิต

"สิ่งนี้แสดงให้เห็นถึงก้าวสำคัญในการตระหนักถึงบทบาทที่มีต่อสุขภาพจิตของเยาวชน" ดร. จอห์นสันกล่าวสรุป "แต่สิ่งสำคัญพอๆ กันคือต้องจำไว้ว่าเทคโนโลยีเป็นเพียงส่วนหนึ่งของแนวทางที่ครอบคลุม ซึ่งต้องรวมถึงการสนับสนุนจากครอบครัว การศึกษา และการดูแลอย่างมืออาชีพที่เข้าถึงได้"

ตอนนี้ Meta AI สามารถแจ้งเตือนผู้ปกครองเมื่อวัยรุ่นพูดคุยเกี่ยวกับการทำร้ายตัวเอง https://ift.tt/A1Ynzex Meta AI สามารถแจ้งเตือนผู้ปกครองเมื่อลูกวัยรุ่นพูดคุยเกี่ยวกับการทำร้ายตัวเองได้ https://ift.tt/A1Ynzex

ส่วนประกอบคุณลักษณะ	ฟังก์ชันการทำงาน	ข้อจำกัด
การตรวจจับ AI	ระบุภาษาที่ทำร้ายตัวเองในข้อความและโพสต์	อาจพลาดนิพจน์ที่เข้ารหัสหรือผลบวกลวง
การแจ้งเตือนผู้ปกครอง	ส่งการแจ้งเตือนผ่านแดชบอร์ด Family Center	ซ้ำซ้อนกับการควบคุมโดยผู้ปกครองที่มีอยู่
การยืนยันอายุ	กำหนดเป้าหมายบัญชีที่ลงทะเบียนเป็นผู้ใช้ที่มีอายุต่ำกว่า 18 ปี	ขึ้นอยู่กับข้อมูลอายุที่ถูกต้อง