มานุษยวิทยาระงับการเข้าถึงโมเดล Mythos 5 และ Fable 5 ตามข้อกังวลด้านความปลอดภัยและคำสั่งของรัฐบาล

ในความเคลื่อนไหวที่เน้นย้ำถึงความตึงเครียดที่เพิ่มขึ้นระหว่างความก้าวหน้าทางปัญญาประดิษฐ์และความมั่นคงของชาติ Anthropic ได้ประกาศว่ากำลังปิดการเข้าถึงโมเดล Mythos 5 และ Fable 5 ขั้นสูง หลังจากเกิดเหตุการณ์แหกคุกที่อาจเกิดขึ้นและคำสั่งที่ตามมาจากรัฐบาลสหรัฐฯ

เหตุการณ์: การเจลเบรกที่อาจเกิดขึ้น

แหล่งข้อมูลที่คุ้นเคยกับสถานการณ์ดังกล่าวระบุว่านักวิจัยค้นพบวิธีการเลี่ยงโปรโตคอลความปลอดภัยของโมเดลล่าสุดของ Anthropic ซึ่งอาจทำให้พวกเขาสร้างเนื้อหาที่ถูกจำกัดหรือเป็นอันตรายได้ "การเจลเบรค" นี้แสดงถึงช่องโหว่ที่สำคัญในระบบที่ออกแบบมาเพื่อป้องกันการนำเทคโนโลยี AI ที่ทรงพลังไปใช้ในทางที่ผิด

"เมื่อสามารถหลีกเลี่ยงโมเดล AI ขั้นสูงได้ มันก็ก่อให้เกิดความเสี่ยงที่นอกเหนือไปจากการใช้ในทางที่ผิดธรรมดาๆ ไปสู่ผลกระทบด้านความมั่นคงของชาติ" ดร. ซาราห์ เฉิน นักวิจัยด้านความปลอดภัยของ AI ซึ่งไม่ได้เกี่ยวข้องโดยตรงกับเหตุการณ์ดังกล่าวแต่ได้ติดตามการพัฒนาในสาขานี้อธิบาย

ความเป็นมาของมิธอส 5 และนิทาน 5

Mythos 5 และ Fable 5 เป็นตัวแทนของโมเดล AI ที่ทันสมัยที่สุดของ Anthropic ซึ่งมีรายงานว่ามีความสามารถที่ได้รับการปรับปรุงในด้านการใช้เหตุผล ความเข้าใจภาษาธรรมชาติ และการแก้ปัญหาที่ซับซ้อน โมเดลเหล่านี้เป็นส่วนหนึ่งของการพัฒนารุ่นต่อไปของ Anthropic โดยมีจุดประสงค์เพื่อขยายขอบเขตสิ่งที่ระบบ AI จะสามารถทำได้ไปพร้อมๆ กับรักษามาตรฐานความปลอดภัย

การแทรกแซงของรัฐบาล: คำสั่งความมั่นคงแห่งชาติ

หลังจากการค้นพบการเจลเบรกที่อาจเกิดขึ้น Anthropic ได้รับคำสั่งจากหน่วยงานความมั่นคงแห่งชาติของสหรัฐอเมริกาให้จำกัดการเข้าถึงโมเดลที่ได้รับผลกระทบทันที แม้ว่าลักษณะเฉพาะของคำสั่งซื้อเหล่านี้ยังคงถูกจัดประเภทไว้บางส่วน แหล่งอุตสาหกรรมแนะนำว่าคำสั่งซื้อเหล่านี้ออกภายใต้ข้อกำหนดที่เกี่ยวข้องกับการปกป้องเทคโนโลยีที่สำคัญและการป้องกันการใช้งานในทางที่ผิดที่อาจเกิดขึ้น

"นี่ไม่ใช่ครั้งแรกที่เราได้เห็นการแทรกแซงของรัฐบาลในการพัฒนา AI ขั้นสูง" Michael Torres นักวิเคราะห์นโยบายเทคโนโลยีกล่าว "เมื่อระบบเหล่านี้มีประสิทธิภาพมากขึ้น เส้นแบ่งระหว่างนวัตกรรมเชิงพาณิชย์กับข้อกังวลด้านความมั่นคงของชาติก็ยังคงไม่ชัดเจน"

การตอบรับอย่างเป็นทางการจาก Anthropic

ในแถลงการณ์ที่ส่งถึง TechRadar นั้น Anthropic ยืนยันการระงับการเข้าถึงพร้อมทั้งเน้นย้ำความมุ่งมั่นด้านความปลอดภัย:

"เราให้ความสำคัญกับความปลอดภัยและการใช้งานระบบ AI ของเราอย่างมีความรับผิดชอบอย่างจริงจัง เมื่อระบุจุดอ่อนที่อาจเกิดขึ้นได้ เราได้ดำเนินการทันทีเพื่อจำกัดการเข้าถึงในขณะที่เราตรวจสอบปัญหาและดำเนินการป้องกันเพิ่มเติม เรากำลังร่วมมืออย่างเต็มที่กับหน่วยงานที่เกี่ยวข้องเพื่อให้แน่ใจว่าเทคโนโลยีอันทรงพลังเหล่านี้ยังคงปลอดภัย"

ผลกระทบต่ออุตสาหกรรม

การปิดตัว Mythos 5 และ Fable 5 เกิดขึ้นในช่วงเวลาวิกฤติสำหรับอุตสาหกรรม AI ซึ่งได้พัฒนาขีดความสามารถอย่างรวดเร็ว ขณะเดียวกันก็ต้องเผชิญกับปัญหาด้านกฎระเบียบและความปลอดภัย เหตุการณ์ดังกล่าวเน้นย้ำถึงความท้าทายที่สำคัญหลายประการ:

• เกมแมวจับหนูที่กำลังดำเนินอยู่ระหว่างนักวิจัยด้านความปลอดภัยของ AI และผู้ที่พยายามเลี่ยงการป้องกัน
• บทบาทที่เพิ่มขึ้นของรัฐบาลในการกำกับดูแลการพัฒนา AI ขั้นสูง
• ความตึงเครียดระหว่างนวัตกรรมและความปลอดภัยในการแข่งขันกับระบบ AI ที่ทรงพลังยิ่งขึ้น

แบบอย่างในความปลอดภัยของ AI

เหตุการณ์นี้ไม่เคยเกิดขึ้นมาก่อนในด้านความปลอดภัยของ AI ที่มีการพัฒนาอย่างรวดเร็ว กรณีที่น่าสังเกตก่อนหน้านี้ได้แก่:

รุ่น	วันที่วางจำหน่าย	คุณสมบัติหลัก	กรณีการใช้งานที่ตั้งใจไว้
มิธอส 5	ไตรมาสที่ 3 ปี 2023	การให้เหตุผลขั้นสูง ความเข้าใจบริบทที่เพิ่มขึ้น	การวิจัย การใช้งานระดับมืออาชีพเฉพาะด้าน
นิทาน 5	ไตรมาสที่ 4 ปี 2023	การสร้างความคิดสร้างสรรค์ การปฏิบัติตามคำแนะนำที่เหมาะสมยิ่ง	การสร้างเนื้อหา แอปพลิเคชันด้านการศึกษา

การพัฒนาหลักความปลอดภัยโดยการออกแบบ

การนำแนวทางที่คล้ายกันมาใช้ทั่วทั้งอุตสาหกรรม

อนาคตของการพัฒนา AI ขั้นสูง

ผู้เชี่ยวชาญแนะนำว่าเหตุการณ์มานุษยวิทยาอาจเร่งให้เกิดแนวโน้มหลายประการในอุตสาหกรรม AI:

• ข้อกำหนดการทดสอบก่อนการปรับใช้ที่เข้มงวดมากขึ้น
• เพิ่มความร่วมมือระหว่างบริษัท AI และหน่วยงานความมั่นคงของรัฐบาล
• การพัฒนากลไกความปลอดภัยที่ซับซ้อนมากขึ้น ซึ่งสามารถปรับให้เข้ากับภัยคุกคามที่กำลังพัฒนา
• ความโปร่งใสที่มากขึ้นเกี่ยวกับความสามารถและข้อจำกัดของ AI

"นี่เป็นช่วงเวลาที่จำเป็นแต่ท้าทายสำหรับอุตสาหกรรม" ดร. เอเลนา โรดริเกซ นักวิจัยด้านจริยธรรมด้าน AI จากมหาวิทยาลัยสแตนฟอร์ดกล่าว "เส้นทางข้างหน้าต้องมีการสร้างสมดุลระหว่างนวัตกรรมกับความรับผิดชอบ และตระหนักว่าเมื่อระบบเหล่านี้มีประสิทธิภาพมากขึ้น ผลกระทบที่อาจเกิดขึ้นทั้งเชิงบวกและเชิงลบก็จะเพิ่มขึ้นตามไปด้วย"

บทสรุป: จุดเปลี่ยนสำหรับความปลอดภัยของ AI

การปิดระบบ Mythos 5 และ Fable 5 ถือเป็นช่วงเวลาสำคัญในการพัฒนาระบบ AI ขั้นสูง ในขณะที่ Anthropic ทำงานเพื่อจัดการกับข้อกังวลด้านความปลอดภัยในขณะที่ปฏิบัติตามคำสั่งของรัฐบาล ชุมชน AI ในวงกว้างก็เหลือที่จะพิจารณาวิธีนำทางจุดบรรจบที่ซับซ้อนของความก้าวหน้าทางเทคโนโลยี ความปลอดภัย และความมั่นคงของชาติ

สิ่งที่ยังคงชัดเจนคือในขณะที่ระบบ AI ยังคงพัฒนาต่อไป กลไกเพื่อให้แน่ใจว่าการใช้งานที่ปลอดภัยและมีความรับผิดชอบก็จะต้องพัฒนาเช่นกัน เหตุการณ์ Anthropic อาจทำหน้าที่เป็นตัวเร่งให้เกิดแนวทางใหม่ๆ ด้านความปลอดภัยของ AI ที่อาจกำหนดทิศทางอุตสาหกรรมในปีต่อๆ ไป

หลังจาก "การแหกคุกที่อาจเกิดขึ้น" Anthropic กำลังปิดการเข้าถึงโมเดล Mythos 5 และ Fable 5 ภายใต้คำสั่งด้านความมั่นคงแห่งชาติจากรัฐบาลสหรัฐฯ https://www.techradar.com/ai-platforms-assistants/claude/after-a-potential-jailbreak-anthropic-is-shutting-off-access-to-its-mythos-5-and-fable-5-models-under-national-security-orders-from-the-us-government หลังจากการ 'เจลเบรคที่อาจเกิดขึ้น' Anthropic กำลังปิดการเข้าถึงโมเดล Mythos 5 และ Fable 5 ภายใต้คำสั่งความมั่นคงแห่งชาติจากรัฐบาลสหรัฐฯ https://www.techradar.com/ai-platforms-assistants/claude/after-a-potential-jailbreak-anthropic-is-shutting-off-access-to-its-mythos-5-and-fable-5-models-under-national-security-orders-from-the-us-government

เหตุการณ์	ปี	ผลลัพธ์	ผลกระทบต่ออุตสาหกรรม
การสร้างทีมสีแดง OpenAI GPT-4	2023	การปล่อยล่าช้า เพิ่มมาตรการความปลอดภัย	เน้นที่การทดสอบก่อนการปรับใช้งานมากขึ้น
ข้อโต้แย้งของ Microsoft Bing Chat	2023	ข้อจำกัดของเนื้อหา คำตอบที่แก้ไข	การรับรู้ข้อมูลที่ผิดจาก AI เพิ่มมากขึ้น
แนวทาง AI ตามรัฐธรรมนูญของมานุษยวิทยา	กำลังดำเนินอยู่