มานุษยวิทยาถอน Claude Mythos 5 และ Claude Fable 5 ตามคำสั่งของรัฐบาลสหรัฐฯ

บริษัทวิจัย AI ในซานฟรานซิสโก Anthropic ได้ประกาศถอนโมเดล AI เฉพาะทางสองรุ่น ได้แก่ Claude Mythos 5 และ Claude Fable 5 ตามคำสั่งจากรัฐบาลสหรัฐอเมริกา ความเคลื่อนไหวดังกล่าวเกิดขึ้นท่ามกลางการตรวจสอบกฎระเบียบที่เพิ่มขึ้นของระบบปัญญาประดิษฐ์ขั้นสูง และผลกระทบต่อความมั่นคงของชาติที่อาจเกิดขึ้น

ความเป็นมาของโมเดลที่ถูกถอนออก

Claude Mythos 5 และ Claude Fable 5 เป็นเวอร์ชันพิเศษของโมเดล Claude AI เรือธงของ Anthropic ซึ่งได้รับการออกแบบพร้อมความสามารถที่เพิ่มขึ้นในการสร้างการเล่าเรื่องและการเล่าเรื่องอย่างสร้างสรรค์ แบบจำลองเหล่านี้เป็นตัวแทนของระบบภาษาที่ทันสมัยที่สุดบางระบบที่พัฒนาโดย Anthropic โดยเน้นไปที่การทำความเข้าใจบริบทแบบยาวและการสร้างการเล่าเรื่องที่สอดคล้องกันเป็นพิเศษ

คำสั่งของรัฐบาล

ตามแถลงการณ์อย่างเป็นทางการจาก Anthropic การถอนตัวได้รับแจ้งจากคำสั่งของรัฐบาลสหรัฐฯ เกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นที่เกี่ยวข้องกับระบบ AI ขั้นสูงที่สามารถสร้างเรื่องราวที่ซับซ้อนได้ แม้ว่ารายละเอียดเฉพาะของคำสั่งดังกล่าวยังคงถูกจัดประเภทไว้บางส่วน แต่แหล่งข่าวในอุตสาหกรรมก็เสนอข้อกังวลเกี่ยวกับการใช้ข้อมูลในทางที่ผิดที่อาจเกิดขึ้นในแคมเปญข้อมูลที่บิดเบือนหรือการสร้างเนื้อหาที่หลอกลวง

"เรากำลังปฏิบัติตามคำสั่งจากรัฐบาลสหรัฐฯ เกี่ยวกับความสามารถด้าน AI ขั้นสูงบางประการ" โฆษก Anthropic กล่าวในแถลงการณ์อย่างเป็นทางการ "การพัฒนาความปลอดภัยและความรับผิดชอบของระบบ AI ยังคงมีความสำคัญสูงสุดของเรา และเราขอขอบคุณการมีส่วนร่วมของรัฐบาลในประเด็นสำคัญเหล่านี้"

บริบทด้านกฎระเบียบ

คำสั่งดังกล่าวเกิดขึ้นท่ามกลางภูมิทัศน์ด้านกฎระเบียบที่กว้างขึ้นสำหรับ AI ในสหรัฐอเมริกา ฝ่ายบริหารของ Biden ให้ความสำคัญกับการสร้างกรอบการกำกับดูแลด้าน AI มากขึ้น โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับผลกระทบด้านความมั่นคงของชาติ การดำเนินการนี้ดูเหมือนจะเป็นส่วนหนึ่งของแนวทางการทำงานร่วมกันเพื่อจัดการกับความเสี่ยงที่อาจเกิดขึ้นจากระบบ AI ขั้นสูงก่อนที่จะนำไปใช้ในวงกว้างมากขึ้น

"นี่ไม่ใช่ครั้งแรกที่เราได้เห็นการแทรกแซงของรัฐบาลในการพัฒนา AI ขั้นสูง" ดร. Sarah Chen นักวิจัยด้านจริยธรรมด้าน AI จากมหาวิทยาลัยสแตนฟอร์ดให้ความเห็น "เมื่อระบบเหล่านี้มีความสามารถมากขึ้น ความกังวลเกี่ยวกับการใช้งานในทางที่ผิดก็เพิ่มมากขึ้น รัฐบาลกำลังพยายามสร้างขอบเขตพร้อมกับส่งเสริมนวัตกรรม"

ผลกระทบต่อมานุษยวิทยาและอุตสาหกรรม AI

การถอนโมเดลพิเศษเหล่านี้แสดงถึงการเปลี่ยนแปลงเชิงกลยุทธ์ที่สำคัญสำหรับมานุษยวิทยา บริษัทซึ่งก่อตั้งโดยอดีตนักวิจัย OpenAI รวมถึง Dario Amodei และ Daniela Amodei ได้วางตำแหน่งตัวเองเป็นผู้นำด้านความปลอดภัยของ AI และการพัฒนาที่มีความรับผิดชอบ

ชื่อรุ่น	ฟังก์ชันหลัก	สถานะการพัฒนา
คล็อด มิธอส 5	การสร้างการเล่าเรื่องขั้นสูงและการสร้างโลก	ถอนตัวจากการเข้าถึงแบบสาธารณะ
นิทานของคลอดด์ 5	การเล่าเรื่องอย่างสร้างสรรค์และการพัฒนาตัวละคร	ถอนตัวจากการเข้าถึงแบบสาธารณะ

การตอบสนองของตลาด

การประกาศดังกล่าวได้ส่งแรงกระเพื่อมผ่านอุตสาหกรรม AI และตลาดการเงิน การประเมินมูลค่าของ Anthropic ซึ่งมีมูลค่าถึงประมาณ 5 พันล้านดอลลาร์ในการระดมทุนรอบล่าสุด อาจต้องเผชิญกับการประเมินใหม่ภายหลังการพัฒนานี้ คู่แข่งในด้าน AI รวมถึง OpenAI, Google และ Microsoft กำลังติดตามสถานการณ์อย่างใกล้ชิดในขณะที่พวกเขาดำเนินการตามความสัมพันธ์ด้านกฎระเบียบของตนเอง

"สิ่งนี้อาจสร้างความได้เปรียบทางการแข่งขันชั่วคราวสำหรับบริษัทที่มีความสามารถด้าน AI ในการเล่าเรื่องขั้นสูงน้อยกว่า" Michael Reynolds นักวิเคราะห์เทคโนโลยีกล่าว "อย่างไรก็ตาม ยังอาจเร่งการพัฒนามาตรฐานความปลอดภัยทั่วทั้งอุตสาหกรรมอีกด้วย ซึ่งท้ายที่สุดแล้วจะเป็นประโยชน์ต่อนักพัฒนาที่มีความรับผิดชอบอย่าง Anthropic ในระยะยาว"

ผลกระทบที่กว้างขึ้นสำหรับการกำกับดูแล AI

การถอนตัวของ Claude Mythos 5 และ Claude Fable 5 เน้นย้ำถึงความสัมพันธ์ที่เปลี่ยนแปลงไประหว่างนักพัฒนา AI และหน่วยงานกำกับดูแลของรัฐบาล เนื่องจากระบบ AI มีความซับซ้อนมากขึ้น แนวทางดั้งเดิมในการควบคุมเทคโนโลยีอาจไม่เพียงพอสำหรับการจัดการกับความท้าทายเฉพาะที่เกิดจากโมเดลภาษาขั้นสูง

"เรากำลังเข้าสู่ยุคใหม่ของการกำกับดูแล AI ซึ่งการแทรกแซงของรัฐบาลอาจกลายเป็นเรื่องปกติมากขึ้น" ศาสตราจารย์เจมส์ วิลสัน ผู้เชี่ยวชาญด้านนโยบายเทคโนโลยีของ MIT อธิบาย "ความท้าทายคือการสร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัย เพื่อให้มั่นใจว่ากรอบการกำกับดูแลจะก้าวทันความก้าวหน้าทางเทคโนโลยีโดยไม่ขัดขวางการพัฒนาที่เป็นประโยชน์"

มุมมองระหว่างประเทศ

คำสั่งของรัฐบาลสหรัฐฯ มีผลกระทบในระดับนานาชาติด้วย ประเทศอื่นๆ รวมถึงจีน ประเทศสมาชิกสหภาพยุโรป และสหราชอาณาจักร กำลังพัฒนากรอบการกำกับดูแลด้าน AI ของตนเอง แนวทางของสหรัฐอเมริกาอาจมีอิทธิพลต่อความพยายามเหล่านี้ ซึ่งอาจสร้างแนวทางสากลที่กลมกลืนกันมากขึ้นในการกำกับดูแลด้าน AI

"ภูมิภาคต่างๆ กำลังใช้แนวทางที่แตกต่างกันในการควบคุมดูแล AI" ดร. เอเลนา โรดริเกซ ที่ปรึกษาด้านนโยบายเทคโนโลยีระดับนานาชาติกล่าว "การที่สหรัฐฯ ให้ความสำคัญกับข้อกังวลด้านความมั่นคงของชาตินั้นตรงกันข้ามกับการที่สหภาพยุโรปให้ความสำคัญกับสิทธิขั้นพื้นฐาน แนวทางเหล่านี้จะโต้ตอบกันอย่างไรนั้นต้องรอดูกันต่อไป แต่แนวทางเหล่านี้จะร่วมกันกำหนดอนาคตของการพัฒนา AI ทั่วโลก"

แนวโน้มในอนาคตสำหรับการพัฒนามานุษยวิทยาและ AI

หลังจากการถอนโมเดลพิเศษออกไป Anthropic คาดว่าจะเปลี่ยนเส้นทางทรัพยากรไปสู่การพัฒนาระบบ AI ที่สอดคล้องกับข้อกำหนดด้านกฎระเบียบมากขึ้น ขณะเดียวกันก็รักษาความสามารถในการแข่งขันไว้ได้ ก่อนหน้านี้บริษัทได้เน้นย้ำถึงความมุ่งมั่นต่อ Constitutional AI ซึ่งเป็นแนวทางที่มุ่งเน้นการสร้างระบบที่เป็นประโยชน์ ซื่อสัตย์ และไม่เป็นอันตราย

"คำสั่งนี้แสดงถึงความท้าทาย แต่ยังรวมถึงโอกาสด้วย" วิศวกรด้านมานุษยวิทยาที่ไม่ระบุชื่อซึ่งคุ้นเคยกับสถานการณ์ให้ความเห็น "สิ่งนี้ผลักดันให้เราพัฒนากลไกความปลอดภัยที่แข็งแกร่งยิ่งขึ้น ขณะเดียวกันก็พัฒนาความล้ำสมัยในแอปพลิเคชัน AI ที่เป็นประโยชน์ต่อไป"

เส้นทางข้างหน้า

ในขณะที่อุตสาหกรรม AI ยังคงพัฒนาต่อไป คำถามสำคัญหลายข้อยังคงไม่ได้รับคำตอบ:

• กรอบการกำกับดูแลจะปรับตัวให้เข้ากับความก้าวหน้าอย่างรวดเร็วของ AI ได้อย่างไร
• ความสมดุลระหว่างนวัตกรรมและข้อจำกัดด้านความปลอดภัยจะเป็นอย่างไร
• การประสานงานระหว่างประเทศเกี่ยวกับการกำกับดูแล AI จะพัฒนาไปอย่างไร
• แนวทางทางเทคนิคใหม่ๆ ใดบ้างที่จะเกิดขึ้นเพื่อจัดการกับข้อกังวลด้านความปลอดภัยของ AI

"การถอนโมเดลเหล่านี้ไม่ใช่จุดสิ้นสุดของการพัฒนา AI ขั้นสูง แต่เป็นการปรับเทียบใหม่" ดร. เฉินสรุป "เมื่อเราเรียนรู้เพิ่มเติมเกี่ยวกับความสามารถและข้อจำกัดของระบบเหล่านี้ เราจะพัฒนาแนวทางการกำกับดูแลที่เหมาะสมยิ่งขึ้น ซึ่งสามารถส่งเสริมนวัตกรรมไปพร้อมๆ กับการลดความเสี่ยง"

สำหรับ Anthropic สิ่งที่มุ่งเน้นในทันทีคือการปฏิบัติตามคำสั่งของรัฐบาล ขณะเดียวกันก็รักษาตำแหน่งผู้นำในการพัฒนา AI ที่มีความรับผิดชอบ บริษัทคาดว่าจะให้รายละเอียดเพิ่มเติมเกี่ยวกับทิศทางการวิจัยในอนาคตในอีกไม่กี่สัปดาห์ข้างหน้า ในขณะที่บริษัทกำลังสำรวจภูมิทัศน์ด้านกฎระเบียบใหม่นี้

Anthropic ดึง Claude Mythos 5 และ Claude Fable 5 ออกตามคำสั่งของรัฐบาลสหรัฐฯ https://ift.tt/KrwaZ6V Anthropic ดึง Claude Mythos 5 และ Claude Fable 5 ออกตามคำสั่งของรัฐบาลสหรัฐฯ https://ift.tt/KrwaZ6V

มุมมอง	ผลกระทบที่อาจเกิดขึ้น
การวิจัยและพัฒนา	มุ่งเน้นไปที่ความสามารถที่สอดคล้องกับความปลอดภัย
ตำแหน่งการแข่งขัน	ความเสียเปรียบในการแข่งขันชั่วคราวกับรุ่นที่จำกัดน้อยกว่า
มาตรฐานอุตสาหกรรม	อาจเร่งให้มีการนำโปรโตคอลความปลอดภัยไปใช้ในวงกว้างมากขึ้น
การรับรู้ของตลาด	สามารถปรับปรุงชื่อเสียงในฐานะนักพัฒนา AI ที่มีความรับผิดชอบ