Anthropic CEO สนับสนุนอำนาจของรัฐบาลในการบล็อกโมเดล AI ที่มีความเสี่ยง

จุดยืนที่ไม่คาดคิดของผู้นำอุตสาหกรรมเกี่ยวกับการกำกับดูแล AI จุดประกายการอภิปราย

ในการพัฒนาที่น่าประหลาดใจซึ่งส่งระลอกคลื่นผ่านชุมชนปัญญาประดิษฐ์ Dario Amodei ซีอีโอของ Anthropic ได้สนับสนุนอย่างเปิดเผยในการให้อำนาจแก่หน่วยงานของรัฐในการบล็อกหรือขัดขวางการปรับใช้โมเดล AI ที่ถือว่ามีความเสี่ยงที่ยอมรับไม่ได้ ตำแหน่งนี้ซึ่งระบุไว้ในโพสต์นโยบายล่าสุดในบล็อกส่วนตัวของเขา แสดงถึงจุดยืนที่สำคัญของหนึ่งในบุคคลสำคัญในอุตสาหกรรมเกี่ยวกับการกำกับดูแลระบบ AI ขั้นสูง

ความเป็นมาเกี่ยวกับมานุษยวิทยาและ Dario Amodei

Anthropic กลายเป็นผู้เล่นชั้นนำในด้านการวิจัย AI ซึ่งเป็นที่รู้จักในด้านการพัฒนาแบบจำลองภาษาขั้นสูงและมุ่งเน้นไปที่ความปลอดภัยของ AI ก่อตั้งโดยอดีตนักวิจัยจาก OpenAI รวมถึง Dario Amodei บริษัทวางตำแหน่งตัวเองที่จุดตัดของการพัฒนา AI ที่ล้ำสมัยและการพิจารณาด้านความปลอดภัย Amodei ซึ่งก่อนหน้านี้ดำรงตำแหน่งรองประธานฝ่ายวิจัยของ OpenAI ได้กล่าวถึงความจำเป็นในการพัฒนา AI อย่างมีความรับผิดชอบ แต่โดยทั่วไปแล้วมีความเกี่ยวข้องกับมาตรการความปลอดภัยที่นำโดยอุตสาหกรรมมากกว่าที่รัฐบาลกำหนด

บริษัทได้รับเงินทุนจำนวนมาก ซึ่งรวมถึงการลงทุนจากบริษัทเทคโนโลยีรายใหญ่ และได้พัฒนาระบบ AI ของตัวเอง โดยเฉพาะอย่างยิ่ง Claude ซึ่งได้รับการวางตำแหน่งเป็นทางเลือกที่ปลอดภัยกว่าบางรุ่นที่ทรงพลังกว่าในตลาด

ข้อเสนอนโยบาย: การแทรกแซงของรัฐบาลในการปรับใช้ AI

ในบล็อกโพสต์ล่าสุดของเขาที่ชื่อ "นโยบายเกี่ยวกับ AI เอ็กซ์โปเนนเชียล" Amodei ได้สรุปกรอบการทำงานสำหรับการกำกับดูแล AI ซึ่งรวมถึงบทบัญญัติที่เป็นข้อขัดแย้ง นั่นคือ การให้อำนาจแก่หน่วยงานของรัฐในการแทรกแซงการนำโมเดล AI ไปใช้ จากข้อมูลของ Amodei ควรใช้อำนาจนี้เฉพาะเมื่อการประเมินโดยบุคคลที่สามตัดสินว่าแบบจำลองนั้นมีความเสี่ยงที่ยอมรับไม่ได้

"รัฐบาลควรมีอำนาจในการปิดกั้นหรือขัดขวางการใช้งานแบบจำลอง หากได้รับการพิจารณาโดยการประเมินโดยบุคคลที่สาม เพื่อแสดงความเสี่ยงที่ยอมรับไม่ได้" Amodei ระบุไว้ในเอกสารนโยบายของเขา ตำแหน่งนี้ถือเป็นการออกจากจุดยืนของอุตสาหกรรมโดยทั่วไปที่สนับสนุนการกำกับดูแลตนเองและมาตรการความปลอดภัยโดยสมัครใจ

หมวดหมู่ความเสี่ยงเฉพาะสี่ประเภท

ข้อเสนอของ Amodei เน้นย้ำว่าอำนาจของรัฐบาลนี้ควรได้รับการกำหนดขอบเขตอย่างระมัดระวังเพื่อจัดการกับประเภทความเสี่ยงเฉพาะสี่ประเภท แม้ว่าโพสต์ต้นฉบับจะไม่ได้แสดงรายการหมวดหมู่เหล่านี้ไว้อย่างชัดเจน แต่ก็มีแนวโน้มที่จะรวมข้อกังวลที่ระบุโดยทั่วไปในการสนทนาด้านความปลอดภัยของ AI รวมถึง:

• ความเสี่ยงร้ายแรงจากระบบ AI ที่มีความสามารถสูง
• ความเสี่ยงทางชีวภาพจากการออกแบบสารอันตรายที่ได้รับความช่วยเหลือจาก AI
• ระบบอาวุธอัตโนมัติที่ควบคุมโดย AI
• ความเสี่ยงเชิงระบบต่อโครงสร้างพื้นฐานที่สำคัญหรือเสถียรภาพทางเศรษฐกิจ

มาตรการป้องกันการเล่นพรรคเล่นพวกทางการเมือง

องค์ประกอบสำคัญของข้อเสนอของ Amodei คือการรวมมาตรการป้องกันจากการใช้อำนาจของรัฐบาลในทางที่ผิดที่อาจเกิดขึ้น เขาเรียกร้องให้มี "มาตรการป้องกันการเล่นพรรคเล่นพวกทางการเมืองหรือการตัดสินใจโดยพลการ" โดยเฉพาะ โดยตระหนักถึงความจำเป็นในการใช้เกณฑ์ที่เป็นกลางในการพิจารณาว่าโมเดลใดควรถูกจำกัด

มาตรการป้องกันเหล่านี้น่าจะรวมถึง:

• วิธีการประเมินที่โปร่งใส
• หน่วยงานตรวจสอบอิสระ
• กระบวนการอุทธรณ์สำหรับนักพัฒนาซอฟต์แวร์
• การหยุดทำงานเป็นประจำหรือการทบทวนหน่วยงานของรัฐ

บริบทและปฏิกิริยาของอุตสาหกรรม

จุดยืนของ Amodei เกี่ยวกับการแทรกแซงของรัฐบาลนั้นตรงกันข้ามกับทัศนคติที่เกิดขึ้นในอุตสาหกรรม AI ส่วนใหญ่ ซึ่งโดยทั่วไปสนับสนุนการกำกับดูแลตนเองและความมุ่งมั่นด้านความปลอดภัยโดยสมัครใจ ในอดีตอุตสาหกรรมเทคโนโลยีต่อต้านการกำกับดูแลของรัฐบาล โดยเฉพาะอย่างยิ่งในสาขาที่มีการพัฒนาอย่างรวดเร็ว เช่น การพัฒนา AI

ตำแหน่งนี้มีความโดดเด่นมากยิ่งขึ้น เมื่อพิจารณาจากตำแหน่งของ Anthropic ในฐานะองค์กรวิจัย AI ชั้นนำ บริษัทมีส่วนร่วมในโครงการริเริ่มต่างๆ ในอุตสาหกรรม เช่น Frontier Model Forum ซึ่งมุ่งเน้นไปที่การพัฒนามาตรฐานความปลอดภัยผ่านความพยายามในอุตสาหกรรมที่ร่วมมือกันมากกว่าที่จะอยู่ภายใต้ข้อบังคับ

การเปรียบเทียบแนวทางการกำกับดูแล AI

แนวทาง คุณสมบัติหลัก การสนับสนุนอุตสาหกรรม ความเร็วของการดำเนินการ การควบคุมตนเอง ข้อผูกพันโดยสมัครใจ มาตรฐานอุตสาหกรรม สูง รวดเร็ว การกำกับดูแลของรัฐบาล ข้อกำหนดบังคับ กลไกการบังคับใช้ ปานกลางถึงต่ำ ช้า รุ่นไฮบริด การรวมกันของมาตรการสมัครใจและมาตรการบังคับ การเติบโต ปานกลาง

ผลกระทบต่อการกำกับดูแลของ AI

ข้อเสนอของ Amodei เกิดขึ้นในช่วงหัวเลี้ยวหัวต่อที่สำคัญในการอภิปรายเรื่องการกำกับดูแล AI เมื่อระบบ AI มีประสิทธิภาพมากขึ้น คำถามเกี่ยวกับกลไกการกำกับดูแลที่เหมาะสมได้เปลี่ยนจากการอภิปรายเชิงทฤษฎีไปสู่การพิจารณานโยบายเร่งด่วน พระราชบัญญัติ AI ของสหภาพยุโรป ข้อเสนอต่างๆ ในสหรัฐอเมริกา และการอภิปรายระหว่างประเทศในฟอรัม เช่น การประชุมสุดยอด AI ของสหราชอาณาจักร ล้วนสะท้อนให้เห็นถึงแรงผลักดันที่เพิ่มขึ้นต่อกรอบการกำกับดูแลบางรูปแบบ

การรวมเสียงที่โดดเด่นของอุตสาหกรรมที่สนับสนุนการแทรกแซงของรัฐบาลอาจเปลี่ยนหน้าต่าง Overton ในเรื่องธรรมาภิบาลของ AI และทำให้แนวทางการกำกับดูแลที่เข้มงวดยิ่งขึ้นสามารถดำเนินไปได้ในทางการเมือง นอกจากนี้ยังอาจส่งสัญญาณการรับรู้ในอุตสาหกรรมว่ามาตรการสมัครใจเพียงอย่างเดียวอาจไม่เพียงพอที่จะจัดการกับความเสี่ยงที่สำคัญที่สุดที่เกิดจากระบบ AI ที่ก้าวหน้ามากขึ้น

คำวิจารณ์และข้อพิจารณา

แม้ว่า Amodei จะสนับสนุนการแทรกแซงของรัฐบาล แต่คำถามและข้อกังวลที่สำคัญยังคงมีอยู่เกี่ยวกับการดำเนินการตามกรอบดังกล่าวในทางปฏิบัติ:

• ช่องว่างของความเชี่ยวชาญ: หน่วยงานภาครัฐอาจขาดความเชี่ยวชาญทางเทคนิคในการประเมินระบบ AI ขั้นสูงได้อย่างแม่นยำ
• การยับยั้งนวัตกรรม: ข้อกำหนดการใช้งานที่เข้มงวดอาจขัดขวางนวัตกรรมและทำให้การพัฒนา AI ที่เป็นประโยชน์ช้าลง
• การประสานงานระหว่างประเทศ: การกำกับดูแลที่มีประสิทธิภาพจะต้องได้รับความร่วมมือระหว่างประเทศเพื่อป้องกันการเก็งกำไรตามกฎระเบียบ
• การกำหนด "ความเสี่ยงที่ยอมรับไม่ได้": การสร้างเกณฑ์ที่ชัดเจนและเป็นกลางในการพิจารณาว่าแบบจำลองใดที่ก่อให้เกิดความเสี่ยงที่ยอมรับไม่ได้ยังคงเป็นเรื่องท้าทาย

บทสรุป

การสนับสนุนของ Dario Amodei ในด้านอำนาจของรัฐบาลในการบล็อกการนำโมเดล AI ไปใช้ แสดงให้เห็นถึงการพัฒนาที่สำคัญในการสนทนาที่กำลังดำเนินอยู่เกี่ยวกับการกำกับดูแล AI ด้วยการวางตำแหน่งตัวเองในการสนับสนุนกลไกการกำกับดูแลที่ออกแบบมาอย่างระมัดระวัง Amodei รับทราบถึงข้อจำกัดที่อาจเกิดขึ้นของแนวทางที่นำโดยอุตสาหกรรมเพียงอย่างเดียว ขณะเดียวกันก็พยายามจัดการกับข้อกังวลด้านความปลอดภัยที่ชอบด้วยกฎหมาย

เนื่องจากระบบ AI ยังคงก้าวหน้าอย่างรวดเร็ว การถกเถียงเรื่องกลไกการกำกับดูแลที่เหมาะสมจึงมีแนวโน้มที่จะเข้มข้นขึ้น ข้อเสนอของ Amodei ซึ่งเน้นไปที่ประเภทความเสี่ยงที่เฉพาะเจาะจงและมาตรการป้องกันการเล่นพรรคเล่นพวกทางการเมือง อาจเสนอเส้นทางสายกลางระหว่างการพัฒนาที่เป็นอิสระและกฎระเบียบที่มากเกินไป ในอีกไม่กี่เดือนและหลายปีข้างหน้า มีแนวโน้มที่จะเห็นการพัฒนาอย่างต่อเนื่องของแนวความคิดเหล่านี้ ในขณะที่ผู้กำหนดนโยบาย ผู้นำในอุตสาหกรรม และผู้มีส่วนได้เสียภาคประชาสังคมทำงานเพื่อพัฒนากรอบการทำงานที่สร้างสมดุลระหว่างนวัตกรรมกับความปลอดภัยในยุคของปัญญาประดิษฐ์ที่ทรงพลังมากขึ้น

จุดยืนของ Anthropic ในประเด็นนี้จะน่าจับตามองเป็นพิเศษ เนื่องจากการกระทำของบริษัท นอกเหนือจากข้อเสนอนโยบายส่วนบุคคลของ Amodei จะบ่งชี้ว่าการสนับสนุนนี้แสดงให้เห็นถึงการเปลี่ยนแปลงอย่างแท้จริงในกลยุทธ์องค์กรหรือเป็นเพียงมุมมองเดียวในการอภิปรายในอุตสาหกรรมที่กว้างขึ้น

ปรากฏว่า CEO ของ Anthropic - Dario เองต้องการให้รัฐบาลมีอำนาจในการบล็อกหรือขัดขวางการปรับใช้โมเดล 🤦 รัฐบาลควรมีอำนาจในการปิดกั้นหรือขัดขวางการนำแบบจำลองไปใช้ หากได้รับการพิจารณาจากการประเมินโดยบุคคลที่สาม เพื่อแสดงความเสี่ยงที่ยอมรับไม่ได้ อำนาจนี้จะต้องครอบคลุมความเสี่ยงเฉพาะสี่ประการข้างต้น และต้องมีมาตรการป้องกันการเล่นพรรคเล่นพวกทางการเมืองหรือการตัดสินใจโดยพลการ ซอส: https://darioamodei.com/post/policy-on-the-ai-exponential ติดตาม @TechLeaksZone ปรากฎว่า Anthropic CEO - Dario เองต้องการให้รัฐบาลมีอำนาจในการบล็อกหรือขัดขวางการใช้งานโมเดล 🤦 รัฐบาลควรมีอำนาจในการปิดกั้นหรือขัดขวางการนำแบบจำลองไปใช้ หากได้รับการพิจารณาจากการประเมินโดยบุคคลที่สาม เพื่อแสดงความเสี่ยงที่ยอมรับไม่ได้ อำนาจนี้จะต้องครอบคลุมความเสี่ยงเฉพาะสี่ประการข้างต้น และต้องมีมาตรการป้องกันการเล่นพรรคเล่นพวกทางการเมืองหรือการตัดสินใจโดยพลการ ซอส: https://darioamodei.com/post/policy-on-the-ai-exponential ติดตาม @TechLeaksZone