PwC เผชิญฟันเฟืองเรื่องการใช้ภาพหลอนของ AI และการอ้างอิงที่ประดิษฐ์ขึ้นในรายงาน

PwC เผชิญกับข้อโต้แย้งเกี่ยวกับภาพหลอนของ AI และการอ้างอิงที่ประดิษฐ์ขึ้น

ในการเปิดเผยที่น่าตกใจ PricewaterhouseCoopers (PwC) อยู่ภายใต้การตรวจสอบอย่างละเอียดหลังจากข้อกล่าวหาว่ารายงานหลายฉบับของบริษัทได้รวมเอาความไม่ถูกต้องที่เกิดจากปัญญาประดิษฐ์และการอ้างอิงที่เป็นเท็จ เหตุการณ์นี้ทำให้เกิดข้อกังวลอย่างมากเกี่ยวกับความน่าเชื่อถือของเทคโนโลยี AI และผลกระทบต่อบริการระดับมืออาชีพ

ผลกระทบของอาการประสาทหลอนจาก AI

ภาพหลอน AI หมายถึงกรณีที่ระบบปัญญาประดิษฐ์สร้างข้อมูลที่ไม่ถูกต้องหรือไร้สาระซึ่งอาจดูเป็นไปได้บนพื้นผิว เมื่อความไม่ถูกต้องดังกล่าวแทรกซึมเข้าไปในรายงานของมืออาชีพ การแบ่งสาขาอาจรุนแรง โดยเฉพาะอย่างยิ่งสำหรับองค์กรที่ได้รับการยกย่องเช่น PwC

• ความน่าเชื่อถือที่เป็นเดิมพัน: ความสมบูรณ์ของการวิเคราะห์และคำแนะนำของ PwC อาจถูกตั้งคำถาม ในขณะที่ลูกค้าและผู้มีส่วนได้ส่วนเสียประเมินความไว้วางใจในข้อมูลที่ให้มาอีกครั้ง
• การพึ่งพา AI: เหตุการณ์นี้เน้นย้ำถึงความเสี่ยงที่เกี่ยวข้องกับการพึ่งพาเทคโนโลยี AI มากเกินไปในการผลิตเนื้อหาโดยไม่มีการตรวจสอบที่เข้มงวด

ผลการวิจัย

รายงานการตรวจสอบภายในเปิดเผยว่ารายงานหลายฉบับที่จัดทำโดย PwC มีจุดประสงค์เพื่อเป็นแนวทางในการตัดสินใจสำหรับลูกค้าในภาคส่วนต่างๆ รวมถึงสถิติที่สร้างขึ้น ราคาเสนอที่ไม่ถูกต้อง และเนื้อหาที่ทำให้เข้าใจผิดอื่น ๆ ที่สร้างโดยเครื่องมือ AI การค้นพบที่สำคัญต่อไปนี้เกิดขึ้น:

ประเภทของข้อผิดพลาด คำอธิบาย จำนวนรายงาน การอ้างอิงที่ประดิษฐ์ขึ้น การอ้างอิงที่ไม่ถูกต้องเกี่ยวกับการศึกษาหรือสิ่งพิมพ์ที่ไม่มีอยู่ 8 คำพูดที่มีการระบุแหล่งที่มาไม่ถูกต้อง ใบเสนอราคาถูกกำหนดอย่างไม่ถูกต้องให้กับบุคคลหรือสิ่งพิมพ์ที่มีชื่อเสียง 5 สถิติเท็จ ข้อมูลตัวเลขที่ไม่ได้มาจากการศึกษาจริงหรือการวิจัย 10

ปฏิกิริยาของอุตสาหกรรม

การเปิดเผยดังกล่าวได้ก่อให้เกิดกระแสความไม่พอใจและความกังวลในหมู่ผู้เชี่ยวชาญในอุตสาหกรรมและลูกค้า ประเด็นเด่นบางประการจากผู้มีส่วนได้ส่วนเสีย ได้แก่:

• ความต้องการความรับผิดชอบ: นักวิเคราะห์เน้นย้ำถึงความจำเป็นในความรับผิดชอบและความโปร่งใสที่มากขึ้นในการใช้ AI โดยเฉพาะอย่างยิ่งในขอบเขตที่สำคัญ เช่น การเงินและการให้คำปรึกษา
• เรียกร้องให้มีการปรับปรุงการกำกับดูแล: ผู้เชี่ยวชาญกำลังสนับสนุนกรอบการกำกับดูแลที่เข้มงวดมากขึ้นเพื่อตรวจสอบการนำ AI ไปใช้ในสภาพแวดล้อมแบบมืออาชีพ เพื่อให้มั่นใจว่าผลลัพธ์จะได้รับการตรวจสอบก่อนเผยแพร่

เส้นทางข้างหน้า

หลังจากเหตุการณ์นี้ PwC กำลังประเมินนโยบายการใช้งาน AI อีกครั้ง โดยมีเป้าหมายที่จะบูรณาการการตรวจสอบและถ่วงดุลที่เข้มงวดมากขึ้น คาดว่าจะมีการดำเนินการต่อไปนี้:

• การแก้ไขนโยบายการใช้งาน AI: PwC วางแผนที่จะกำหนดแนวทางที่ชัดเจนยิ่งขึ้นสำหรับการบูรณาการ AI เข้ากับกระบวนการสร้างรายงาน
• เพิ่มการกำกับดูแลโดยมนุษย์: บริษัทมุ่งเน้นไปที่การปรับปรุงกลไกการตรวจสอบโดยมนุษย์เพื่อตรวจจับข้อผิดพลาดก่อนที่จะเผยแพร่รายงาน
• การฝึกอบรมและการศึกษา: PwC ตั้งเป้าที่จะลงทุนในโครงการฝึกอบรมสำหรับพนักงานเพื่อให้เข้าใจถึงข้อจำกัดของเทคโนโลยี AI ได้ดียิ่งขึ้น

บทสรุป

เหตุการณ์นี้ทำหน้าที่เป็นเครื่องเตือนใจที่ชัดเจนถึงข้อผิดพลาดที่อาจเกิดขึ้นซึ่งมาพร้อมกับการบูรณาการเทคโนโลยี AI ภายในบริการระดับมืออาชีพ ในขณะที่ PwC จัดการกับผลที่ตามมา บริษัทมีโอกาสที่จะไม่เพียงแต่ฟื้นฟูความน่าเชื่อถือเท่านั้น แต่ยังเป็นผู้นำในการดำเนินการด้าน AI ที่มีความรับผิดชอบมากขึ้นในอุตสาหกรรมอีกด้วย ความท้าทายอยู่ที่การแปลบทเรียนเหล่านี้เป็นกลยุทธ์ที่นำไปใช้ได้จริงโดยให้ความสำคัญกับความถูกต้อง ความรับผิดชอบ และความน่าเชื่อถือ

PwC หน้าแดงหลังจากถูกจับได้ว่าใช้ภาพหลอนของ AI และการอ้างอิงปลอมในรายงานหลายฉบับ https://www.techradar.com/pro/pwc-left-red-faced-after-being-caught-using-ai-hallucinations-and-fake-citations-in-multiple-reports PwC หน้าแดงหลังจากถูกจับได้ว่าใช้ภาพหลอนของ AI และการอ้างอิงปลอมในรายงานหลายฉบับ https://www.techradar.com/pro/pwc-left-red-faced-after-being-caught-using-ai-hallucinations-and-fake-citations-in-multiple-reports