여러 AI 환각이 포함된 KPMG AI 보고서가 발견되어 신뢰성에 대한 우려 제기

소개

세계 최대 전문 서비스 기업 중 하나인 KPMG가 발행한 인공 지능에 관한 최근 보고서에는 일반적으로 '환각'이라고 알려진 AI로 인해 생성된 수많은 부정확성이 포함된 것으로 밝혀졌습니다. 이번 폭로는 전문적인 맥락에서 AI 생성 콘텐츠의 신뢰성과 이러한 기술을 사용할 때 요구되는 실사에 대해 심각한 의문을 제기했습니다.

KPMG 보고서 및 조사 결과

'AI 환경: 새로운 프론티어 탐색'이라는 제목의 문제의 보고서는 올해 초 신흥 기술에 대한 KPMG의 사고 리더십 시리즈의 일부로 출판되었습니다. 이 보고서의 목표는 AI 채택의 현재 상태, 규제 프레임워크, 다양한 산업 전반의 미래 추세에 대한 포괄적인 통찰력을 제공하는 것입니다.

그러나 면밀히 조사한 결과 몇몇 독자들은 AI 환각으로 보이는 수많은 사실적 부정확성을 발견했습니다. 즉, AI가 그럴듯하게 들리지만 완전히 잘못된 정보를 생성한 사례입니다. 이러한 오류는 존재하지 않는 개인에 대한 인용을 잘못 지정하는 것, 존재하지 않는 연구 논문을 인용하는 것, AI 채택률에 대한 잘못된 통계를 제공하는 것까지 다양했습니다.

환각의 구체적인 예

보고서에서 발견된 가장 눈에 띄는 부정확성은 다음과 같습니다.

• 글로벌 기업의 87%가 AI 솔루션을 구현했다는 주장은 신뢰할 수 있는 업계 추정치보다 훨씬 높은 수치입니다.
• 해당 분야에 저명한 연구자가 없음에도 불구하고 AI 윤리에 관해 '엘레나 로드리게스 박사'의 인용문이 잘못 인용됨
• 신경망 최적화에 관한 존재하지 않는 여러 학술 논문 인용
• 여러 국가의 규제 체계에 대한 부정확한 설명

AI 환각의 이해

AI 환각은 인공 지능 시스템이 실제로는 부정확하거나 완전히 조작되었지만 자신 있게 제시되는 출력을 생성하는 경우를 의미합니다. 이러한 오류는 AI 모델, 특히 대규모 언어 모델이 확인된 정보에 실시간으로 액세스하는 대신 훈련 데이터의 패턴을 기반으로 텍스트를 생성하기 때문에 발생합니다.

이러한 시스템은 인간의 의미에서 '알지' 못합니다. 대신, 훈련을 기반으로 통계적으로 가장 가능성이 높은 단어 시퀀스를 예측합니다. 훈련 데이터 외부의 메시지에 직면하거나 정보의 공백을 메우려고 할 때 그럴듯해 보이지만 실제로는 잘못된 세부정보를 만들어낼 수 있습니다.

전문 서비스에 대한 시사점

KPMG 보고서에서 AI 환각이 발견된 것은 전 세계 기업과 정부가 신뢰할 수 있는 조언자라는 회사의 입장을 고려할 때 특히 우려되는 일입니다. 전문 서비스 회사는 고객이 중요한 비즈니스 결정을 내리는 데 사용하는 정확하고 신뢰할 수 있는 정보를 제공해야 합니다.

이 사건은 몇 가지 주요 우려 사항을 강조합니다.

• AI 기술 도입 시 전문 서비스에 대한 신뢰 하락
• 허위 정보 유포와 관련된 법적 및 평판 위험
• AI 지원 콘텐츠 제작에서 품질 보증을 유지하는 과제
• 전문 결과물에서 AI 사용에 대한 명확한 공개의 필요성

업계 대응 및 분석

이 폭로는 기술 및 전문 서비스 부문 전반에 걸쳐 논의를 촉발시켰습니다. AI 윤리 전문가들은 특히 전문적인 맥락에서 콘텐츠 제작에 AI를 사용할 때 인간 감독의 중요성을 강조해 왔습니다.

기술사회연구소(Institute for Technology and Society)의 AI 윤리 연구원인 사라 첸(Sarah Chen) 박사는 "이 사건은 현재 AI 기술의 한계에 대한 경고의 역할을 합니다"라고 말했습니다. "AI는 콘텐츠 생성을 위한 강력한 도구일 수 있지만 특히 위험이 큰 전문 환경에서는 사람의 검증과 사실 확인을 대체할 수 없습니다."

이후 KPMG는 성명을 발표하여 문제를 인정하고 콘텐츠 제작 프로세스를 검토하고 있음을 밝혔습니다. 이 회사는 연구 역량을 강화하기 위해 AI 도구를 실험하는 동안 모든 콘텐츠는 게시되기 전에 사람의 엄격한 검토를 거친다고 밝혔습니다.

AI 채택에 대한 광범위한 영향

KPMG 보고서 사건은 다양한 부문에 걸쳐 AI 기술을 채택하는 데 있어 더 광범위한 과제를 반영합니다. 조직이 점점 더 콘텐츠 생성, 분석, 의사 결정 지원을 위해 AI로 전환함에 따라 AI로 인해 생성된 부정확성이 전파될 위험이 더욱 커지고 있습니다.

표: 일반적인 AI 환각 유형 및 감지 방법

환각 유형	설명	감지 방법
사실상의 부정확성	잘못된 통계, 날짜 또는 사실	사실 확인, 공신력 있는 출처와의 상호 참조
존재하지 않는 소스	가짜 문서, 인물, 사건에 대한 인용	출처 검증, 학술 데이터베이스 검색
논리적 불일치	본문 내 모순된 진술	콘텐츠 검토, 논리적 분석
잘못된 해석	개념이나 데이터의 왜곡	전문가 검토, 도메인 지식 검증

책임 있는 AI 사용을 위한 권장 사항

이 사건을 고려하여 콘텐츠 제작 및 전문 서비스에 AI를 사용하는 조직을 위한 몇 가지 모범 사례가 나타났습니다.

• 모든 AI 생성 콘텐츠에 대해 강력한 인적 검토 프로세스 구현
• 전문 결과물에서 AI 사용에 대한 명확한 공개 유지
• AI 환각 식별에 관한 직원을 위한 전문 교육 개발
• AI로 인해 발생한 부정확성을 파악하기 위해 특별히 고안된 사실 확인 프로토콜 확립
• 최신 AI 제한 사항 및 기능에 대한 최신 정보를 얻으세요

표: AI 콘텐츠 검증 모범 사례

연습	구현 단계	예상 결과
인간의 감독	주제 전문가의 전담 검토	사실상의 오류와 논리적 불일치를 포착하세요
소스 확인	모든 인용 및 참고문헌을 체계적으로 확인	존재하지 않는 소스 제거
AI 탐지 도구	AI 전문 콘텐츠 검증 소프트웨어 구현	AI가 생성할 가능성이 있는 텍스트 식별
투명성	콘텐츠 제작 시 AI 사용에 대한 명확한 공개	고객 기대 관리 및 신뢰 유지

결론

KPMG 보고서에서 AI 환각에 대한 발견은 현재 AI 기술의 잠재력과 한계를 모두 일깨워주는 중요한 역할을 합니다. AI는 생산성과 콘텐츠 제작 능력을 크게 향상시킬 수 있지만 전문적인 맥락에서 인간의 판단, 전문성, 사실 확인을 대체할 수는 없습니다.

조직이 지속적으로 AI를 워크플로에 통합함에 따라 강력한 검증 프로세스를 구축하고 AI 사용에 대한 투명성을 유지하는 것이 신뢰를 유지하고 정보의 신뢰성을 보장하는 데 중요합니다. KPMG 사건은 문제가 있기는 하지만 책임 있는 AI 채택에 관해 업계 전체에 귀중한 교훈을 제공합니다.

앞으로 이러한 기술이 전문 서비스 및 그 이상 분야에서 점점 더 보편화됨에 따라 개선된 환각 감지 방법과 결합된 더욱 신뢰할 수 있는 AI 시스템의 개발이 필수적이 될 것입니다.

AI에 관한 주요 KPMG 보고서는 AI 환각으로 가득 찬 것으로 밝혀졌습니다. https://www.techradar.com/pro/a-major-kpmg-report-on-ai-was-found-to-be-chock-full-of-ai-hallucinations AI에 관한 주요 KPMG 보고서는 AI 환각으로 가득 찬 것으로 밝혀졌습니다. https://www.techradar.com/pro/a-major-kpmg-report-on-ai-was-found-to-be-chock-full-of-ai-hallucinations