'AI 환각' 가짜 판례·법령 인용 대응 나선 법원… "소송비용 독박·대한변협 징계 의뢰 가능"

요약 정리

• 문제 상황:
  • 인공지능(AI)의 ‘환각(hallucination)’ 현상으로 인해 가짜 판례·법령·위·변조 증거가 법원에 제출되는 사례 증가.
  • 변호사가 이를 검증 없이 인용하면 대한변협 징계 대상이 될 수 있음.
• 사법부 대응:
  • 법원행정처가 2025년 11월~2026년 3월까지 활동한 AI 활용 허위 주장·증거 제출 대응 TF 결과 발표.
  • 판사 8명, 변호사 2명 등 총 10명으로 구성.
• 대응 방안:
  • 허위 법령·판례 인용 시 소송 비용 부담 가능.
  • 허위 내용이 포함된 서면은 변론 진술 제한, 판결문에 허위임을 명시.
  • 변호사가 검증 없이 AI 자료 인용 시 대한변협 징계 의뢰 가능.
• 법령 개정 제안:
  • 민사소송규칙 개정: AI 활용 사실을 법원·상대방에 고지, 인용 법령·판례의 정확성 확인 의무.
  • 허위 법령 인용 시 과태료 부과 가능하도록 소송법 개정 제안.
• 전산시스템 개편 방안:
  • 제출 서류의 법령·판례 존재 여부 및 유사도 자동 확인 기능 개발.
  • 국민이 AI가 제시한 판결이 실제 존재하는지 확인할 수 있는 서비스 제공.
  • 판결 공개 확대.
• 현행 조치:
  • 2026년 2월부터 사법정보공개포털에서 ‘허위 사건번호 확인’ 기능 제공.
• 대법원 입장:
  • AI 활용은 거스를 수 없는 흐름.
  • 사법부는 기술 발전과 국민 인식 변화를 면밀히 살펴 재판 기능을 충실히 수행할 수 있도록 추가 대응책 마련 예정.

👉 핵심적으로, 사법부는 AI 환각으로 인한 허위 법령·판례 제출을 제도적으로 차단하기 위해 법령 개정, 비용 부담, 징계, 전산 시스템 개선 등 다층적 대응책을 마련하고 있습니다.

https://www.lawtimes.co.kr/news/articleView.html?idxno=218596

'AI 환각' 가짜 판례·법령 인용 대응 나선 법원… "소송비용 독박·대한변협 징계 의뢰 가능" - 법