법관, 변호사들에게 가짜 AI 연구 비판

판사가 AI 사용 공개 없이 법률 회사를 처벌하다
최근 판결에서 캘리포니아 판사 마이클 윌너는 민사 소송 중 인공지능에 몰래 의존한 두 개의 저명한 로펌에 31,000달러의 무거운 벌금을 부과했다. 윌너 판사에 따르면, 해당 로펌은 “거짓되고 부정확하며 오해를 불러일으키는 법적 인용과 인용문”으로 가득 찬 서면을 제출했다. 법학 교수 에릭 골드먼과 블레이크 리드가 Bluesky에서 보도한 바에 따르면, 판사는 전문직 표준에 대한 무모한 무시에 대해 좌절감을 표출했다.
“내가 읽은 서면을 믿었다,” 윌너 판사는 판결문에 썼다. “그들이 참조한 권위 있는 자료에 설득당했고, 그래서 그 사례들을 직접 더 깊이 조사했다. 하지만 그런 사례들은 존재하지 않았다. 정말 무서웠다. 가짜 정보에 기반한 사법 명령에 서명할 뻔했다.”
법원 문서에 따르면, 문제는 원고의 법률 팀이 추가 서면의 개요를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L Gates라는 또 다른 관련 로펌에 전달되었을 때 가짜 내용으로 가득 차 있었다. 불행히도, 두 로펌 모두 정보를 제출하기 전에 사실 확인이나 검증을 하지 않았다.
윌너 판사는 “인용된 권위 있는 자료 중 적어도 두 개는 완전히 존재하지 않았다”고 발견했다. 해명을 요구받자, K&L Gates는 서면을 다시 제출했지만, 판사는 더 많은 가짜 참조를 발견했다. 이에 따라 그는 원인 소명 명령을 발부했고, 양측은 선서 하에 진실을 인정했다. 원래 개요를 작성한 변호사는 Google Gemini와 Westlaw Precision with CoCounsel 같은 법률 연구 도구를 사용했다고 고백했다.
오용의 패턴
이것은 변호사들이 AI 오용으로 곤경에 처한 첫 사례가 아니다. 전 트럼프 변호사 마이클 코헨은 Google Gemini(당시 Bard로 알려짐)를 일반 검색 엔진으로 오인해 존재하지 않는 법원 사례를 인용한 적이 있다. 마찬가지로, 콜롬비아의 한 판사는 항공사를 상대로 소송을 제기한 변호사들이 ChatGPT가 생성한 가짜 사례를 서면에 포함시켰다고 밝혔다.
“이 모든 사건은 그야말로 충격적이었다,” 윌너 판사는 결론지었다. “공개 없이 AI에 의존한 초기 결정은 용납될 수 없었다. 의심스러운 출처에 대한 경고 없이 그런 결함 있는 자료를 다른 전문가들에게 보내는 것은 모두를 위험에 빠뜨렸다.”
더 넓은 함의
이 판결은 법률 전문가들 사이에서 AI를 법원 서류에 사용하는 것의 윤리적 함의에 대한 점점 커지는 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 적절히 검증되지 않으면 잘못된 정보를 퍼뜨릴 위험이 있다. 윌너 판사가 강조했듯이, “합리적으로 유능한 변호사는 출력물을 검증하지 않고 연구나 작성을 알고리즘에 아웃소싱해서는 안 된다.”
이 사건은 법률 실무에서 투명성과 책임의 중요성을 강하게 상기시킨다. AI가 계속 발전함에 따라, 기술이 사법 시스템의 무결성을 훼손하지 않고 향상시킬 수 있도록 실무자들이 신중히 다가가는 것이 여전히 중요하다.
관련 기사
구글, 사용자 제어 강화에 맞춰 제미니용 레미 AI 에이전트 테스트
비즈니스 인사이더에 따르면, 구글은 제미나이를 위한 새로운 AI 개인 에이전트인 레미를 테스트하고 있습니다. 이 도구는 사용자를 대신하여 작업을 실행하여 전문적인 워크플로우와 일상적인 루틴을 모두 간소화하는 것을 목표로 합니다.현재 레미는 제미나이 애플리케이션의 내부 직원 전용 버전에서 테스트 중입니다. 이 보고서는 내부 문서와 프로젝트에 정통한 두 명의 인물과의 인터뷰를 인용합니다. 내부 자료는 레미를 “24/7 개인 에이전트”로 묘사하며,
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
관련 특별 주제 추천
의견 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

판사가 AI 사용 공개 없이 법률 회사를 처벌하다
최근 판결에서 캘리포니아 판사 마이클 윌너는 민사 소송 중 인공지능에 몰래 의존한 두 개의 저명한 로펌에 31,000달러의 무거운 벌금을 부과했다. 윌너 판사에 따르면, 해당 로펌은 “거짓되고 부정확하며 오해를 불러일으키는 법적 인용과 인용문”으로 가득 찬 서면을 제출했다. 법학 교수 에릭 골드먼과 블레이크 리드가 Bluesky에서 보도한 바에 따르면, 판사는 전문직 표준에 대한 무모한 무시에 대해 좌절감을 표출했다.
“내가 읽은 서면을 믿었다,” 윌너 판사는 판결문에 썼다. “그들이 참조한 권위 있는 자료에 설득당했고, 그래서 그 사례들을 직접 더 깊이 조사했다. 하지만 그런 사례들은 존재하지 않았다. 정말 무서웠다. 가짜 정보에 기반한 사법 명령에 서명할 뻔했다.”
법원 문서에 따르면, 문제는 원고의 법률 팀이 추가 서면의 개요를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L Gates라는 또 다른 관련 로펌에 전달되었을 때 가짜 내용으로 가득 차 있었다. 불행히도, 두 로펌 모두 정보를 제출하기 전에 사실 확인이나 검증을 하지 않았다.
윌너 판사는 “인용된 권위 있는 자료 중 적어도 두 개는 완전히 존재하지 않았다”고 발견했다. 해명을 요구받자, K&L Gates는 서면을 다시 제출했지만, 판사는 더 많은 가짜 참조를 발견했다. 이에 따라 그는 원인 소명 명령을 발부했고, 양측은 선서 하에 진실을 인정했다. 원래 개요를 작성한 변호사는 Google Gemini와 Westlaw Precision with CoCounsel 같은 법률 연구 도구를 사용했다고 고백했다.
오용의 패턴
이것은 변호사들이 AI 오용으로 곤경에 처한 첫 사례가 아니다. 전 트럼프 변호사 마이클 코헨은 Google Gemini(당시 Bard로 알려짐)를 일반 검색 엔진으로 오인해 존재하지 않는 법원 사례를 인용한 적이 있다. 마찬가지로, 콜롬비아의 한 판사는 항공사를 상대로 소송을 제기한 변호사들이 ChatGPT가 생성한 가짜 사례를 서면에 포함시켰다고 밝혔다.
“이 모든 사건은 그야말로 충격적이었다,” 윌너 판사는 결론지었다. “공개 없이 AI에 의존한 초기 결정은 용납될 수 없었다. 의심스러운 출처에 대한 경고 없이 그런 결함 있는 자료를 다른 전문가들에게 보내는 것은 모두를 위험에 빠뜨렸다.”
더 넓은 함의
이 판결은 법률 전문가들 사이에서 AI를 법원 서류에 사용하는 것의 윤리적 함의에 대한 점점 커지는 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 적절히 검증되지 않으면 잘못된 정보를 퍼뜨릴 위험이 있다. 윌너 판사가 강조했듯이, “합리적으로 유능한 변호사는 출력물을 검증하지 않고 연구나 작성을 알고리즘에 아웃소싱해서는 안 된다.”
이 사건은 법률 실무에서 투명성과 책임의 중요성을 강하게 상기시킨다. AI가 계속 발전함에 따라, 기술이 사법 시스템의 무결성을 훼손하지 않고 향상시킬 수 있도록 실무자들이 신중히 다가가는 것이 여전히 중요하다.
올리는 AI 비서 시장 경쟁에서 우위를 점하기 위해 개인정보 보호에 주력하고 있다
진정으로 도움이 되려면 AI 비서는 사용자를 깊이 이해해야 합니다. 일상 생활을 위해 설계된 개인 비서 ‘올리(Ollie)’는 이를 위해 사용자의 데이터를 제공하거나 개인정보를 침해할 필요가 없다는 전제 하에 운영됩니다.일부 기업용 AI 도구가 데이터 개인정보 보호 장치를 제공하기는 하지만, 올리는 SOC 2 인증을 획득한 최초의 대중적 가정용 AI 서비스
‘AI LIVE: London’이 AI와 산업 자동화를 어떻게 조명할 것인가
이번 정상회의에는 전 세계의 최고 경영진들이 한자리에 모여, AI에 의한 산업 혁신부터 경제 변동성에 이르기까지 글로벌 산업이 직면한 시급한 과제들을 논의할 예정입니다.‘AI LIVE: 런던 서밋’은 ‘기술 + 인간의 목적(Technology + Human Purpose)’이라는 주제로 2,000명 이상의 국제적 리더들을 한자리에 모아, 새롭게 도래하는 인
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





집






