Судья критикует адвокатов за фальшивое исследование ИИ

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами.
«Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации».
Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей.
Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.
Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT.
«Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».
Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов».
Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Связанная статья
Google тестирует агента Remy AI для Gemini по мере смещения фокуса на управление пользователями
Согласно Business Insider, Google тестирует Remy, нового ИИ-персонального агента для Gemini. Этот инструмент предназначен для выполнения задач от имени пользователей, упрощая как профессиональные рабочие процессы, так и повседневные рутины.В настоящ
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
Рекомендации по связанным специальным темам
Комментарии (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами. «Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации». Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей. Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT. «Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов». Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Олли делает ставку на приватность, чтобы выиграть гонку за лидерство в сфере ИИ-помощников
Чтобы быть по-настоящему полезным, ИИ-помощник должен глубоко понимать своего пользователя. Ollie — личный помощник, разработанный для повседневной жизни, — работает по принципу, согласно которому для
Как на мероприятии AI LIVE: London будут рассматриваться темы искусственного интеллекта и промышленной автоматизации
На саммите соберутся руководители высшего звена со всего мира, чтобы обсудить актуальные проблемы мировых отраслей — от радикальных изменений, вызванных искусственным интеллектом, до экономической нес
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Дом






