Юридическая фирма Уолл-стрит Sullivan & Cromwell принесла извинения федеральному судье после того, как в судебных документах было обнаружено около 40 неправильных цитат и других ошибок, связанных с содержимым, сгенерированным ИИ

Резюме

• Sullivan & Cromwell признала, что ошибки, сгенерированные ИИ, попали в судебный документ, несмотря на существующие внутренние политики проверки.
• Эндрю Дитдерих заявил, что фирма взяла на себя ответственность после того, как ложные цитаты оказались в федеральном суде по банкротству.
• Юридическая фирма начала внутреннее расследование после того, как конкурирующая фирма указала на ошибки в документе.

Проблема стала известна в письме, отправленном Эндрю Дитдерихом, сопредседателем команды по глобальной реструктуризации фирмы, главному судье Мартину Гленну из Федерального суда по делам о банкротстве Южного округа Нью-Йорка.

Дитдерих заявил, что документ был частью экстренного ходатайства, поданного девять дней назад. Он сообщил суду, что фирма берет на себя ответственность за ошибки и что существующие этапы проверки не сработали должным образом в данном случае.

Фирма признает ошибки в поданных документах и берет на себя ответственность

В письме Дитдерих отметил, что фирма сожалеет о случившемся и признала свою обязанность обеспечивать точность судебных документов. Он написал: «Мы глубоко сожалеем о произошедшем.»

Он также добавил: «Фирма и я остро осознаем нашу ответственность за обеспечение точности всех подаваемых материалов.» Дитдерих подчеркнул, что берет на себя ответственность за неудачу, связанную с этим документом.

В судебном документе было около 40 неправильных цитат и других ошибок. Фирма заявила, что эти проблемы возникли из-за галлюцинаций ИИ и ошибок, которые не были обнаружены до подачи.

Дитдерих отметил, что Sullivan & Cromwell уже имеет внутренние правила по использованию ИИ. Эти правила включают проверку цитат перед подачей материалов в суд.

Существующие политики проверки ИИ не были соблюдены

По словам Дитдериха, у фирмы были политики, направленные на предотвращение подобных проблем, но в этот раз необходимые процедуры не были выполнены. Он заявил, что процесс проверки не смог выявить ложные цитаты и другие ошибки.

«К сожалению, этот процесс проверки не выявил неточные цитаты, созданные ИИ, а также другие ошибки, которые, по всей видимости, возникли полностью или частично из-за ручных ошибок», — написал он.

Дело добавляет к растущему списку судебных документов, в которых были допущены ошибки, связанные с ИИ. База данных, управляемая технологом в области права Дамьеном Шарлотеном, зафиксировала 1334 случая галлюцинаций ИИ в судебных документах по всему миру, из которых более 900 — в Соединенных Штатах.

Шарлотен отметил, что во многих случаях эти ошибки связаны с вымышленными цитатами. В некоторых случаях в документах также появлялись юридические аргументы, сгенерированные ИИ.

Внутреннее расследование началось после обнаружения ошибок конкурирующей фирмой

Дитдерих заявил, что Sullivan & Cromwell начала внутреннее расследование причин ошибок. Он отметил, что фирма приняла немедленные меры по исправлению ситуации и рассматривает необходимость дополнительного обучения или усиления внутренних проверок.

Он также добавил, что ошибки были выявлены конкурирующей юридической фирмой Boies Schiller Flexner LLP. Дитдерих сообщил, что связался с этой фирмой напрямую, чтобы поблагодарить их и принести извинения.

Sullivan & Cromwell — одна из крупнейших юридических фирм в США по доходам. Фирма также участвовала в громких делах, включая представительство FTX в деле о банкротстве.

Инцидент привлек новое внимание к рискам использования ИИ в юридической работе, особенно когда человеческий контроль не выявляет базовые ошибки до подачи документов.