Адвокат в США вставил в апелляцию показания несуществующих свидетелей, придуманных ChatGPT
Верховный суд штата Нью-Мексико наказал адвоката, который подал апелляцию с показаниями несуществующих свидетелей. Их выдумал чат-бот ChatGPT.
Защитник Стивен Аронс из Санта-Фе представлял интересы Оскара Рене Сандовала, осуждённого в 2025 на пожизненное заключение за убийство. В апелляционный документ попали полностью вымышленные детали, включая описание стрелка в тёмных брюках и белой рубашке, которого в реальности не существовало.
Суд признал Аронса виновным в неуважении к суду. Он не проверил достоверность текста, который подготовил с помощью нейросети. Адвоката оштрафовали на 5000 долларов, запретили выступать перед судом и передали материалы в дисциплинарную коллегию. Судьи подчеркнули, что защитник «продемонстрировал отсутствие раскаяния и заботы о своём клиенте». Апелляцию 2 сентября передали государственному защитнику Ким Чавес Кук, и рассмотрение начнётся заново.
Сам Аронс в разговоре с Reuters назвал случившееся честной ошибкой. Он рассказал, что загрузил в ChatGPT расшифровку заседаний и другие материалы дела, рассчитывая получить краткое и точное резюме. Адвокат утверждает, что не осознавал, насколько сильно искусственный интеллект может «галлюцинировать» факты, и считает этот случай уроком для всех, кто полагается на подобные технологии.
На слушании 21 августа судья Шеннон Бэкон выразила сомнение, что юрист не знал о склонности нейросетей к ошибкам. Она отметила, что новости о выдумках ИИ в юридических документах появляются регулярно. OpenAI на запрос о комментарии не ответила.
Читайте также
Набиуллина: за 10 дней россияне открыли 87 000 счетов в цифровых рублях
Kraken отложила выход на биржу до 2027 года из-за просевшего крипторынка
Юрфирма Harneys и droppRWA выпустят катастрофические облигации прямо на блокчейне в 2027 году
Grayscale попросила SEC не менять правила для криптовалютных ETF