Судья-робот ошибся: аргентинский суд отменил приговор из-за «галлюцинаций» ИИ

Когда ИИ «придумывает» закон

Представьте: вы приходите в суд, а судья ссылается на несуществующий закон. Звучит как антиутопия? В Аргентине это стало реальностью. Суд отменил собственное решение, потому что в нём обнаружились цитаты, сгенерированные искусственным интеллектом. И нет, это не шутка про «роботов-юристов» — это серьёзный прецедент, который заставляет задуматься о границах использования ИИ в правосудии.

Как ChatGPT «нагаллюцинировал» судебное решение

Всё началось с того, что судья (или его помощник) решил сэкономить время и попросил нейросеть подобрать прецеденты. ИИ старательно выдал ссылки на дела, которые… никогда не существовали. Судья включил их в приговор, не проверив. Когда ошибка вскрылась, вышестоящая инстанция отменила решение, указав, что использование ИИ без верификации — это нарушение процессуальных норм.

Это как если бы врач назначил лечение на основе статьи из Википедии, не глядя на пациента. Только здесь ставки выше: свобода человека, репутация суда и доверие к правовой системе.

Почему это важно для всех, а не только для аргентинцев

Аргентина — не первая страна, где ИИ «наследил» в суде. В США уже были случаи, когда адвокаты ссылались на несуществующие дела, сгенерированные ChatGPT. Но аргентинский случай уникален тем, что суд сам признал ошибку и создал прецедент: судья обязан проверять любые источники, даже если их «нашёл» ИИ.

Для юристов это звонок: нейросеть — не замена юридической экспертизе, а лишь инструмент. Как калькулятор: он считает быстрее, но если вы введёте не те цифры, ответ будет неверным. Только в праве цена ошибки — не переплата в чеке, а судьба человека.

Что делать адвокатам и судьям: чек-лист выживания

Если вы используете ИИ в работе, запомните три правила:

• Проверяйте каждую ссылку. ИИ может «выдумать» закон, которого нет в природе. Сверяйтесь с официальными базами данных.
• Не копируйте текст бездумно. Нейросеть пишет гладко, но может ошибаться в деталях. Читайте и редактируйте.
• Указывайте, что использовали ИИ. В некоторых юрисдикциях это уже требуется. Прозрачность снижает риски.

И да, если ваш коллега говорит: «ChatGPT написал иск, я только подписал» — бегите от него. Или хотя бы перепроверьте всё сами.

Будущее: ИИ в суде — помощник или вредитель?

Аргентинский прецедент не означает, что ИИ нужно запретить. Наоборот, он задаёт правила игры: используй, но проверяй. Как с любым инструментом — молотком можно забить гвоздь, а можно разбить палец. Всё зависит от рук, в которых он находится.

Уже сейчас разрабатываются стандарты использования ИИ в юриспруденции. Например, Европейский акт об ИИ требует, чтобы системы высокого риска (к которым относятся и судебные) проходили обязательную сертификацию. Возможно, скоро появятся «ИИ-ассистенты судьи», которые будут только подбирать материалы, но окончательное решение всегда останется за человеком.

А пока — не доверяйте нейросети больше, чем себе. И помните: даже самая умная программа не заменит здравый смысл и профессиональную этику.