Поздний вечер. Кабинет следователя. На столе — тома уголовного дела, в углу монитора — окно Copilot с запросом «Суммаризируй показания и найди противоречия». Формально нейросеть ничего не решает: она же просто «ассистирует». Фактически именно её пересказ ляжет в основу обвинительного заключения. И вот тут начинается уже не история про технологии, а история про процессуальное право: как проверять выводы, которые непроверяемы в принципе, и кто ответит, если они окажутся выдумкой модели.
Copilot и его аналоги уже встроены в офисный софт: выделил текст, нажал кнопку — получил документ. Для следователя это прежде всего скорость. Тысяча страниц сжимается в аккуратную хронологию, набрасывается план допроса, переводятся показания, всплывают похожие эпизоды. На бумаге всё это черновик, «рабочий инструмент», не доказательство.
Загвоздка — в механике. Языковая модель не ищет по файлу: она предсказывает правдоподобный текст. Противоречия, которые она «нашла», могли быть сгенерированы из ничего. Версия событий, которую она собрала, могла не существовать ни в одном протоколе. У такого пересказа нет ни сносок, ни источника; установить, что именно модель «видела» в материалах, невозможно.
Между тем весь уголовный процесс держится на проверяемости: любое доказательство можно запросить, воспроизвести, оспорить. У машинного резюме процессуального статуса нет — но позицию обвинения оно уже формирует. И вишенка на торте: секретность. Если тома уходят в облако, остаётся только гадать, где они лежат физически и как долго.
Возражение знакомое: алгоритмы в суде — не новость. Справедливо. Опыт есть, и горький.
В США система COMPAS — анкета плюс алгоритм — оценивала риск рецидива, и судьи учитывали её балл, решая вопросы об освобождении под залог и о мере наказания. Ответчик по фамилии Лумис из Висконсина оспорил эту практику: узнать, как устроена модель, он не мог — её закрыли коммерческой тайной. Суд не увидел проблемы: финальное решение всё равно принимает человек. Журналисты ProPublica позже показали, что частота ошибок у системы заметно различалась для разных групп населения.
Мораль этой истории в другом. Даже узкая, детерминированная, в принципе воспроизводимая модель оценки спровоцировала многолетние споры о должной правовой процедуре. LLM для суда устроена радикально хуже: она невоспроизводима. Один и тот же вопрос при другой формулировке — или просто после обновления версии — даёт другой ответ. А спор о правах человека, в котором вывод нельзя повторить даже для второй инстанции, — это уже не спор о доказательстве. Это спор о вере.
Индустрия парирует главным аргументом: решает-то всё равно человек. Практика показывает, как это выглядит в реальности.
Помните скандал с американскими юристами, которые подали в суд документы со ссылками на несуществующие прецеденты — их любезно сгенерировал ChatGPT? Судья назначил санкции. Деталь, которую любят опускать: юристы текст перед подачей читали. Но усталый человек против уверенного машинного перечня «дел, подтверждающих позицию» — это не проверка, а ритуал.
В психологии для этого есть термин — автоматизационное смещение: чем объёмнее исходные материалы и чем правдоподобнее черновик, тем выше шанс, что «человек в контуре» просто поставит подпись. В уголовном деле цена ритуала максимальная — свобода.
Есть и вторая ловушка, процессуальная. Чтобы оспорить машинный вывод, защите нужно его воспроизвести. Только ответ LLM нельзя ни задокументировать как доказательство, ни повторить в суде с гарантией того же результата. Ни один кодекс не описывает, как вносить «мнение нейросети» в материалы дела. Поэтому оно входит туда незаметно — внутри человеческого текста.
Схема ответственности сегодня выглядит так. Вендор ни при чём — в лицензии пункт «не для принятия юридических решений». Следователь отвечает лично, хотя проверить модель не в состоянии. Регулятор молчит: обязательных требований и процедур допуска для ИИ в правосудии в большинстве юрисдикций просто нет.
Как это заканчивается, мир уже видел. В Нидерландах алгоритмическая система массово помечала получателей пособий как мошенников; тысячи семей разорили проверками и взысканиями, финал — отставка правительства. В Австралии автоматическое взыскание «переплат» по социальным выплатам — тот самый рободебт — признали незаконным, разбирательство докатилось до королевской комиссии. Паттерн всюду один: ведомство закупает систему, вендор выдаёт дисклеймер, человек ставит подпись.
Европейский AI Act отнёс ИИ в правосудии и правоприменении к высокому риску: обязательная прозрачность, журналирование решений, человеческий надзор. Вот только насколько эти требования задевают универсальные офисные Copilot'ы, работающие как обычный софт, — вопрос, который пока никто не закрыл.
В России цифровая инфраструктура правосудия давно на месте: ГАС «Правосудие», электронная подача документов, заседания по видеосвязи. Верховный суд не раз обозначал позицию: ИИ допустим как аналитический инструмент и для типовых задач, окончательное решение — за судьёй. Рамка разумная. Только сложилась она до эпохи LLM — когда «инструмент» ещё не умел отвечать на вопросы по тексту дела.
Автоматизация правоприменения, впрочем, уже идёт — просто в другом месте. Распознавание лиц в рамках «Безопасного города» работает в городах по всей стране, включая Москву, и уже успело вызвать споры о правовых основаниях обработки биометрии.
Своих моделей для защищённого контура хватает: GigaChat от Сбера и YandexGPT активно внедряются в госуправление и корпоративный сектор, Минцифры продвигает отечественные LLM как замену иностранным. Материалы следствия — данные закрытые, зарубежные облака исключены, так что рабочая связка здесь — российская модель на сертифицированной инфраструктуре. Лакуна при этом та же, что и везде: ни УПК, ни законы об информации не требуют фиксировать, где закончился пересказ машины и начался собственный вывод следователя. Добавить в программы цифровой трансформации ведомств требования к журналированию ИИ-ассистентов технически несложно — этого пункта в них пока просто нет.
Дело не в том, что нейросеть ошибается, — следователь тоже ошибается, и никто не отменял. Дело в том, что её ошибку невозможно увидеть в материалах дела. Пока запросы и ответы моделей не протоколируются, стороны не знают об их использовании, а «человеческий контроль» не имеет стандарта содержательности, формула «решает человек» защищает не подсудимого, а систему: вендора — дисклеймером, следователя — должностной подписью, регулятор — молчанием. Право всегда догоняло технику. Но здесь дистанция измеряется судьбами людей.