Немного змеиного масла ИИ для юристов

Снова про ИИ по следам вебинара для юристов от Anthropic (кто не знает, позиционируют себя как создатели самых «умных» языковых моделей).

Как в NDA слона искали

Народу было, кажется, под +3000 слушателей. Было 2 ведущих, юрист и инженер. В качестве незримого ведущего был слон — вот таких размеров! Про него позже.

Из 60 минут реальная демонстрация возможностей заняла минут 15–20 от силы. Как ни парадоксально, показывали анализ NDA. Может создаться впечатление, что за бугром юристы больше ничего и не делают, кроме как драфтят NDA. На самом деле, ответ прост — это очень стандартизированный документ, поэтому ИИ-магию легко показывать именно на таких документах. На договоре простого товарищества или на анализе материалов реального спора вау-эффекта не создашь, да ещё лицом в грязь ударишь. Акционеры не поймут.

ЛЛМка «пожужала» и выдала анализ сразу нескольких соглашений, разметив их по уровню рисков, согласно ранее написанным правилам анализа такого типа документов. В глубь анализа слушателей не погружали.

Про возможные галлюцинации модели при этом тоже не заостряли внимание. Самое занятное, что в день вебинара весь мир облетела новость, что топ-юрфирма из США попала впросак в суде, ибо в пояснения суда совершенно непонятным образом пробрались выдуманные прецеденты, на что указали юристы другой стороны. Никогда такого не было и вот опять (с). Пока писал, всплыл аналогичный кейс в арбитраже DIFC ОАЭ, где участвует ВТБ, уличивший оппонентов в недобросовестном использовании ИИ. Возможно, в этих кейсах использовались неправильные модели, которые готовили неправильные ответы. При большом воображении и подвижной психике можно думать и так.

Самая светлая иединственная полезная мысльзаняла меньше 1 минуты вебинара. Как одна из коллег-ведущих спикеров, настроила мониторинг новостей и изменений по конкретной отрасли права, и такой мониторинг можно запустить по расписанию.

Немного про удобство зрителей, о котором «умные» модели, видимо, ещё не слышали, а может, их не спросили. Юристы работают с текстом, соответственно, было много демонстраций этой работы. Но увидеть, что там пишет модель, можно было разве что только с лупой у экрана. Поскольку половина полезной площади экрана была занята головами спикеров, элементами вёрстки и интерфейсами.

И вот слон найден...

Всё это время слушатели могли задавать вопросы и голосовать за самый актуальный вопрос, на который ответят спикеры. Это и был слон, на которого почти с самого начала многие показывали пальцем. Странно, если бы юристы этого не сделали.

Думаю, понятно, что всех волновал вопрос — что с конфиденциальностью данных клиентов, раз вы предлагаете делать юридическую работу с помощью ваших моделей.

Что же ответили? «Ну вы сами управляете разрешениями, поэтому если не хотите, чтобы был доступ у Клода — не давайте». Как говорится, «нормально делай — нормально будет!» (с)

Даже после такого ответа слушатели показывают на слона в комнате, слону уже самому неудобно, но спикеры продолжали делать вид, что его нет. Зато смотрите, какие у нас прекрасные функции есть, можно ограничивать доступ разных команд к разным проектам. Занавес!

Что делает Anthropic с вашими данными?

Спросим самую «умную» модель про политику конфиденциальности и пользовательское соглашение. В отличие от кожаных мешков, получаем прямой ответ без увиливания:

Многие типовые NDA содержат обязательство не передавать конфиденциальную информацию третьим лицам без письменного согласия. Anthropic — это третье лицо. Даже на корпоративном тарифе загрузка конфиденциального договора клиента в Claude технически является раскрытием третьему лицу, и если в NDA нет исключения для обработки данных облачными сервисами или AI-инструментами, вы можете формально нарушить NDA независимо от того, что Anthropic делает с данными.

Кому интересно, могут под спойлером почитать подробности, как связан тариф и конфиденциальность.

Но вообще очень жаль, что такой вопрос нормально не рассмотрели. Хотя время такое, что нет времени на такие мелочи. Надо быстрее втирать змеиное масло. И вот ты читаешь, что очередной ИИ-гуру от юриспруденции пишет, а можно в Anthropic сделать так, что модель ваше правовое заключение причешет и сделает красивое форматирование. Вспоминается Дэниел Дей-Льюис в "Бандах Нью-Йорка".

Термин «змеиное масло» употреблен не случайно. Рекомендую почитать книжку «Искусственный интеллект как змеиное масло: что он может, чего не может и как отличить поддельный ИИ от настоящего», написанную учёными Арвиндом Нараянаном и Саяшем Капуром. Написано, на мой взгляд, без излишнего шапкозакидательства, но подсвечено достаточно много проблем. Невероятно, но многие из этих проблем лежат в юридической плоскости. Но это не так модно обсуждать.