Как LLM меняют подход к праву и комплаенсу?

e/acc··2 мин чтения·13 комментариев
В 1999 профессор Гарварда Лессиг придумал фразу "код это закон" — про то, что на платформах и в интернете правила устанавливает и энфорсит не полиция и суд, а код.

В 2010ых смартконтракты и чейны попытались расширить эту идею на всю экономику. Это частично получилось — в финансах, рынках предсказаний, дефае, но это не сработало в остальных областях, потому что реальный мир не детерминирован, люди живут в ситуациях, которые часто движимы взаимоисключающими фактами и идеями. Детерминированный код в такой неоднозначности не рассуждает — он просто исполняет, иногда катастрофически. Ровно для этого и существуют суды, юристы и полиция: кто-то должен решать там, где правила противоречат друг другу.

Но теперь есть LLM — впервые можно программировать неоднозначные ситуации: модель читает контекст, взвешивает намерение, применяет размытую норму и объясняет решение. "Код это закон" получает второе дыхание, только код теперь не застывший скрипт, а рассуждающий агент, что дает преимущества в
1. координации - Coasean bargaining at scale, агенты ведут миллионы микропереговоров за вас
2. эксплуатации регуляторов: подать иск или жалобу стало стоить копейки, а суды и госагентства затапливает (в США доля исков с ИИ-текстом выросла почти до 18% к началу 2026; авиакомпании уже завалены авто-претензиями)
3. комплаенсе, который больше становится похож на эвалы: раньше проверяли выборку -- теперь каждое сообщение, контракт и креатив проверяется на лету, со ссылкой на норму и логи
4. энфорсменте: от "получи разрешение заранее" к "покажи трейсы" как в хорошем CI/CD

Можно ли сделать детерминированную программу, которая управляет человеческими отношениями? Нет

Можно дать LLM быть судьей во всех вопросах морали и права? Пока что нет

Можно ли спроектировать право и комплаенс по инженерным принципам, где полиси становятся эвалами, регуляторная проверка становится CI/CD? Да, и это происходит
e/acc
e/acc

202 публикаций на visbl.me

Пишу про будущее: AI, web3, технологии и общество. Ускоряемся. Автор: @sgershuni Инвестирую: cyber.fund Построил: Credentia, Deep Skills, Codex Town

💬Discussion (13)

tororo@torotorooc
о ща скину, это ж все духом SystemVerilog веет
tororo@torotorooc
чтобы код стал законом, нужно доказать что код нельзя обмануть, т.е. нужно верифицировать на безошибочность

в этой статейке Rust и Dafny рассматривают для бенча, прост в качестве примера, что комплаенсы могут идти туда же
https://arxiv.org/pdf/2509.22908

т.н. vericoding
Victor@victorbkl
Уже теплее, но очень еще далеко до академической поляны, которая жива еще
Anonymous
боже упаси академическую поляну
Victor@victorbkl
Зря ты так, по ней можно спрогнозировать риски, то что тут местами проскальзнуло об этом уже много что написано наперед. Это мои мысли вслух. И да спроси сам у клода, люди уже не авторитет, понятно.
PartAlex@PartAlex
А как, если один суд имеет одну трактовку закона, а другой - другую?)
Anonymous
одна лмм одну, другая - другую
Dashmaster@Dashmaster
нет. это цензурируемо, поэтому нежизнеспособно. поэтому биток будет миллион, что он неизменяем по первому желанию.
Anonymous
цензура - залог развития
Dashmaster@Dashmaster
и разрушения
Dashmaster@Dashmaster
да хоть чего это залог. деньги любят чтобы не было цензуры.
tororo@torotorooc
деньги любят тишину тм
Dashmaster@Dashmaster
и наоборот, цензура всегда будет стремиться отнять деньги.
Join discussion on TelegramComments are synced from Telegram

Связанные темы

Читать далее