Политика
Счета, создаваемые ИИ, переполняют юристов, которые разрабатывают законы США
Сообщается, что Канцелярия законодательного консультанта Палаты представителей тратит всё больше времени на исправление предложений, написанных ИИ, содержащих неправильные ссылки, расплывчатый язык и юридические ошибки. Эта проблема демонстрирует, как дешевое создание текста может переносить расходы на учреждения, отвечающие за точность.
Майкл С ·
Конгрессменские юристы сталкиваются с растущий поток проектов законопроектов, созданных ИИ которые содержат неправильные цитаты, расплывчатые указания и язык, который может не привести к реализации политики, задуманной её автором. Настоящие и бывшие чиновники сообщили Politico, что Офис законодательного консультанта Палаты представителей тратит больше времени на исправление некоторых предложений, написанных машиной, чем потребовалось бы на разработку законодательства с самого начала.
Офис выполняет одну из наименее заметных и наиболее важных функций Конгресса. Его беспартийные юристы превращают политические цели в нормативно-правовые формулировки, которые могут исполнять агентства и которые могут толковать суды. Ошибочно данное определение или ссылка — это не косметическая ошибка. Оно может изменить то, кто получает выгоду, какое поведение запрещено или выживает ли закон при оспаривании.
Генеративный ИИ делает почти бесплатным для конгрессного офиса, лоббиста или правозащитной группы создание страниц, похожих на законодательные акты. Эта кажущаяся продуктивность переносит дорогую часть работы на юристов, которые должны проверять каждую перекрестную ссылку и выводить, чего автор на самом деле хотел. Текста становится больше, но законодательная способность не увеличивается.
Этот эпизод служит предупреждением для каждой организации, которая внедряет ИИ. Объем выдачи не равен выполненной работе. Когда система генерирует материалы, требующие экспертной проверки, очередь на обработку может расти быстрее, чем организация способна её обработать. Результат — не автоматизация, а перегрузка, замаскированная под эффективность.
Юридический язык имеет последствия, выходящие за рамки владения языком
Крупные языковые модели хорошо воспроизводят поверхностную форму законопроектов. Они могут создавать разделы, определения и инструкции по внесению поправок, которые выглядят знакомыми. Они не способны надежно понимать весь Кодекс США, юрисдикцию комитетов, прецеденты или операционные последствия изменения одной фразы в связанной законодательной схеме.
Модель может сослаться на положение, которого не существует, использовать термин иначе, чем в изменяемом законе, или создать обязанность, не указав орган, ответственный за её исполнение. Она может комбинировать формулировки из разных штатов или сфер политики с несовместимыми юридическими предположениями. Логичность изложения делает такие ошибки труднее заметить, поскольку проект не выглядит незавершённым.
Законодательный советник обычно работает через намерения с персоналом: какая часть населения охвачена, какие применяются исключения, как осуществляется принуждение и как предложение взаимодействует с существующими полномочиями. Чат-бот может заполнять паузы правдоподобным языком вместо того, чтобы выявлять нерешенный вопрос политики. Полученный черновик может скрывать разногласия, которые Конгрессу еще предстоит урегулировать.
Офис законодательного советника Палаты публикует подготовка руководства который подчеркивает ясность, последовательность и точное исправление существующего закона. Эти принципы зависят от суждений и институциональных знаний. ИИ может помогать с исследованиями или сравнением, но ответственность за действующий текст остаётся за людьми, которые понимают последствия.
Сторонние группы добавляют еще одну проблему. Лоббисты долгое время предоставляли образцы формулировок, а законодатели давно адаптировали предложения, написанные за пределами Капитолийского холма. ИИ меняет масштабы. Одна организация может создавать множество версий, адаптировать их под офисы и переполнять ограниченные возможности проверки. Количество может стать тактикой, даже если ни один отдельный проект не готов к принятию.
Бюро не может просто отвергать каждое представление с помощью ИИ, потому что трудно определить авторство, а некоторые применения могут быть ответственными. Юрист сотрудник может использовать модель для сравнения определений и затем проверить каждый результат. Другой человек может вставить запрос по политике в чат-бот и отправить результат без изменений. Важное различие заключается в проверке, а не в том, участвовала ли модель вообще.
Конгрессу нужны правила приема, а не запрет, который он не сможет обеспечить
Работоспособный ответ начинается с раскрытия информации. Офисы и внешние отправители должны указывать, когда генеративные инструменты создали значительные части черновика, какая система была использована и кто проверял результат. Эта информация поможет юристам распределять работу, не рассматривая раскрытие как доказательство того, что язык некорректен.
Подача документов также должна включать четкое изложение намерений политики и карту источников для каждой юридической ссылки. Если проект вносит изменения в действующее законодательство, автор должен предоставить текущий текст и объяснить предполагаемое изменение. Эти требования заставят того, кто подает документы, провести базовую проверку, прежде чем использовать ограниченное время юриста.
Конгресс мог бы разработать безопасные внутренние инструменты, которые извлекают информацию из авторитетных юридических источников и отмечают неподтверждённые ссылки. Извлечение информации не устраняет галлюцинации, но оно сужает набор источников и создаёт доказательства, которые рецензент может проверить. Любая система должна сохранять исходный фрагмент текста, а не просто прикреплять уверенный ответ.
Бюро подотчетности правительства разработало рамки подотчетности для федерального использования ИИ, построенного на управлении, данных, производительности и мониторинге. Аналогичная дисциплина должна применяться в законодательных рабочих процессах. У инструмента должна быть определённая цель, измеряемый уровень ошибок, назначенный владелец и процесс для сообщения о сбоях.
Обучение необходимо, но общие занятия по составлению подсказок не решат проблему. Сотрудникам нужны примеры законодательных провалов: вымышленные перекрестные ссылки, противоречивые определения, отсутствие полномочий для принудительного исполнения и формулировки, создающие непреднамеренные частные иски. Понимание способов провала полезнее, чем обучение тому, как сделать модель более формальной, а федеральная профиль риска генеративного ИИ предлагает практическую отправную точку для этого обучения.
Учреждение должно защищать своих собственных юристов от превращения в скрытый слой проверки. Если офис неоднократно предоставляет непроверенный текст, юрист должен иметь возможность вернуть его с требованиями уточнений, а не нести затраты на себя. Ответственность должна оставаться за членом и персоналом, ответственными за внесение законопроекта.
Дешевое составление законопроектов может сделать законы дороже
Парадокс заключается в том, что ИИ может сократить время, необходимое для создания первого черновика, при этом увеличивая время, необходимое для достижения достоверного языка. Эта закономерность проявляется также в программном обеспечении, исследованиях и обслуживании клиентов. Автоматизация порождает больше кандидатов, а эксперты тратят свое время на сортировку, исправление и документирование их.
Конгресс особенно уязвим, потому что его экспертные возможности ограничены. Комитеты и вспомогательные офисы обрабатывают сложные вопросы политики с ограниченным числом сотрудников, в то время как внешние интересы могут производить материалы в промышленных масштабах. Предоставление каждому участнику текстовой машины без увеличения ресурсов для проверки усугубляет дисбаланс.
Существуют ответственные способы использования. Модели могут сравнивать версии, обобщать публичные комментарии, выявлять условия, которые различаются в черновике, и помогать сотрудникам находить соответствующие положения. Эти задачи поддерживают человеческое суждение, а не притворяются, что его заменяют. Их также легче оценивать, потому что результаты могут быть проверены по определённому источнику.
Национальные архивы и Конгресс поддерживают авторитетные законодательные записи это должно быть якорем для любой внутренней системы. Цитата, сгенерированная моделью, должна ссылаться на официальную версию текста, и рецензент должен иметь возможность видеть точную использованную версию. Юридическая работа не может полагаться на память модели о том, что, вероятно, говорит закон.
Компании, занимающиеся искусственным интеллектом, также играют роль. Продукты, предназначенные для юридической или государственной работы, должны облегчать проверку источников, сохранять аудиторские следы и избегать создания впечатления, что отредактированный текст юридически достоверен. Предупреждения, скрытые в условиях обслуживания, мало что дают, если интерфейс побуждает пользователей создавать документы, выглядящие завершёнными.
Рабочая нагрузка юристов Палаты делает расходы видимыми до того, как ошибочный законопроект станет законом. Это к счастью. У института теперь есть возможность показать, что помощь машин не уменьшает человеческую ответственность. Конгресс может использовать ИИ для поддержки законодательной работы, но он не может передавать на аутсорсинг смысл собственных слов.
Темы: Конгресс, законодательство, генеративный ИИ, юридическое составление документов, управление