Этика
ИИ-чатботы предоставляли ненадежные советы по голосованию в ходе исследования на выборах в Венгрии
Исследование Liberties, о котором сообщил The Guardian, обнаружило, что ChatGPT и Gemini gave inconsistent давали неточные, а иногда и неуместные рекомендации по голосованию в ходе тестов, основанных на парламентских выборах в Венгрии 2026 года.
Майкл С ·
Новое исследование, основанное на парламентских выборах в Венгрии 2026 года, показало, что универсальные ИИ-чатботы давали избирателям неточные, непоследовательные и ненадежные политические советы, что ставит прямой вопрос о управлении компаниями, которые представляют разговорные системы как повседневные информационные интерфейсы. Гардиан сообщалось, что гражданский liberties Группа Liberties протестировала ChatGPT и ChatGPT на профилях избирателей, совпадающих с партиями в национальных списках Венгрии, и обнаружила, что системы неправильно классифицировали профили, упускали соответствующие партии и включали партии, которые не участвовали в выборах. Исследование не утверждает, что выводы чат-бота изменили результат выборов. Оно показывает, почему советы по голосованию плохо подходят для непрозрачных систем, которые могут звучать авторитетно, но выдавать нестабильные рекомендации.
Наиболее поразительное открытие касалось Tisza, оппозиционной партии во главе с Питером Мадьяром, которая убедительно одержала победу и положила конец долгому пребыванию Виктора Орбана у власти. Согласно отчету Guardian, когда ChatGPT получил подробный профиль избирателей, связанных с Тисай, в 90% случаев не рекомендовал Тису. В тестах с процентным сопоставлением ChatGPT присвоили Тисе балл только в 2% случаев. Системы также включали партии, не включённые в бюллетень 2026 года, в 96% ответов ChatGPT и Gemini. Эти ошибки не являются незначительными фактическими ошибками. В контексте выборов они могут исказить набор вариантов, которые избиратель считает реальными.
Проблему усугубляет способ подачи. Исследователи обнаружили, что чат-боты часто начинали с вежливых оговорок, заявляя, что не могут давать политические советы, а затем переходили к плотным и убедительным рекомендациям по партиям. Эта схема знакома во многих продуктах ИИ: предупредительная заметка в начале, за которой следует ответ, выглядящий структурированным, уверенным и полезным. В ситуациях с низкой ставкой такое противоречие может быть безвредным. На выборах это опасно, потому что пользователи могут воспринимать ответ как нейтральный анализ, когда система не может объяснить свой метод, воспроизвести один и тот же результат последовательно или гарантировать актуальность своей политической карты.
Венгрия стала полезным испытательным примером, потому что партийный ландшафт там менялся быстро. В отчёте указываются пробелы в обучающих данных, фильтры и ограничения в обработке языка как вероятные причины. Всплеск популярности Тисы после 2024 года означал, что знания статической модели могли отставать от политической реальности. Это объяснение правдоподобно, но оно не решает проблему. Выборы — это именно тот случай, когда актуальная информация имеет наибольшее значение. Чат-бот, который не может надёжно отличить текущие варианты голосования от устаревшего политического контекста, не должен вести себя как персонализированный помощник по голосованию.
Результаты выявляют пробел в регулировании в Европе. The Закон ЕС об ИИ создает обязательства для поставщиков ИИ общего назначения по оценке системных рисков, в то время как Закон о цифровых услугах охватывает системные риски для избирательных процессов на онлайн-платформах. Liberties утверждает, что многоцелевые чат-боты могут выпадать из-под этих режимов, когда они предоставляют политические рекомендации или советы по голосованию. Эта пробел важен, потому что люди всё чаще используют ИИ-системы в качестве заменителей поиска, движков советов и инструментов объяснения. Если эти системы влияют на гражданские решения, надзор не может ограничиваться только лентами социальных сетей и библиотеками политической рекламы.
Этическая проблема заключается не в том, что системы ИИ никогда не должны обсуждать политику. У избирателей есть законные вопросы относительно манифестов, правил голосования, кандидатов, коалиций и компромиссов в политике. Хорошо разработанный ассистент мог бы помочь людям найти официальную информацию о выборах, сравнить публичные партийные платформы и понять, как зарегистрироваться или подать бюллетень. Этическая граница пересекается тогда, когда общая система предлагает персонализированные рекомендации по партиям без прозрачных источников, воспроизводимости и защитных механизмов, которые предотвращают создание фантазийных вариантов или сокрытие релевантных.
Исправление продукта должно быть прямолинейным, но строгим. Когда пользователи просят совета по голосованию, чат-боты должны по умолчанию ссылаться на официальные выборные органы, актуальные списки бюллетеней, непартийные руководства по голосованию и явно цитируемые партийные материалы. Они должны избегать советовать пользователю, за кого голосовать, если система явно не предназначена, не проверена и не регулируется как инструмент для советов по голосованию. Если модель не имеет доступа к актуальным данным о выборах, она должна прямо об этом сообщить и отказаться от подбора советов для пользователя. Уверенность без возможности отслеживания не полезна как гражданская технология.
Это исследование также имеет значение за пределами Венгрии. В близких выборах небольшие ошибки в информации могут иметь значение, особенно для нерешившихся избирателей, новых партий, более молодых пользователей и людей, которые полагаются на чат-ботов, потому что традиционная гражданская информация трудна для восприятия. В многоязычных обществах риск может быть выше, поскольку политический язык быстро меняется, а местные данные могут быть скудными. Та же модель, которая работает удовлетворительно на политических вопросах в США или на английском языке, может не справиться, если спрашивать о меньших партиях, новых движениях или региональных правилах голосования.
Основная проблема заключается в том, что рекомендации по голосованию объединяют две задачи, с которыми обычные чат-боты справляются неравномерно: получение актуальной информации и рекомендации с учётом ценностей. Пользователь может описать свои опасения по поводу коррупции, налогов, климата, иммиграции, здравоохранения или внешней политики и спросить, какая партия ближе всего. Надёжная система рекомендаций по голосованию должна иметь актуальные манифесты, списки кандидатов, позиции коалиций, региональные правила голосования и прозрачный метод оценки. Общая модель может вместо этого полагаться на устаревшие тренировочные данные, фрагменты поиска, выводы об идеологии или завершение шаблонов. Ответ может выглядеть тщательно продуманным, хотя на самом деле опираться на хрупкую основу.
Венгерский случай особенно показателен, потому что политические изменения опередили память модели. Подъем Тисы изменил партийный ландшафт, но модель, обученная на старых или неравномерных источниках, могла по-прежнему рассматривать старые партии как более центральные. Это не странная ошибка для языковой модели; это именно то, что происходит, когда вероятностные системы просят суммировать быстро меняющуюся общественную сферу. Опасность заключается в том, что пользователь не видит неопределенности. Чат-бот может представлять устаревший политический контекст с той же плавностью, с какой он предоставляет стабильные факты, такие как столицы или исторические даты.
Традиционные приложения для голосования с советами не идеальны, но они обычно раскрывают свою методологию. Они задают структурированные вопросы, сопоставляют ответы с позициями партий, показывают процент совпадений, ссылаются на анкеты и различают области политики. Разговор с чат-ботом скрывает большую часть этой механики. Он может задавать уточняющие вопросы, но редко показывает, как каждый ответ повлиял на окончательный рейтинг. Он может давать рекомендацию по партии, но не предоставлять воспроизводимый путь к этой рекомендации. Для гражданских технологий такая непрозрачность не является незначительным дефектом дизайна. Она не позволяет пользователям, аудиторам и регуляторам проверить, одинаково ли система относится к партиям и избирателям.
Проблема не решается тем, что говорить пользователям, что они должны знать лучше. Продукты на основе ИИ продвигаются как универсальные помощники, замена поисковиков и экспертные консультанты. Компании получают выгоду, когда пользователи обращаются к этим системам с серьёзными вопросами. Они не могут затем отказываться от ответственности, когда вопрос становится политически чувствительным. Продукт, который вероятно будет получать запросы по выборам, должен иметь поведение, специфичное для выборов. Это может означать перенаправление к официальным источникам, ограничение персонализированных рекомендаций, демонстрацию неопределённости, отказ от ранжирования партий или использование проверенных непартийных наборов данных в период выборов.
Регуляторам придётся думать шире, чем просто реклама и ленты платформ. Закон о выборах традиционно сосредоточен на финансировании кампаний, доступе к СМИ, подавлении избирателей, целостности бюллетеней и распространении дезинформации через публичные каналы. Чат-боты создают приватный информационный канал. Вводящий в заблуждение ответ может быть предоставлен одному пользователю за раз, без публичного поста, который проверяющие факты смогут исследовать, или базы данных для таргетинга, которую регуляторы могли бы проверить. Это усложняет применение правил. Также это означает, что компаниям необходим внутренний мониторинг для классов запросов, связанных с выборами, потому что публичная видимость не поймает каждую ошибку.
Многоязычный аспект — это ещё одно предупреждение. Многие демократии функционируют на нескольких языках и региональных диалектах, в то время как большинство оценок ИИ остаются более сильными на английском языке. Модель может предоставлять более точную политическую информацию на языке с обширными данными для обучения и менее точные ответы на языке с меньшим количеством качественных источников. Это создаёт проблему справедливости. Избиратели, использующие языки меньшинств, могут получать менее надёжную помощь именно тогда, когда им больше всего нужна доступная гражданская информация. Безопасность ИИ в контексте выборов нельзя измерять только по крупнейшим языковым рынкам.
Результаты исследований в Венгрии также показывают, почему универсальная постфактум-проверка недостаточна для персонализированных политических рекомендаций. Фактчекер может опровергнуть публичное утверждение о том, что партия присутствует или отсутствует в списке для голосования. Намного сложнее проверить приватный разговор, в котором модель тихо исключает эту партию из ранжированной рекомендации. Вывод может не содержать ни одного явно ложного утверждения. Вред может заключаться в отсутствии релевантного варианта, в расстановке приоритетов для вопросов без раскрытия информации или в представлении партии как менее согласованной, чем это оправдывают ответы пользователя.
Избирательным органам, возможно, потребуется публиковать больше информации в машиночитаемом формате, если они хотят, чтобы системы ИИ правильно направляли пользователей. Официальные сайты часто содержат PDF-файлы, юридические уведомления, страницы на местных языках и фрагментированные обновления, которые читаемы людьми, но не всегда легко обрабатываются автоматизированными системами. Если чат-боты вообще собираются отвечать на избирательные вопросы, правительства и общественные организации могут снизить риск, предоставляя структурированные списки кандидатов, правила для избирательных участков, даты сдачи бюллетеней и беспартийную информацию о партиях. Это не освобождает компании ИИ от ответственности, но дает более безопасным системам лучшие данные для работы.
Существует также проблема бизнес-стимулов. Политические запросы могут составлять лишь небольшую часть общего трафика чат-ботов, поэтому компании могут недостаточно инвестировать в средства контроля, специфичные для выборов, до того как произойдет публичный сбой. Но сбои на выборах могут иметь непропорционально большие социальные последствия и репутационные риски. Ответственный поставщик должен рассматривать периоды выборов как окна высоких операционных рисков. Это означает предвыборные аудиты, временные ограничения, проверки актуальных данных, локализованную оценку и каналы эскалации для исследователей из гражданского общества, которые обнаружат ошибки до дня голосования.
Это исследование не следует рассматривать как доказательство того, что все гражданские инструменты ИИ обречены на провал. Ограниченный помощник может быть полезен, если он предоставляет официальную информацию, объясняет процедуры голосования, суммирует манифесты партий с указанием источников, переводит страницы правительства и избегает персонализированных рекомендаций. Разница заключается в дизайне. Гражданский информационный инструмент должен вести себя как тщательно подготовленный публичный справочник. Общий чат-бот, которому предлагают импровизировать политическую ориентацию, ведет себя скорее как непрозрачный публицист, даже когда он старается быть нейтральным.
Вопрос политической нейтральности особенно сложен, потому что нейтралитет не означает равного обращения. Модель, которая перечисляет все партии одинаково, может вводить пользователей в заблуждение, если некоторые партии отсутствуют в бюллетене. Модель, которая ранжирует партии по соответствию политике, нуждается в методе оценки. Модель, которая полностью отказывается от политического сопоставления, может разочаровать избирателей, ищущих достоверную информацию. Наиболее безопасный ответ — это не единая универсальная политика, а многоуровневый подход: официальные факты, сопоставления с источниками, прозрачные ограничения и отказ только в том случае, если система не может обосновать ответ.
Доступ к исследованиям — это еще один вопрос. Внешним группам нужны способы проверять политически чувствительное поведение, не нарушая условия платформы и не активируя системы защиты от злоупотреблений. Компании, конечно, ограничивают автоматическое тестирование, но аудит выборов требует многократного тестирования по подсказкам, языкам, местоположениям и профилям пользователей. Если платформы делают такие исследования слишком сложными, общественность узнает о сбоях только после того, как пользователи с ними столкнутся. Более здоровая система предоставляла бы структурированный доступ исследователям в периоды выборов вместе с каналами для сообщения об ошибках, требующих быстрого исправления.
Исследование также подчеркивает различие между отказом давать советы и предоставлением гражданской поддержки. Модель может отказаться говорить кому-то, за какую партию голосовать, при этом помогая им понять, как сравнивать платформы. Она может объяснить, что избирателям следует обращаться к официальным источникам, перечислить вопросы, которые избиратель может захотеть задать, и предоставить ссылки на избирательные органы или беспристрастные организации. Такой подход не оставляет пользователей в затруднительном положении. Он рассматривает модель как гид по надежным материалам, а не как источник персонализированного политического вердикта.
Сроки актуальности знаний модели — это проблема управления продуктом, а не только техническое ограничение. Выборы имеют фиксированные календари. Поставщики могут идентифицировать предстоящие национальные голосования, обновить источники данных, локализовать предупреждения и протестировать типичные гражданские запросы до того, как избиратели начнут массово их задавать. Если модели не хватает актуальных данных, продукт может об этом сообщить. Исследование по Венгрии напоминает, что устаревшие знания предсказуемы в быстро меняющейся политике. Предсказуемые ошибки требуют профилактического проектирования, а не ретроспективных извинений.
Вопрос для регуляторов заключается в том, как сделать эти превентивные меры обязательными к исполнению, не превращая каждую политическую дискуссию в нарушение нормативов. Практическая схема могла бы требовать оценки рисков в период выборов, публикации кратких отчётов о мерах защиты, предоставления исследователям доступа для аудита и создания быстрых каналов исправления ошибок, когда модели предоставляют неправильную информацию о бюллетенях. Она могла бы избегать контроля за каждым мнением, при этом рассматривая текущие фактические выборные данные как минимальный стандарт. Этот баланс труден, но альтернатива — оставлять частные системы ИИ принимать решения гражданского характера тихо, за один чат за раз.
Для пользователей самой безопасной привычкой является рассматривать чат-ботов как отправную точку, а не как авторитет в гражданских решениях. Но дизайн продукта не должен перекладывать всю ответственность на избирателя. Интерфейсы могут сделать официальные источники более видимыми, показывать дату политических данных, избегать неподтвержденных рейтингов партий и явно показывать степень неопределенности. Исследование в Венгрии полезно, потому что оно превращает общую обеспокоенность в проверяемые ошибки. Когда ошибки становятся проверяемыми, компании и регуляторы могут измерить, действительно ли меры безопасности улучшают следующий избирательный цикл.
Практический ориентир для улучшения прост: на следующем крупном аудите выборов чат-бот не должен придумывать партии, опускать жизнеспособные партии или предоставлять персонализированные рейтинги без прозрачного метода. Это скромный стандарт для систем, которые сейчас используются как повседневные инструменты получения информации, особенно когда избиратели могут никогда не увидеть второй источник. Это также стандарт, который компании могут протестировать до дня выборов, опубликовать после дня выборов и улучшить перед следующей кампанией.
Компании, названные в исследовании, вероятно, будут утверждать, что чатботы общего назначения не предназначены для замены официальных ресурсов выборов. Это справедливое замечание, но намерения больше недостаточно. Если пользователи спрашивают эти системы о советах по голосованию, а системы отвечают, продукт функционирует как гражданская инфраструктура, независимо от того, как компания это описывает. Более безопасный дизайн признавал бы намерение, связанное с выборами, и переходил бы в ограниченный режим, так же как запросы о здоровье, финансах или праве часто вызывают более осторожные ответы.
Более широкая демократическая проблема носит кумулятивный характер. Один плохой ответ чат-бота может не изменить исход выборов. Но миллионы частных разговоров могут формировать мнение избирателей о том, что важно, какие партии кажутся жизнеспособными и где искать авторитетную информацию. Опасность заключается не только в явной дезинформации. Это также тонкая установка повестки дня через опущения, устаревший контекст или непоследовательную подачу. Вот почему аудиты, такие как исследование Liberties, важны, даже если они не могут доказать влияние на выборы. Они выявляют класс ошибок до того, как он станет нормой.
Урок шире, чем дезинформация о выборах. Компании, занимающиеся ИИ, создают интерфейсы, которые пользователи все больше воспринимают как компетентных посредников. Это создает обязанность признавать, когда задача слишком важна, чтобы полагаться на общие уверенные разговорные ответы. Совет по голосованию — одна из таких задач. Самые безопасные системы не будут пытаться выглядеть мудрыми по каждому бюллетеню. Они будут знать, когда нужно отступить, сослаться на официальные источники и четко указать, что демократические выборы не должны проходить через непрозрачные и нестабильные прогнозы модели.
Темы: чат-боты ИИ, выборы, Венгрия, демократия