Этика
Apple позволяет пользователям согласиться на обучение Siri и интеллектуальных систем Apple
Apple обновила информацию о своих модельных основаниях, указав, что пользователи могут добровольно предоставлять данные для улучшения Siri и Apple Intelligence, что создаёт новый тест на то, может ли значимое согласие сосуществовать со стратегией компании по защите конфиденциальности в области ИИ.
Майкл С ·
КУПЕРТИНО, Калифорния. Apple изменила описание базовых моделей, стоящих за Siri и Apple Intelligence, заявив люди могут согласиться чтобы помочь улучшить эти системы, добавляя путь добровольного внесения данных в стратегию продукта, основанную на обработке на устройстве и частных облачных вычислениях. Apple заявляет, что личные данные и взаимодействия не используются для обучения, если пользователь явно не выбирает участие.
Это различие важно, потому что помощники становятся лучше, когда разработчики могут изучать реальные ошибки, акценты, языки и неоднозначные запросы. Apple сознательно ограничила рутинный доступ к таким взаимодействиям. Программа с возможностью участия по согласованию может предоставить доказательства того, что искусственные тесты и контролируемые красные команды упускают, но только если согласие является информированным, обратимым и достаточно узким, чтобы пользователи понимали, что они предоставляют.
Конфиденциальность по умолчанию удовлетворяет потребность в обратной связи
Модели третьего поколения Apple работают на устройствах и на Частные облачные вычисления для запросов, требующих больших систем. Архитектура разработана таким образом, чтобы минимизировать количество личной информации, доступной серверам, и позволить внешним исследователям изучать части дизайна облачной безопасности. Это дает компании другую отправную точку по сравнению с сервисами, которые обрабатывают большинство взаимодействий централизованно.
Семейство моделей поддерживает новый Siri, редактирование фотографий, Image Playground и выразительные голоса на широком наборе языков. Локальная обработка может уменьшить задержку и передачу данных, но она также усложняет улучшение, потому что разработчики видят меньше естественных примеров, где система дает сбой. Добровольный вклад — один из способов закрыть этот разрыв в обратной связи, не делая сбор данных по умолчанию.
Осознанное согласие требует большего, чем переключатель с надписью «улучшить продукт». Apple должна объяснить, какие взаимодействия могут быть проанализированы, будут ли они связаны между сессиями, как удаляются идентификаторы, как долго хранятся данные и может ли человек удалить внесённый ранее вклад. Чем более интимным становится помощник, тем вероятнее, что обычный запрос будет содержать информацию о здоровье, отношениях, местоположении или финансах.
Голос создает дополнительную чувствительность. Запись может раскрыть личность, эмоции, фоновый разговор и детали окружающей среды помимо слов, которые транскрибируются. Программе может понадобиться некоторый необработанный аудиоматериал для улучшения распознавания речи, но она не должна считать каждый сопутствующий сигнал одинаково необходимым. Минимизация данных означает сбор только того, что поддерживает заявленную исследовательскую цель, и отбрасывание остального.
Вопрос качества также является вопросом справедливости
Наборы данных с добровольным участием редко бывают репрезентативными. Люди, готовые делиться своими взаимодействиями, могут отличаться по возрасту, региону, технической уверенности или предпочтениям в отношении конфиденциальности. Языки с меньшей пользовательской базой могут оставаться недопредставленными, даже если программа носит глобальный характер. Apple утверждает, что использует многоязычное согласование и команды носителей языка для проверки, но данные, предоставленные добровольно, следует оценивать с точки зрения предвзятости, введенной самим участием.
Узкая программа все еще может быть ценной, если Apple публикует достаточно агрегированной информации, чтобы сторонние лица могли понять охват. Компании не нужно раскрывать частные примеры. Она может сообщать о участии по языкам, по широким категориям ошибок, о правилах сохранения и об изменениях, сделанных на основе предоставленных данных. Прозрачность делает возможным оценить, принесло ли соблюдение конфиденциальности реальное улучшение.
Регуляторы все чаще различают данные, необходимые для предоставления услуги, и данные, повторно используемые для улучшения будущих моделей. Явное согласие (opt-in) соответствует этому различию, но дизайн интерфейса имеет значение. Выбор, размещенный во время настройки, окруженный другими экранами и описанный только в положительных терминах, может быть юридически оправданным, но при этом фактически не понятным. Отказ от участия не должен снижать функциональность основного продукта.
Это изменение также создаёт конкурентный сигнал. Apple заявляет, что качество модели не требует доступа по умолчанию ко всем приватным взаимодействиям. Конкуренты могут утверждать, что централизованные данные обеспечивают более быстрое улучшение. Apple делает ставку на то, что архитектура, синтетические данные, red teaming и добровольные примеры могут предоставить способного ассистента при сохранении более жёсткой границы по умолчанию.
Это утверждение будет проверено в обычном использовании. Если Siri будет обрабатывать больше языков и сложные запросы при условии, что участие по выбору остаётся ясным и ограниченным, Apple покажет, что конфиденциальность может формировать инженерные решения, а не идти следом за ними. Если компания постепенно расширит значение участия, новая программа может стать настолько масштабным исключением, что ослабит принцип, который она должна сохранять.
Темы: Apple, Siri, интеллект Apple, конфиденциальность, учебные данные