Этика
Отчёт OpenAI о планах по устройствам без экрана ставит конфиденциальность в центр внимания окружающего ИИ
Сообщения о мобильном устройстве OpenAI без экрана показывают, почему следующая потребительская битва за ИИ будет касаться не только качества голоса или дизайна. Речь пойдет о том, когда помощник слушает, что он запоминает и сколько контроля сохраняют пользователи.
Майкл С ·
Сообщает, что OpenAI исследует мобильное устройство для потребителей без экрана, возобновляя старый технологический спор в новой форме: помощник, к которому всегда легче обратиться, может также легче проникать во слишком многое в жизни человека.
Привлекательность амбиентного ИИ очевидна. Устройство, которое естественно реагирует через голос, может сократить ритуал разблокировки телефона, открытия приложения и набора запроса. Оно может быть полезно при ходьбе, приготовлении еды, вождении, работе с инструментами или помощи кому-то, кто не может легко пользоваться экраном.
Вопрос конфиденциальности начинается с того же удобства. Экран даёт человеку видимые границы: это приложение открыто, эта камера включена, это сообщение отправляется. Окружающий помощник может размывать эти границы, если его состояние прослушивания, поведение при записи и сохранение данных не будут абсолютно ясно обозначены.
Это означает, что физические возможности по-прежнему имеют значение. Аппаратный переключатель звука, видимое состояние микрофона, локальная обработка опции, элементы управления удалением и легко понятная история активности — это не мелочи. Это разница между продуктом, который пользователи могут проверить, и тем, которому они просто должны доверять.
Задача проектирования усложняется, когда устройство продается как компаньон. Голосовые системы могут казаться интимными, потому что они разговорчивы, отзывчивы и присутствуют в моментах, которые раньше принадлежали личным размышлениям. Это может заставлять людей раскрывать больше информации, чем они сделали бы в поисковой строке или форме приложения.
OpenAI не публиковал подробную дорожную карту потребительских устройств, и любые сообщаемые планы могут измениться. Но направление движения ясно во всей отрасли. Крупнейшие компании в области ИИ ищут интерфейсы, которые выходят за рамки вкладки браузера, где помощник может быть присутствовать в течение всего дня, а не вызываться только по необходимости.
Регуляторы будут заботиться о согласии, минимизация данных, использование детьми и соответствует ли поведение продукта ожиданиям людей поблизости, а не только его зарегистрированного владельца. Семьи и рабочие места будут заботиться о более базовом вопросе: могут ли они определить, когда система обращает внимание.
Гонка аппаратного обеспечения вознаградит продукты, которые кажутся волшебными. Долговечными победителями станут те, кто делает свои границы такими же заметными, как и свой интеллект.
Темы: OpenAI, ИИ-аппаратное обеспечение, конфиденциальность, окружающие вычисления