Этика
Бета-версия Samsung Health Assistant приносит советы по оздоровлению с ИИ пользователям в США
Компания Samsung запустила Health Assistant в бета-версии для соответствующих критериям пользователей в США, связывая данные Samsung Health с рекомендациями по здоровью, созданными ИИ, при этом подчеркивая, что продукт не является медицинской консультацией.
Майкл С ·
Samsung запустила Health Assistant в бета-версии для подходящих пользователей в США, что позволяет генеративному ИИ взаимодействовать более напрямую с персональными данными о состоянии здоровья, которые миллионы людей уже собирают через телефоны, часы и кольца. Компания сообщила 21 июля, что эта функция интегрирована с Samsung Health и может связывать информацию о сне, активности, питании, внимательности и показателях жизнедеятельности. Он разработан так, чтобы пользователи могли задавать вопросы о своих данных о здоровье и получать персонализированные рекомендации. Samsung также ясно заявляет, что Health Assistant не будет давать медицинские советы, рекомендации по диагностике или рекомендации по лечению.
Это заявление об отказе от ответственности не является юридическим шаблоном. Оно определяет границу между благополучием потребителя и здравоохранением. Носимое устройство может сообщать пользователю, что сигналы сна, сердечного ритма, активности и стресса, по-видимому, связаны. Оно не должно сообщать пользователю, что у него есть заболевание или что ему следует изменить лекарство. Чем более уверенным становится помощник, тем важнее эта граница. Уверенное объяснение может восприниматься как клиническое суждение, даже если продукт не регулируется и не проходит валидацию как медицинское устройство.
Компания Samsung заявляет, что рекомендации проверяются врачами и сертифицированные коучи по здоровью, и что система опирается на базу знаний Samsung Health. Это полезное подтверждение, но оно не снимает необходимости в независимой проверке. Персонализированные рекомендации по оздоровлению могут влиять на физические упражнения, сон, питание, управление стрессом и медицинское наблюдение. Даже когда продукт избегает диагностики, он всё равно может влиять на поведение таким образом, который важен для уязвимых пользователей.
Контекст данных необычно чувствителен. Samsung заявляет, что Health Assistant может использовать Движок персональных данных в качестве контекста для будущих возможностей, включая сигналы расписания и предпочтений. Это могло бы сделать рекомендации более полезными. Это также поднимает обычные вопросы конфиденциальности в более интимной обстановке. Данные о здоровье, модели календаря, ежедневные привычки, записи сна и сигналы стресса раскрывают больше, чем предпочтения в продуктах. Пользователям нужны чёткие инструменты управления тем, что используется, что хранится, что можно удалить и достигают ли какие-либо данные третьих лиц.
Поглощение компанией Samsung Xealth дает истории второй слой. Samsung говорит, что сделка может соединить пользователя-consentделиться информацией о здоровье с командами врачей безопасно и в больших масштабах. Это мощное направление, если его правильно использовать. Оно может помочь людям превращать пассивные данные в лучшие разговоры с клиницистами. Это также может размыть грань между потребительским отслеживанием и медицинской инфраструктурой, если потоки согласия, обмен данными и клиническая ответственность не будут ясны.
Эта функция также показывает, как потребительский ИИ внедряется в вертикальные продукты. Общий чат-бот может ответить на вопрос о фитнесе. Ассистент по здоровью, подключенный к экосистеме носимых устройств, может интерпретировать ежедневные паттерны и действовать внутри продукта, который люди уже используют. Это делает советы более релевантными, но также затрудняет замечание ошибок, потому что они появляются в доверенном контексте. Проблема дизайна заключается не только в точности. Важно раскрытие информации, калибровка и отказ, когда вопрос касается медицинской сферы.
Samsung не одинок в этом направлении. Apple, Google, Fitbit, Oura, Whoop и компании, занимающиеся медицинскими технологиями, все пытаются превратить пассивное отслеживание в действенные рекомендации. Конкурентное преимущество будет зависеть от качества сенсоров, продольных данных, доверия пользователей и интеграции с клиническими системами. Регуляторные риски возрастут, если эти продукты будут делать более конкретные заявления или станут частью схем ухода.
Для пользователей самым безопасным чтением является практическое. Помощник по здоровью может помочь людям понять закономерности, которые они в противном случае игнорировали бы. Он не должен заменять врача, и компания Samsung заявляет, что не будет этого делать. Риск заключается в том, что продукт, созданный для того, чтобы казаться полезным, может стать более убедительным, чем это поддерживают доказательства. Хороший дизайн делает неопределённость видимой, а не скрывает её за отполированным разговорным языком.
Для Samsung запуск — это ставка на то, что ИИ может сделать носимые устройства более ценными, преобразуя данные в контекст. У компании есть аппаратная база, чтобы сделать эту ставку правдоподобной. Тестом общественного интереса является то, сможет ли она сделать советы полезными, не позволяя помощнику по вопросам здоровья стать нелицензированным медицинским голосом в кармане пользователя.
Темы: Samsung, Помощник по здоровью, ИИ в медицине, носимые устройства