Этика
Дарио Амодей говорит, что ИИ должен приносить реальные медицинские прорывы, чтобы завоевать доверие общества
Генеральный директор Anthropic Дарио Амодеи утверждает, что маркетинг не обратит вспять недоверие общества к ИИ, и что отрасль должна приносить ощутимую пользу, включая значительный прогресс в исследованиях рака, при этом оставаясь честной в отношении рисков.
Майкл С ·
Генеральный директор Anthropic Дарио Амодеи говорит, что индустрия ИИ не завоюет доверие общественности через более оптимистичную маркетинговую кампанию. Он должен будет приносить ощутимые преимущества, включая реальные достижения в медицине. В ответ на критику его предупреждений о рисках ИИ, Амодей сказал, что более острая критика заключается в том, что компании, занимающиеся ИИ, пока не выполнили свои крупнейшие обещания по улучшению жизни людей.
Его формулировка была намеренно резкой: говорить, что ИИ вылечит рак, стало клише, тогда как фактическая помощь в лечении рака изменит аргумент. Амодеи сказал, что Anthropic увеличивает свою работу в области биологии и медицины и надеется показать первые результаты в ближайшие месяцы. Он не объявлял о лечении, клиническом результате или конкретной исследовательской вехе.
Это различие должно оставаться в центре истории. Рак — это широкая семью заболеваний, а не одна головоломка, которую чат-бот может решить. Любой достоверный вклад пройдет через лабораторные эксперименты, клинические испытания, регуляторную проверку и трудную работу по предоставлению лечения пациентам. Модель может ускорить части этого процесса, не заменяя его.
Доверие — это результат, а не кампания
Аргумент Амодеи признает проблему, которую многие лидеры технологий предпочитают рассматривать как неудачу в коммуникации. Общественный скептицизм связан с претензиями о нарушении авторских прав, неуверенностью в работе, строительством дата-центров, непрозрачными продуктами и концентрацией принятия решений в небольшой группе компаний. Лучше реклама не может решить эти материальные конфликты.
Business Insider цитирует Исследование Pew обнаруживая, что примерно половина американцев чувствует больше обеспокоенности, чем восторга по поводу растущей роли ИИ в повседневной жизни. Обеспокоенность не одинакова. Люди могут приветствовать систему, которая улучшает диагностику, одновременно отвергая ту, которая оценивает их на работе или имитирует художника без разрешения. Общественное мнение следует за использованием и за институтом, стоящим за этим, а не за самим ярлыком ИИ.
Таким образом, медицинское утверждение создаёт строгий стандарт подотчётности. ИИ-компании должны определить, что внесли их системы, как были подтверждены результаты и кто владеет полученной интеллектуальной собственностью. Они также должны объяснить, могут ли исследователи вне состоятельных учреждений использовать соответствующие инструменты. Прорыв, который остаётся запертым за недоступными ценами, может улучшить репутацию лаборатории без восстановления более широкого доверия.
Есть реальные доказательства того, что машинное обучение может способствовать науке. AlphaFold изменило темп, с которым исследователи могут предсказывать структуры белков, и было использовано в широкой исследовательской среде. Это достижение не исключило экспериментальную биологию. Оно дало ученым мощную новую отправную точку и показало, как выглядит успех, когда вычислительное достижение связано с четко определенной научной задачей.
Генеративные модели сталкиваются с более сложным путём доказательства. Плавный результат может скрывать неопределённость, и правдоподобное биологическое объяснение всё ещё может быть неверным. Системы, используемые в разработке лекарств, требуют оценок, связанных с экспериментальными результатами, а не только с языковыми бенчмарками. Наиболее ценная модель может быть той, которая сужает пространство поиска и фиксирует причины этого, а не той, которая говорит наиболее уверенно о лечении.
Доставка также означает доступ
Амодеи утверждал, что передовой ИИ может сжать десятилетия биологического прогресса в более короткий период. Даже если это предсказание окажется в целом правильным, открытие — это лишь один узкий момент. Возможности проведения клинических испытаний, производство, бюджеты системы здравоохранения и штат регуляторов определяют, станет ли идея лечением. Управление по контролю за продуктами и лекарствами не может одобрить обещание, а больницы не могут применять эталон.
Индустрия ИИ может помочь не только в исследовании моделей. Она может поддерживать поиск соответствующих клинических испытаний, улучшать документацию, выявлять закономерности нежелательных явлений и сокращать административную работу, которая отвлекает врачей от пациентов. Эти приложения могут звучать менее драматично, чем лечение рака, но измеримые успехи в них могут укрепить доверие, поскольку люди непосредственно ощущают результат.
Компаниям также необходимо избегать использования медицинских амбиций как оправдания вреда в других областях. Модель, которая способствует исследованиям, не решает вопросы о вытеснении рабочей силы, наблюдении или экологических затратах. Фармацевтические компании могут поставлять эффективные лекарства и при этом оставаться недоверенными из-за цен и доступности. Компании в области ИИ столкнутся с той же оценкой по полному спектру их поведения.
Амо́дей признал, что более широкое недоверие к корпорациям существует задолго до нынешнего бума ИИ. Именно поэтому важна прозрачность. Если Anthropic создает первые научные проблески, о которых он говорил, следует публиковать методы, ограничения и независимые оценки, прежде чем превращать их в рекламную кампанию. Чем важнее утверждение, тем меньше население должно полагаться на компанию, которая его делает.
Заявление генерального директора звучит наиболее убедительно, когда его читать как обязательство, а не как прогноз. Anthropic призвал правительства, клиентов и сообщества принять быстрое развитие, поскольку потенциальные выгоды огромны. Общественность имеет право требовать доказательств того, что эти выгоды действительно приходят, кто их получает и какие расходы были понесены на этом пути.
Лечение рака никогда не будет событием одного дня запуска, и ни один ответственный ученый не должен представлять это таким образом. Доверие может расти через более спокойную последовательность: гипотезу, которая подтверждается, испытание, которое работает, врача, который экономит время, лечение, которое пациенты могут получить. Если компании, занимающиеся ИИ, хотят заслужить доверие, именно эти вехи имеют значение.
Темы: Дарио Амодеи, Anthropic, исследования рака, общественное доверие