Mantis

Раздел

Новости и анализ этики ИИ

45 статей в этом разделе.

Проанализируйте, кто несет стоимость систем ИИ

Освещение этики исследует вопросы авторского права, согласия, труда, дипфейков, раскрытия информации и распределения рисков между технологическими компаниями и людьми, на которых влияют их продукты. В этом разделе этика рассматривается как вопрос операционного управления и управления, а не как абстрактная дискуссия.

Рассказы следуют за доказательствами из судов, от создателей, работников, исследователей и записей платформ. Они задаются вопросом, что знали компании, какие меры безопасности были доступны и справедливо ли распределяются преимущества и бремена внедрения.

Знаковые сущности

  • Anthropic
  • OpenAI
  • Google
  • Meta
  • Sony Music
  • Уорнер Чаппелл
  • Творческие союзы
  • Исследователи гражданского общества

Текущие темы освещения

  • Происхождение данных для обучения и вознаграждение создателей
  • Злоупотребление дипфейком, идентичность и ответственность платформ
  • Замещение на рабочем месте, разглашение и человеческая проверка
  • Общественное доверие, прозрачность и осознанное согласие

Отчётность Cornerstone

Sony Music и Warner Publishers подали в суд на Anthropic из-за предполагаемых пиратских обучающих данных

Этика ·

Sony Music и Warner Publishers подали в суд на Anthropic из-за предполагаемых пиратских обучающих данных

Sony Music Publishing, Warner Chappell и другие издатели подали в суд на Anthropic и двух соучредителей, утверждая, что компания получила защищённые авторским правом тексты песен и нотные записи через торрент и скрапинг для обучения Claude. Anthropic оспаривает эти утверждения, продолжая юридическую борьбу за то, можно ли отделить законное обучение модели от незаконного получения материалов.

Расследование Guardian выявляет инфраструктуру, стоящую за приложением для дипфейков ClothOff

Этика ·

Расследование Guardian выявляет инфраструктуру, стоящую за приложением для дипфейков ClothOff

Вторая фаза репортажа отслеживает сети, платежные системы и хостинговые службы, способствующие созданию несогласованных сексуальных дипфейков. Расследование выявляет пробелы в обеспечении правопорядка на платформах, у платежных процессоров и в правоохранительных органах.

Анализ Pew показывает, что более одной трети новых английских веб-страниц содержат тексты, написанные ИИ

Этика ·

Анализ Pew показывает, что более одной трети новых английских веб-страниц содержат тексты, написанные ИИ

Анализ 500 000 веб-страниц, опубликованных с момента запуска ChatGPT, проведённый Центром исследований Pew, выявил машинно-сгенерированный текст более чем на одной трети нового англоязычного веб-контента, при этом коммерческие сайты лидируют по уровню внедрения. Эти выводы вызывают вопросы о подлинности контента, точности его обнаружения и необходимости более ясных стандартов раскрытия информации.

Последние новости

Креативщики Голливуда сталкиваются с проблемой обучения ИИ-систем, которые могут лишить их работы

Этика ·

Креативщики Голливуда сталкиваются с проблемой обучения ИИ-систем, которые могут лишить их работы

Творческие работники в области кино и телевидения получают оплату за помощь в разработке инструментов искусственного интеллекта, при этом все больше обеспокоены тем, что эти же системы могут автоматизировать значительные части их будущей работы. Напряжение между немедленным доходом от обучения и долгосрочной потерей рабочих мест меняет способы, которыми индустрия развлечений ведет переговоры с технологическими компаниями.

Буткемп по искусственному интеллекту Гарвардской школы бизнеса стоимостью 699 долларов вызывает вопросы о раскрытии информации, оценке и замене преподавателей

Этика ·

Буткемп по искусственному интеллекту Гарвардской школы бизнеса стоимостью 699 долларов вызывает вопросы о раскрытии информации, оценке и замене преподавателей

Программа HBS Foundry Гарвардской школы бизнеса использует ИИ-аватаров для предоставления обратной связи во время практики презентаций стартапов и имитационных заседаний совета директоров за 699 долларов. Эта инициатива поднимает этические вопросы о прозрачности, результатах обучения и роли искусственных преподавателей в премиальных образовательных предложениях.

Google выигрывает аукцион на $10 миллионов за внутренние данные Spirit Airlines

Этика ·

Google выигрывает аукцион на $10 миллионов за внутренние данные Spirit Airlines

Google выиграла аукцион по продаже активов банкрота на примерно 100 миллионов электронных писем и 500 миллионов сообщений в Teams от обанкротившейся авиакомпании. Предложенная покупка показывает, что корпоративные архивы становятся продаваемыми активами для ИИ, одновременно вызывая сложные вопросы о ожиданиях сотрудников и праве собственности на данные.

Противник ИИ начинает отбывание тюремного срока после блокировки офиса OpenAI в Сан-Франциско

Этика ·

Противник ИИ начинает отбывание тюремного срока после блокировки офиса OpenAI в Сан-Франциско

Организатор движения против ИИ Винд Каофмайн начал отбывать наказание, связанное с блокадой штаб-квартиры OpenAI в 2025 году, выводя гражданское неповиновение в отношении развития продвинутого ИИ на новый юридический и политический уровень.

Дарио Амодей говорит, что ИИ должен приносить реальные медицинские прорывы, чтобы завоевать доверие общества

Этика ·

Дарио Амодей говорит, что ИИ должен приносить реальные медицинские прорывы, чтобы завоевать доверие общества

Генеральный директор Anthropic Дарио Амодеи утверждает, что маркетинг не обратит вспять недоверие общества к ИИ, и что отрасль должна приносить ощутимую пользу, включая значительный прогресс в исследованиях рака, при этом оставаясь честной в отношении рисков.

Метки ИИ-персон Spotify ставят силу рекомендаций в центр музыкальной политики

Этика ·

Метки ИИ-персон Spotify ставят силу рекомендаций в центр музыкальной политики

Spotify будет маркировать идентичности артистов, созданные с помощью ИИ, и по умолчанию не включать их музыку в редакционные и алгоритмические рекомендации, подход, который отделяет раскрытие информации от полного запрета, при этом сохраняя выбор пользователя.

Бот для бронирования в спортзал показывает, почему безопасность агента начинается с обычных разрешений

Этика ·

Бот для бронирования в спортзал показывает, почему безопасность агента начинается с обычных разрешений

Агент разработчика обнаружил и использовал уязвимость в системе бронирования спортзала, превратив обычный случай обхода очереди в явное предупреждение о том, что происходит, когда способные агенты сталкиваются с плохо спроектированной системой авторизации.

План водяных знаков Suno превращает дебаты об авторских правах музыкального ИИ в тест распределения

Этика ·

План водяных знаков Suno превращает дебаты об авторских правах музыкального ИИ в тест распределения

Suno заявляет, что будет наносить водяные знаки и отпечатки на треки, сгенерированные ИИ, одновременно ограничивая массовое распространение, ставя инструменты технического происхождения в центр своей реакции на судебные иски и проблемы с злоупотреблениями на платформах.

Стремление Китая к потреблению ИИ делает устройством, а не чат-ботом, новым испытанием конфиденциальности

Этика ·

Стремление Китая к потреблению ИИ делает устройством, а не чат-ботом, новым испытанием конфиденциальности

Стремление Пекина внедрять ИИ в повседневное потребление принесет больше интеллекта в устройства и услуги, делая контроль за данными и ответственность после продажи центральными факторами того, доверяют ли пользователи этим изменениям.

Новые объявления с ИИ от Google делают прозрачность особенностью продукта, а не сноской

Этика ·

Новые объявления с ИИ от Google делают прозрачность особенностью продукта, а не сноской

Google добавляет раскрытие информации «Как было создано это объявление» и обозначения ИИ к рекламе, размещая происхождение прямо перед пользователями, поскольку синтетические медиа становятся обычным явлением в коммерческих кампаниях.

Сотрудники ИИ просят правительства подготовиться к замедлению развития передового рубежа, а не слепо его преследовать

Этика ·

Сотрудники ИИ просят правительства подготовиться к замедлению развития передового рубежа, а не слепо его преследовать

Петиция, подписанная более чем 1100 сотрудниками компаний, занимающихся ИИ, призывает правительства создать возможности для сознательного замедления развития передовых систем, когда риски превышают оценку и контроль.

DeepMind и A24 приносят исследования в области ИИ в кино, сосредоточив внимание на творческом контроле

Этика ·

DeepMind и A24 приносят исследования в области ИИ в кино, сосредоточив внимание на творческом контроле

Google DeepMind и A24 объявили о научном партнерстве, которое помещает генеративный ИИ в контекст известной киностудии, где согласие, признание заслуг и творческий контроль будут иметь такое же значение, как и качество результата.

Google представляет обзоры ИИ во Франции, возобновляя борьбу за трафик с издателями

Этика ·

Google представляет обзоры ИИ во Франции, возобновляя борьбу за трафик с издателями

Французский запуск AI Overviews и AI Mode компанией Google выводит генеративный поиск на один из самых тщательно отслеживаемых медиа-рынков Европы, где издатели сосредоточены на атрибуции, компенсации и кликах.

OpenAI запускает ChatGPT Health для пользователей из США по мере того, как медицинский ИИ переходит к персональным данным

Этика ·

OpenAI запускает ChatGPT Health для пользователей из США по мере того, как медицинский ИИ переходит к персональным данным

OpenAI сделал ChatGPT Health доступным для взрослых в США, предоставив связанную с здоровьем информацию в ChatGPT и вызвав новые вопросы о медицинских консультациях, контроле конфиденциальности и клинической ответственности.

Издатели обдумывают запрет на Google, поскольку AI-резюме сокращают трафик поиска

Этика ·

Издатели обдумывают запрет на Google, поскольку AI-резюме сокращают трафик поиска

Сообщается, что Reddit и крупные издатели рассматривают возможность ограничения доступа Google к их контенту, так как AI-резюме снижают переходы по ссылкам и ослабляют старую договорённость о поиске.

Бета-версия Samsung Health Assistant приносит советы по оздоровлению с ИИ пользователям в США

Этика ·

Бета-версия Samsung Health Assistant приносит советы по оздоровлению с ИИ пользователям в США

Компания Samsung запустила Health Assistant в бета-версии для соответствующих критериям пользователей в США, связывая данные Samsung Health с рекомендациями по здоровью, созданными ИИ, при этом подчеркивая, что продукт не является медицинской консультацией.

ИИ-чатботы предоставляли ненадежные советы по голосованию в ходе исследования на выборах в Венгрии

Этика ·

ИИ-чатботы предоставляли ненадежные советы по голосованию в ходе исследования на выборах в Венгрии

Исследование Liberties, о котором сообщил The Guardian, обнаружило, что ChatGPT и Gemini gave inconsistent давали неточные, а иногда и неуместные рекомендации по голосованию в ходе тестов, основанных на парламентских выборах в Венгрии 2026 года.

Обвинения в нарушении Suno снова ставят под пристальное внимание данные для обучения музыки ИИ

Этика ·

Обвинения в нарушении Suno снова ставят под пристальное внимание данные для обучения музыки ИИ

Сообщения о том, что взломанные материалы Suno демонстрируют сбор данных с YouTube Music, Deezer, Genius и других источников, усилили вопросы о нарушении авторских прав и безопасности, связанные с генерацией музыки ИИ.

Генеративный поиск превращает согласие издателя в этическую проблему, а не только в юридическую

Этика ·

Генеративный поиск превращает согласие издателя в этическую проблему, а не только в юридическую

По мере того как ИИ-системы подготавливают краткие варианты отчетов до того, как читатели обратятся к источнику, согласие издателей становится проверкой того, сможет ли следующий интерфейс информации оставаться справедливым по отношению к людям, создающим надежный контент.

Отчёт OpenAI о планах по устройствам без экрана ставит конфиденциальность в центр внимания окружающего ИИ

Этика ·

Отчёт OpenAI о планах по устройствам без экрана ставит конфиденциальность в центр внимания окружающего ИИ

Сообщения о мобильном устройстве OpenAI без экрана показывают, почему следующая потребительская битва за ИИ будет касаться не только качества голоса или дизайна. Речь пойдет о том, когда помощник слушает, что он запоминает и сколько контроля сохраняют пользователи.

Лаборатории ИИ ослабляют обещания по безопасности в то время, как модели становятся сложнее для управления

Этика ·

Лаборатории ИИ ослабляют обещания по безопасности в то время, как модели становятся сложнее для управления

Новый индекс безопасности ИИ показывает, что крупные лаборатории отказываются от предыдущих обязательств по приостановке, в то время как передовые системы становятся более способными. Этот вывод превращает добровольную безопасность в центр борьбы за управление летом.

Воплощённому ИИ нужны стандарты безопасности раньше, чем ему нужны новые демонстрации гуманоидов

Этика ·

Воплощённому ИИ нужны стандарты безопасности раньше, чем ему нужны новые демонстрации гуманоидов

Гуманоидные роботы движутся к пилотам, но их внедрение по-прежнему зависит от оценок безопасности, правил телеуправления, страховки, тестирования и подотчетности. Следующим прорывом в робототехнике может стать управление.

Анти-наркотическое видео K-Pop с ИИ из Гонконга демонстрирует риски синтетических медиа для государственного сектора

Этика ·

Анти-наркотическое видео K-Pop с ИИ из Гонконга демонстрирует риски синтетических медиа для государственного сектора

Решение Гонконга убрать созданное ИИ анти-наркотическое видео — это не просто неловкая история кампании. Оно показывает, почему правительствам нужны более строгие процедуры проверки перед использованием синтетических медиа в сообщениях о здравоохранении.

Raise US превращает тревогу по поводу ИИ среди рабочей силы в стратегию коалиции

Этика ·

Raise US превращает тревогу по поводу ИИ среди рабочей силы в стратегию коалиции

Новая коалиция рабочей силы, поддержанная крупными игроками в области ИИ и технологий, показывает, что переподготовка стала частью права отрасли на деятельность, а не побочной программой.

Проблема искусственного интеллекта Голливуда становится финансовой проблемой для крупных технологий

Этика ·

Проблема искусственного интеллекта Голливуда становится финансовой проблемой для крупных технологий

Отношения Голливуда с ИИ становятся всё более сложными, поскольку студии, стриминговые сервисы и технологические компании финансово переплетаются. Критическое повествование о ИИ теперь должно лавировать среди тех же компаний, которые финансируют инструменты, дистрибуцию и производство.

Рекламные объявления с использованием ИИ и дипфейков становятся обычной инфраструктурой кампаний

Этика ·

Рекламные объявления с использованием ИИ и дипфейков становятся обычной инфраструктурой кампаний

Axios сообщает, что политическая реклама, созданная с помощью ИИ, распространяется в ходе промежуточных выборов 2026 года, часто раньше, чем избиратели, платформы или регулирующие органы могут договориться о нормах раскрытия информации. Пример использования в кампании показывает, как синтетические медиа становятся мощными, когда они дешевы, локальны и могут быть отрицаны.

Новый документальный фильм показывает злоупотребление ИИ-дипфейками в борьбе за ответственность платформ

Этика ·

Новый документальный фильм показывает злоупотребление ИИ-дипфейками в борьбе за ответственность платформ

Новый документальный фильм Дженнифер Сибел Ньюсом «Miss Representation: Rise Up» освещает вред социальных сетей, онлайн-мизогинию и злоупотребление дипфейками с использованием ИИ. Фильм выходит в то время, когда регуляторы и платформы сталкиваются с растущим давлением, чтобы рассматривать синтетические сексуальные изображения как проблему общественной безопасности.

Следующая битва за безопасность ИИ переходит к скринингу ДНК

Этика ·

Следующая битва за безопасность ИИ переходит к скринингу ДНК

Лидеры в области ИИ сходятся во мнении по вопросу биобезопасности, который раньше находился за пределами основной дискуссии об ИИ: проверка синтеза генов. По мере того как модели улучшаются в биологическом рассуждении, возникает вопрос, смогут ли меры контроля за заказом ДНК идти в ногу с развитием событий до того, как злоупотребление станет проще.

Ограничения на оборону Anthropic теперь являются частью дебатов о автономном оружии

Этика ·

Ограничения на оборону Anthropic теперь являются частью дебатов о автономном оружии

Ограничения Anthropic на наблюдение и использование автономного оружия стали точкой отсчёта в дискуссии о военном ИИ. Проблема больше, чем одна компания: перед передовыми лабораториями стоит задача определить, где заканчиваются коммерческие возможности и начинается регулирование оружия.

Стремление Anthropic повлиять на экономику на 200 миллионов долларов превращает потерю рабочих мест в вопрос ИИ на уровне совета директоров

Этика ·

Стремление Anthropic повлиять на экономику на 200 миллионов долларов превращает потерю рабочих мест в вопрос ИИ на уровне совета директоров

Приверженность Anthropic финансированию исследований экономического воздействия ИИ переводит дебаты о рынке труда от абстрактного страха к оперативному планированию. Более глубокий вопрос заключается в том, будут ли компании, которые получают выгоду от автоматизации, помогать создавать институты, необходимые для её освоения.

Предложение паузы Anthropic возвращает координацию в центр внимания при обеспечении безопасности ИИ

Этика ·

Предложение паузы Anthropic возвращает координацию в центр внимания при обеспечении безопасности ИИ

Недавний призыв Anthropic к согласованной опции приостановки, если риски передового ИИ ускорятся, заключается не столько в том, чтобы остановить ИИ сегодня, сколько в том, чтобы заставить правительства и лаборатории ответить на трудный вопрос: как на самом деле выглядело бы коллективное сдерживание, если предупреждающие знаки станут неоспоримыми?

Magnifica Humanitas: 42 000-словное размышление Папы Льва XIV об искусственном интеллекте

Этика ·

Magnifica Humanitas: 42 000-словное размышление Папы Льва XIV об искусственном интеллекте

В первой энциклике своего понтификата Папа Лев XIV опубликовал самый всеобъемлющий моральный анализ искусственного интеллекта, когда-либо созданный крупной религиозной организацией. Этот документ объемом 42 000 слов призывает «разоружить» ИИ от его конкурентной логики — и называет Anthropic по имени.

Первый нулевой день, написанный ИИ: когда автономные кибератаки становятся неотличимы от человеческих

Этика ·

Первый нулевой день, написанный ИИ: когда автономные кибератаки становятся неотличимы от человеческих

Раскрытие Google уязвимости нулевого дня, созданной ИИ, в мае 2026 года заставило столкнуться с вопросом, который сообщество безопасности долго откладывало: каковы этические обязательства лабораторий ИИ, чьи модели могут самостоятельно обнаруживать и использовать уязвимости в виде оружия?

Собственное исследование OpenAI признает, что работники не получают выгоды от прироста производительности благодаря ИИ

Этика ·

Собственное исследование OpenAI признает, что работники не получают выгоды от прироста производительности благодаря ИИ

Тихо опубликованный в апреле 2026 года аналитический документ OpenAI признает, что прирост производительности от инструментов ИИ не поступает к работникам, которые ими пользуются, что вызывает неприятные вопросы о социальном договоре компании.

Конгресс движется к уголовному наказанию за распространение глубоких фейков — объяснение двухпартийного законопроекта о ИИ представителя Лью

Этика ·

Конгресс движется к уголовному наказанию за распространение глубоких фейков — объяснение двухпартийного законопроекта о ИИ представителя Лью

Новый законопроект Палаты представителей, представленный 27 мая, сделал бы распространение дипфейков без согласия федеральным преступлением, защитил бы информаторов в области ИИ и требовал бы от США участия в международных органах по стандартам ИИ. Вот что он на самом деле делает.

Приказ о защите работников ИИ в Калифорнии: Ньюсом подписывает исполнительный указ N-6-26 — но достаточно ли этого?

Этика ·

Приказ о защите работников ИИ в Калифорнии: Ньюсом подписывает исполнительный указ N-6-26 — но достаточно ли этого?

Губернатор Гэвин Ньюсом подписал Исполнительный указ N-6-26 21 мая, требующий от государственных агентств подготовки поддержки увольняемых работников, пострадавших из-за ИИ. Профсоюзы говорят, что это начало — но опасно недостаточное.

Кризис согласия: почему обучение ИИ на данных людей требует новой правовой базы

Этика ·

Кризис согласия: почему обучение ИИ на данных людей требует новой правовой базы

Крупнейшие наборы данных для обучения ИИ были созданы путём скрапинга миллиардов изображений, статей и видео без явного согласия. По мере роста судебных исков и требования регуляторов к ответственности правовая база на основе согласия становится неизбежной.

Алгоритмическая предвзятость в уголовной юстиции: как инструменты оценки рисков на основе ИИ увековечивают системное неравенство

Этика ·

Алгоритмическая предвзятость в уголовной юстиции: как инструменты оценки рисков на основе ИИ увековечивают системное неравенство

Более десяти лет суды США используют алгоритмические инструменты оценки риска для прогнозирования рецидивизма. Эти инструменты обещали объективность. Вместо этого они систематизировали расовую предвзятость, продолжая те же неравенства, которые существуют в системе уголовного правосудия.

Ловушка наблюдательного капитализма: как компании в сфере ИИ зарабатывают на вашем внимании — и что о регуляторы наконец начинают с этим делать

Этика ·

Ловушка наблюдательного капитализма: как компании в сфере ИИ зарабатывают на вашем внимании — и что о регуляторы наконец начинают с этим делать

За последнее десятилетие бизнес-модель компаний, занимающихся ИИ, была проста: собирать как можно больше личных данных, создавать модели, которые предсказывают поведение пользователей, и продавать эту предсказательную возможность рекламодателям.

Гонка вооружений по обнаружению дипфейков ускоряется — и защитники проигрывают

Этика ·

Гонка вооружений по обнаружению дипфейков ускоряется — и защитники проигрывают

По мере того как синтетические медиа, созданные с помощью ИИ, становятся неотличимыми от подлинного контента, компании, разрабатывающие инструменты для их обнаружения, испытывают трудности с темпом работы генераторов. Новый отчет документирует растущий разрыв.

Увольнения на Уолл-стрит, вызванные ИИ, растут — и финансы это только начало

Этика ·

Увольнения на Уолл-стрит, вызванные ИИ, растут — и финансы это только начало

Крупные банки, включая Citi и Goldman Sachs, используют ИИ для сокращения рабочих мест в области юридической экспертизы, операций с счетами и финансового анализа, при этом сокращения происходят быстрее, чем это предполагают публичные заявления.