Этика
Креативщики Голливуда сталкиваются с проблемой обучения ИИ-систем, которые могут лишить их работы
Творческие работники в области кино и телевидения получают оплату за помощь в разработке инструментов искусственного интеллекта, при этом все больше обеспокоены тем, что эти же системы могут автоматизировать значительные части их будущей работы. Напряжение между немедленным доходом от обучения и долгосрочной потерей рабочих мест меняет способы, которыми индустрия развлечений ведет переговоры с технологическими компаниями.
Майкл С ·
Сценаристы, аниматоры, специалисты по визуальным эффектам и другие творческие профессионалы в Голливуде сталкиваются с парадоксом: их нанимают для обучения систем искусственного интеллекта, которые однажды могут их заменить. Как задокументировал отчет The Guardian, такая ситуация создала сложный этический ландшафт, где работники балансируют между насущной финансовой потребностью и экзистенциальным профессиональным риском, поднимая трудные вопросы о согласии после получения информации, справедливом вознаграждении и будущем творческого труда в индустрии развлечений.
Сама работа достаточно проста. Студии и технологические компании нанимают креативных специалистов для аннотирования сценариев, маркировки сцен, описания визуальных композиций и тегирования диалогов таким образом, чтобы это помогало обучать модели машинного обучения. Оплата варьируется от гонораров за проект до почасовой ставки, и для некоторых работников, столкнувшихся с спадом индустрии или перерывами между проектами, такой доход обеспечивает необходимую финансовую стабильность. Один сценарист описал эту работу как доступную и относительно хорошо оплачиваемую по сравнению с начальными позициями в индустрии, что делает её привлекательным вариантом в периоды экономической неопределённости. Отчёт The Guardian документирует отчётность, лежащую в основе этой записи.
Тем не менее долгосрочные расчёты беспокоят многих участников. Они учат машины распознавать и воспроизводить те же творческие решения, которые сами принимают для жизни. Аниматор, работающая над маркировкой движения персонажей для захвата движения, прямо признала существующее напряжение: она понимает, что каждый проект, который она маркирует, делает основную систему более сложной, потенциально снижая спрос на человеческих аниматоров. Это осознание вызывает дискомфорт в сочетании с практической реальностью: ей нужна работа сейчас. Положение при переговорах асимметрично. У работников нет значимых рычагов для переговоров о условиях, которые могли бы защитить их будущие интересы, и большинство не имеют формальных каналов для выражения обеспокоенности по поводу кумулятивного эффекта их участия.
Индустрия развлечений недавно помнит трудовые споры, напрямую связанные с технологическими изменениями. Т Гильдия сценаристов Америки и SAG-AFTRA за последние восемнадцать месяцев заключили соглашения, касающиеся использования ИИ в сценарном деле и отображения внешности актёров, устанавливая прецедент для контрактных гарантий. Тем не менее, эти соглашения в основном применяются к работающим по профсоюзным контрактам сотрудникам и к решениям студий о внедрении. Фаза обучения, когда отдельные творческие работники нанимаются как подрядчики или через разовые задания, в значительной степени находится вне этих рамок. Работники, участвующие в обучении ИИ, часто не имеют профсоюзного представительства, чёткого долгосрочного статуса занятости или доступа к тем же контрактным гарантиям, которые обеспечены их коллегам из профсоюза.
Разрыв между доходом от обучения и риском на рынке труда
Структура финансовых стимулов создает давление, которое осложняет этические размышления. Супервайзер по визуальным эффектам оценила, что работа по обучению ИИ может составлять от 15 до 20 процентов её годового дохода в периоды низкой занятости, значительные деньги, влияющие на её способность выполнять обязательства по ипотеке и медицинскому обслуживанию. В то же время она выразила осознание того, что широкое внедрение ИИ в визуальных эффектах может изменить требования к профессии и сократить общую численность сотрудников в её области. Она описала когнитивный диссонанс: она получает индивидуальную выгоду от работы по обучению, но коллективное участие её профессии в этом обучении со временем может навредить самой профессии.
Информированное согласие во многих случаях остается неполным. Большинство учебных контрактов включают соглашения о неразглашении, которые запрещают работникам обсуждать объём, продолжительность или фактические возможности систем, над созданием которых они помогают работать. Эта конфиденциальность, будучи стандартной практикой в технологическом контрактовании, скрывает масштаб разрабатываемого искусственного интеллекта и препятствует сотрудникам делать коллективные оценки совокупного риска. Один сценарист отметил, что он не знает, сколько других сценаристов нанято на подобную аннотационную работу, каков общий размер обучающего набора данных и с какой агрессивностью компании планируют внедрять завершенные модели. От него требуют принимать индивидуальные экономические решения без доступа к информации, которая позволила бы оценить системные последствия. Операционная компромиссная ситуация также отражена в SAG-AFTRA.
Вопрос о признании авторства и роялти добавляет еще один уровень сложности. В отличие от работы творческих работников, состоящих в профсоюзах, где роялти оговариваются и выплачиваются при повторном использовании контента или его распространении в новых форматах, работа по обучению ИИ обычно не включает таких положений. Творческий работник, который помогает обучать модель, создающую тысячи сценариев или визуальных материалов, получает единовременное вознаграждение за первоначальную работу по обучению и ничего больше. Нет механизма признания его вклада, когда обученная модель генерирует коммерческую ценность в течение месяцев или лет. Это представляет собой отступление от традиционных практик работы в индустрии развлечений, где постоянные потоки дохода признают устойчивую ценность творческой работы. В США. Для более широкого контекста, Инициатива ИИ Бюро авторских прав США излагает соответствующий стандарт или учреждение.
Вопросы ответственности и обеспечения исполнения
Регуляторные рамки остаются недостаточно развитыми. Инициатива по ИИ со стороны Бюро по авторскому праву США и другие государственные органы изучают практику обучения ИИ, но полномочия по обеспечению соблюдения правил остаются неясными, а правила находятся на ранней стадии развития. Компаниям предоставляется широкая свобода в установлении собственных условий для работы по обучению. Без четких стандартов раскрытия информации, справедливой компенсации или защиты от технологической безработицы, отдельные работники ведут переговоры с позиции относительной слабости. Документальный кинематографист, который участвовал в некоторой работе по обучению, описал разочарование из-за недостатка прозрачности относительно того, что от нее требовалось помочь создать и как будут использоваться полученные модели.
Промышленные организации и академические исследователи предложили структуры для решения этих пробелов. The Рамочная система управления рисками ИИ NIST и принципы ИИ ОЭСР оба подчеркивают прозрачность, подотчетность и участие заинтересованных сторон в разработке ИИ. Применительно к трудовой сфере развлечений такие рамки потребовали бы от компаний раскрытия цели и объема учебной работы, предоставления четкой информации о предполагаемом применении моделей и создания механизмов для работников, чтобы они могли высказывать обеспокоенность по поводу влияния на рынок труда. Останется ли реализация этих принципов в виде обязательных отраслевых стандартов или регулирования, пока неизвестно.
Несколько творческих работников признались, что они обсуждали создание неформальных коалиций для обмена информацией о возможностях обучения и условиях работы, пытаясь выстраивать коллективное знание в отсутствие формальных каналов. Одна аниматор отметила, что она и её коллеги обмениваются информацией через групповые чаты о том, какие компании нанимают для работы по аннотации, сколько они платят и включают ли контракты проблемные пункты. Такой обмен информацией между равными обеспечивает некоторый противовес информационной асимметрии, но он хрупок и зависит от поддержания личных связей.
Более глубокий вопрос заключается в том, служит ли нынешняя структура долгосрочным интересам как творческих работников, так и устойчивых рынков труда в индустрии развлечений. Компании получают выгоду от недорогих обучающих данных, созданных людьми, наиболее компетентными в автоматизируемых творческих областях. Работники получают выгоду от немедленного дохода. Но эта структура создает стимулы для работников участвовать в собственном технологическом вытеснении, без надежных механизмов обеспечения того, чтобы этот переход происходил справедливо, или чтобы те, кто больше всего пострадал от автоматизации, получали поддержку в перераспределении рабочих обязанностей или переподготовке. По мере развития возможностей ИИ и ускорения его внедрения кумулятивный эффект этих индивидуальных решений может изменить структуру занятости в индустрии развлечений таким образом, который не был явно согласован или коллективно одобрен. Последний пункт можно проверить в сравнении с Принципы ИИ ОЭСР.
Темы: труд искусственного интеллекта, индустрия развлечений, права работников, этика технологий, автоматизация