Аналитика
Дистилляция ИИ сражается с превращением выходных данных моделей в следующую арену битвы за интеллектуальную собственность
Поскольку лаборатории обвиняют конкурентов в обучении на результатах моделей, индустрия ИИ сталкивается с проблемой разрешений, которая напоминает борьбу за веб-скрейпинг, которую она когда-то навязала издателям.
Автор: Лео В ·
Следующая борьба индустрии ИИ за интеллектуальную собственность формируется вокруг странного переворота: компании, которые защищали широкое сбор данных, теперь беспокоятся, что другие лаборатории могут использовать результаты их моделей для обучения конкурентов.
Техническая идея не нова. Дистилляция может переносить поведение с одной модели на другую путем обучения на выходных данных, демонстрациях или синтетических данных. Она может сделать более маленькие системы более способными, снизить затраты и помочь исследователям создавать модели без того, чтобы воссоздавать каждый этап передового обучения.
Коммерческая тревога нова, потому что передовые лаборатории теперь рассматривают свои разработки как дорогостоящий интеллектуальный капитал. Модельный ответ — это не просто текст. Он может кодировать стиль рассуждений, поведение в области безопасности, профессиональные компетенции и качественную обработку продукта, созданные благодаря миллиардам долларов, потраченным на данные, вычислительные ресурсы и труд.
Это создаёт проблему с разрешениями. Если пользователь задаёт модели тысячи вопросов и использует ответы для улучшения другой модели, является ли это обычным использованием, нарушением контракта, нечестной конкуренцией или чем-то другим? Ответ может зависеть от условий обслуживания, масштабов, намерений, технических мер безопасности и судов, которые ещё догоняют.
Лаборатории будут отвечать большим количеством ограничений. Ожидайте ограничений по скорости API, исследований водяных знаков, мониторинга вывода, ограничений для клиентов, договорных положений и обнаружения аномалий, разработанных для выявления систематического сбора данных. Эти меры могут защитить ценность модели, но они также могут усложнить законные исследования и взаимодействие между системами.
Ирония трудно не заметить. Издатели, художники, программисты и владельцы сайтов годами спорили о том, что компании, занимающиеся ИИ, извллекали выгоду из их работы без надлежащего согласия или компенсации. Теперь компании, занимающиеся ИИ, сталкиваются с той же жалобой с другой стороны стола.
Конечно, есть реальная разница. Результаты модели создаются в ответ на запросы пользователей, в то время как веб-контент часто существовал независимо до его сбора. Но моральный и экономический вопрос рифмуется: кто имеет право превращать чужой дорогой производственный процесс в учебный материал?
Эта борьба будет формировать открытую и закрытую ИИ. Закрытые лаборатории могут ужесточить доступ. Открытые экосистемы могут полагаться в большей степени на синтетические данные и дистиллированное поведение. Корпоративные покупатели могут задаваться вопросом, создает ли процесс обучения модели правовые риски или нарушает условия другого поставщика.
Лаборатории искусственного интеллекта хотели, чтобы интернет служил обучающим материалом. Теперь они могут потратить следующие несколько лет, пытаясь убедить всех, что их собственные результаты отличаются.
Темы: дистилляция, интеллектуальная собственность ИИ, результаты моделей, лаборатории ИИ