Политика
Давление Meta на проверку моделей показывает, что Open AI превращается в поле политической борьбы
Стратегия Meta по открытым моделям сталкивается с более сложной нормативной средой. Давление предварительного обзора показывает, что открытость модели теперь оценивается с точки зрения национальной безопасности, безопасности и конкуренции одновременно.
Майкл С ·
Meta's open-model стратегия превращается в борьбу за политику. По мере того как правительства уделяют больше внимания возможностям передовых моделей, вопрос уже не только в том, ускоряют ли открытые модели инновации. Вопрос в том, следует ли подвергать обзорованию мощные релизы перед тем, как они достигнут глобальной базы разработчиков.
Это давление создает трудный компромисс. Открытые модели могут снижать расходы, помогать стартапам конкурировать, поддерживать исследователей и уменьшать зависимость от закрытых передовых лабораторий. Их также можно копировать, модифицировать и внедрять в местах, где у оригинального разработчика практически нет контроля.
Публичный выпуск встречается с национальной безопасностью
Предварительные предложения по обзору отражают изменение в том, как законодатели понимают распространение моделей. Загружаемая модель не является обычной программный продуктПосле широкого распространения его трудно отозвать. Это делает время проверки политически важным, особенно для моделей с возможностями кодирования, кибердеятельности, убеждения или научными способностями.
Аргумент Meta, скорее всего, будет заключаться в том, что открытость улучшает подотчетность и расширяет участие. Критики ответят, что наиболее способные открытые модели изменяют оценку рисков, поскольку их можно точно настроить и перераспределять за пределы первоначальной безопасной зоны.
Конкуренция осложняет безопасность
Политические дебаты также являются рыночными дебатами. Закрытые лаборатории выигрывают, если открытые релизы подвергаются более строгой проверке. Сторонники открытых моделей беспокоятся, что системы рецензирования могут стать защитным рвом для incumbents с крупными юридическими, комплаенс и государственно-правовыми командами.
Темы: Meta, открытые модели, политика в области ИИ, обзор моделей