ТЕХНОЛОГИИ
ChatGPT Work превращает корпоративный ИИ в тест управления разрешениями
Новый рабочий продукт OpenAI предназначен для выполнения более длительных задач в файлах и связанных приложениях, но его настоящим корпоративным испытанием будет то, смогут ли компании сохранять полезность агентов, не предоставляя им слишком большого доступа.
Патрик Т ·
ChatGPT Работа представляется как способ передавать более длинные, более сложные задания ИИ, который может исследовать, анализировать, использовать связанные файлы и приложения и создавать готовый материал. Для компаний это обещание сразу же становится вопросом разрешений.
Чат-бот, который составляет абзац, легко контролировать. Агент, который может просматривать папку проекта, извлекать данные из подключённого сервиса, создавать отчёт и готовить действия, ближе к новому классу программного обеспечения для сотрудников. Ему требуется описание работы, определённый объём обязанностей и способ остановки, прежде чем он пойдёт туда, куда не следует.
Рамки продукта OpenAI подчеркивают, что пользователи могут отслеживать прогресс, отвечать на вопросы, изменять направление и одобрять важные действия. Этот человеческий контроль крайне важен, но он не является заменой разумной разработки системы. Агент не должен иметь возможность видеть каждый файл просто потому, что однажды ему может понадобиться один из них.
Ранние развертывания, которые работают лучше всего, вероятно, будут узкими: составление еженедельного обзора из утвержденных источников, подготовка плана продаж по определенному счету CRM просматривать или суммировать очередь поддержки без права её изменять. Такие действия создают ценность, одновременно ограничивая зону воздействия.
Техническая дисциплина знакома командам ИТ. Использовать минимальные привилегии, разделяйте доступ на чтение и запись, держите чувствительные системы за дополнительными контрольными точками и делайте каждое значительное действие отслеживаемым. Агент ИИ должен наследовать те же операционные ограничения, которые хорошо управляемая компания уже применяет к сервисным учетным записям и автоматизации.
Существует также проблема управления. Когда агент создает документ или рекомендует действие, кто-то всё равно несет ответственность за результат. Чистый интерфейс может легко заставить забыть об этой ответственности. Чем более автономным кажется программное обеспечение, тем более сознательно компания должна подходить к тому, где человеческое суждение остается обязательным.
Вот почему рынок агентов, вероятно, будет выигран благодаря административным деталям. Качество модели имеет значение, но также важны объёмы связей, контроль отзывов, журнал аудитаs, правила хранения и возможность объяснить, какой источник или приложение привело к заключению.
Работа ChatGPT дает компаниям более конкретную причину для тестирования агентного ИИ. Его коммерческий успех будет зависеть от чего-то менее привлекательного: сможет ли директор по информационным технологиям сказать «да», не потеряв контроль над тем, кто или что может взаимодействовать с бизнесом.
Темы: ChatGPT Работа, корпоративный ИИ, агенты, разрешения