Политика
Индия рассматривает закон о ИИ на основе оценки рисков для систем с высокой степенью ответственности
Индия рассматривает возможность введения поэтапного закона о ИИ, который будет предусматривать более лёгкие правила для инструментов с низким уровнем риска и более строгий контроль за системами, используемыми в финансах, здравоохранении, инфраструктуре и других секторах с высоким воздействием.
Майкл С ·
India движется ближе к Закон об ИИ построенный вокруг градуированных, основанных на оценке рисков правил, рамок, которые будут рассматривать обычные инструменты производительности совершенно иначе, чем системы, используемые в банковской сфере, здравоохранении, критической инфраструктуре и других высокоэффективных областях.
The Экономические Ведомости сообщили, что официальные лица рассматривают структуру, в которой системы с низким уровнем риска, такие как чат-боты, инструменты рекомендаций и офисное программное обеспечение, сталкиваются с минимальными обязательствами, в то время как системы с высоким уровнем риска сталкиваются с более строгими требованиями в отношении безопасности, подотчетности, аудитов и надзора.
Этот подход отражает направление регулирования ИИ на глобальном уровне. Правительства понимают, что единый свод правил для каждого алгоритма слишком груб. Настоящий вопрос политики заключается в том, где используется система ИИ, какие решения она влияет и могут ли ошибки причинить вред людям, рынкам или общественным услугам.
Для Индии ставки особенно высоки. Страна хочет поддерживать стартапы в области ИИ, цифровую государственную инфраструктуру, внедрение технологий в предприятиях и разработку отечественных моделей, одновременно защищая граждан от непрозрачных систем, которые могут повлиять на кредитование, доступ к медицинской помощи, занятость, образование или государственные пособия.
Дифференцированный закон дал бы регулирующим органам больше гибкости, но также создаёт острые споры о классификации. Компании будут стремиться к тому, чтобы их продукты считались низкорисковыми. Группы гражданского общества будут утверждать, что, казалось бы, обычные инструменты могут стать высокоэффективными при масштабном применении. Регуляторам понадобятся критерии, достаточно ясные для обеспечения соблюдения и достаточно гибкие для работы с новыми возможностями моделей.
The финансовый сектор вероятно, будет одним из первых испытаний. Системы ИИ, используемые для кредитования, обнаружение мошенничества, соответствие, торговля, взыскания и обслуживание клиентов могут влиять на потребителей, даже когда человек все еще участвует в процессе. Закон, основанный на оценке рисков, должен будет определить, когда надзор применяется к модели, учреждению или к самому процессу принятия решений.
Здравоохранение поднимает совершенно иной набор вопросов. ИИ может помочь в сортировке пациентов, чтении сканов, составлении кратких записей и поддержке врачей, но ошибки могут причинить прямой вред. Стране с масштабом Индии нужны правила, которые улучшают доступ, не позволяя непроверенным системам становиться невидимыми клиническими воротилами.
Самым важным выбором в дизайне может быть способность к обеспечению исполнения. Принятие закона легче, чем создание технических команд, процессов аудита, каналов для жалоб и отраслевых регуляторов, необходимых для его реализации. У Индии есть база талантов для развития этой способности, но потребуется координация между министерствами и регуляторами.
Закон, основанный на оценке рисков, сам по себе не определит будущее ИИ в Индии. Но он станет переходом от общих принципов к операционному управлению. Следующий вопрос заключается в том, смогут ли правила быть достаточно точными, чтобы компании могли их соблюдать, достаточно сильными, чтобы граждане им доверяли, и достаточно гибкими для рынка, который меняется каждый квартал.
Темы: Индия, законодательство об ИИ, регулирование на основе оценки рисков, управление ИИ