AS ISO IEC 23894-2023 PDF

Полное наименование и описание

AS ISO/IEC 23894:2023 — Information technology — Artificial intelligence — Guidance on risk management. Стандарт даёт руководящие указания по управлению рисками, специфичными для систем и сервисов с использованием искусственного интеллекта, и описывает процессы для внедрения и интеграции управления рисками в деятельность организаций, разрабатывающих, поставляющих, внедряющих или использующих решения на базе ИИ.

Аннотация

Документ предоставляет адаптируемую практическую структуру для выявления, оценки, обращения и мониторинга рисков, специфичных для ИИ (качество данных, смещение, непрозрачность моделей, адаптивность поведения, уязвимости безопасности и пр.), рассматривая риски на всех стадиях жизненного цикла ИИ‑системы — от проектирования до вывода из эксплуатации. Цель — помочь организациям интегрировать управление рисками ИИ в существующие процессы управления и принять меры в соответствии с контекстом и уровнем приемлемого риска.

Общая информация

• Статус: Опубликовано (идентичное национальное принятие AS — действующий национальный стандарт).
• Дата публикации: Международная редакция ISO/IEC 23894 опубликована 6 февраля 2023 г.; AS ISO/IEC 23894 (идентичное принятие) — 25 августа 2023 г.
• Организация-издатель: Международная — ISO/IEC (ISO/IEC JTC 1/SC 42); национальное издание — Standards Australia (идентичное принятие AS).
• ICS / категории: 35.020 — Информационные технологии (IT) в целом.
• Редакция / версия: Редакция 1.0 (Edition 1, 2023).
• Количество страниц: Оригинал ISO — 26 страниц; AS‑версия (с национальными примечаниями) — около 30 страниц.

Область применения

Руководство предназначено для организаций любого размера и отрасли, которые разрабатывают, внедряют, эксплуатируют или закупают продукты, системы и услуги с элементами ИИ. Документ применим к корпоративным функциям по управлению рисками, разработке продуктов, эксплуатации, закупкам и аудиту; его рекомендации можно адаптировать под контекст конкретной организации и конкретные сценарии применения ИИ. Стандарт носит руководящий (non‑mandatory) характер и не устанавливает сертификационных требований сам по себе.

Ключевые темы и требования

• Принципы управления рисками, специфичными для ИИ: учёт непрозрачности моделей, зависимости от данных, обучения и адаптации в эксплуатации.
• Фреймворк управления рисками ИИ: руководство по лидерству, интеграции, дизайну, внедрению, оценке и непрерывному улучшению.
• Процесс риск‑менеджмента для ИИ: определение контекста, идентификация рисков, анализ и оценка, выбор мер по снижению, мониторинг и отчётность.
• Управление рисками, связанными с данными: требования к качеству, репрезентативности, открытости и защите данных.
• Верификация и валидация моделей: тестирование производительности, устойчивости, оценка смещения и переносимости в новых контекстах.
• Операционная устойчивость: мониторинг дрейфа, управление инцидентами, механизмы вмешательства и отката, вывод из эксплуатации.
• Управление ответственностью и ролями: распределение обязанностей, компетенции, взаимодействие с заинтересованными сторонами и документация решений.
• Вопросы безопасности, конфиденциальности и нормативного соответствия: учёт атак на модели, приватности данных и требований регуляторов.

Применение и пользователи

Типичные пользователи стандарта — разработчики ИИ/ML и архитекторы систем, инженеры по тестированию и валидации, руководители проектов и продуктовые менеджеры, службы управления рисками и соответствием, отделы закупок и поставщики услуг ИИ, аудиторы и регуляторы. Стандарт полезен как практическое руководство для интеграции управления рисками ИИ в существующие процессы управления организацией и при подготовке к более формализованным требованиям (например, к системе управления ИИ).

Связанные стандарты

Документ входит в семью стандартов ISO/IEC JTC 1/SC 42 и дополняет / соотносится с рядом других публикаций, в том числе: ISO/IEC 22989 (понятия и терминология в ИИ), ISO/IEC 42001 (система управления ИИ — AIMS), ISO/IEC TR 24028 (обзор доверенности/надёжности ИИ), ISO/IEC 23053 (фреймворк для систем ИИ на базе машинного обучения) и общими руководствами по управлению рисками, такими как ISO 31000. Для национального применения стандарт часто развивается в виде идентичных или эквивалентных публикаций (например, AS ISO/IEC 23894).

Ключевые слова

ИИ, искусственный интеллект, управление рисками, риск‑менеджмент, жизненный цикл ИИ, качество данных, смещение, прозрачность, объяснимость, безопасность, мониторинг, соответствие, руководство.

FAQ

В: Что это за стандарт?

О: Руководящий международный стандарт по управлению рисками, специфичными для систем и сервисов искусственного интеллекта (ISO/IEC 23894:2023), принятый также в виде национального идентичного издания AS ISO/IEC 23894:2023.

В: Что он регулирует?

О: Он не устанавливает обязательных требований сертификационного характера; это руководство по процессам идентификации, оценки, уменьшения и мониторинга рисков ИИ на всех стадиях жизненного цикла — от проектирования до вывода из эксплуатации. Стандарт даёт фреймворк для принятия решений и интеграции практик в существующие системы управления.

В: Кто обычно использует?

О: Разработчики и интеграторы ИИ‑решений, менеджеры продуктов, инженеры по ML/DS, специалисты по управлению рисками, подразделения по соответствию и закупкам, аудиторы, а также организации, желающие формализовать подход к управлению рисками ИИ.

В: Он актуален или заменён?

О: На момент публикации карта статуса — действующий международный стандарт (Edition 1, 2023) и действующее идентичное национальное принятие AS ISO/IEC 23894:2023; при внедрении рекомендуется следить за поправками, техническими отчетами и новыми релизами от ISO/IEC JTC 1/SC 42.

В: Это часть серии?

О: Да — это руководящий документ в экосистеме стандартов ISO/IEC по ИИ (серия стандартов SC 42). Он дополняет терминологические, управленческие и технические стандарты (например, ISO/IEC 22989, ISO/IEC 42001, ISO/IEC TR 24028 и др.).

В: Какие ключевые слова?

О: Управление рисками, ИИ, жизненный цикл, качество данных, смещение (bias), прозрачность/объяснимость, устойчивость/robustness, безопасность, мониторинг, соответствие.