Корпорация Microsoft представила третий ежегодный отчёт о прозрачности искусственного интеллекта и объявила о масштабном обновлении корпоративного стандарта Responsible AI. Главным направлением пересмотра политик стало регулирование автономных ИИ-агентов, способных взаимодействовать с внешними инструментами, корпоративными базами данных и операционными средами.
Руководитель направления ответственного искусственного интеллекта Microsoft Наташа Крэмптон (Natasha Crampton) сообщила о переходе компании к адаптивной модели управления рисками, учитывающей глубокую интеграцию автономных систем в корпоративные рабочие процессы. По оценке разработчиков, изолированная оценка текстовых ответов отдельных языковых моделей больше не отвечает требованиям безопасности, когда алгоритмы получают права на запуск внешних функций, чтение файлов и выполнение транзакций.
Архитектурное разделение стандарта по технологическому стеку
Обновлённый регламент Responsible AI Standard теперь чётко структурирован по трем уровням технологического стека: базовые модели, платформенные сервисы и прикладные пользовательские приложения. Для каждого уровня определены базовые обязательные требования и специализированные сценарии контроля, зависящие от реальной роли сервиса в цепочке создания ценности.
Особое внимание уделено защите от атак класса prompt injection и контролю систем с расширенными кибернетическими возможностями. Разработчики зафиксировали обязательное внедрение цифровой идентичности для каждого агента (agent identities), гранулярное разграничение прав доступа к системным вызовам (tool permissions) и непрерывный поведенческий аудит всех автоматических действий в целевой инфраструктуре.
Управление рисками жизненного цикла и инженерная подготовка
В рамках обновлённой программы Microsoft перевела внутренние процессы на концепцию непрерывного управления рисками на протяжении всего жизненного цикла ИИ-систем. В отличие от традиционного тестирования до запуска, новый подход включает постоянный мониторинг взаимодействия между агентами, сторонними API и пользователями в реальной рабочей среде.
Тысячи инженеров, архитекторов и менеджеров по продуктам компании прошли специализированное обучение по моделированию угроз в агентных средах и противодействию сложным сценариям манипуляции контекстом. Компания подчеркивает, что практическая ценность и масштабное внедрение технологий напрямую зависят от способности организаций гарантировать предсказуемость и надежность автономных компонентов.
Разработчики также сформировали открытые рекомендации для корпоративных клиентов по развертыванию систем на базе Azure AI Studio, включая автоматизированные инструменты оценки галлюцинаций, фильтрации нежелательного контента и аудита прав доступа.