OpenAI, Google и Anthropic откроют доступ к своим моделям правительству США

Ведущие разработчики искусственного интеллекта договорились о сотрудничестве с Институтом безопасности ИИ США. Теперь новые версии нейросетей будут проходить государственную проверку на кибербезопасность до публичного релиза.

В попытке снизить риски, связанные с неконтролируемым развитием искусственного интеллекта, крупнейшие технологические компании пошли на беспрецедентный шаг. OpenAI, Anthropic, Google, Microsoft и xAI подписали соглашение с американским Институтом безопасности ИИ (US AI Safety Institute).

В рамках этого партнерства разработчики обязуются предоставлять ранний доступ к своим новым фундаментальным моделям (таким как будущие версии GPT, Claude и Gemini). Эксперты института будут проводить независимое тестирование систем на предмет уязвимостей, способности к кибератакам и других потенциальных угроз национальной безопасности.

Этот шаг свидетельствует о переходе индустрии от саморегулирования к плотному взаимодействию с государством. Для русскоязычных пользователей это может означать, что будущие нейросети станут более безопасными, но при этом могут получить дополнительные ограничения и фильтры, навязанные государственными регуляторами США.