Ведущие разработчики искусственного интеллекта договорились о сотрудничестве с Институтом безопасности ИИ США. Теперь новые версии нейросетей будут проходить государственную проверку на кибербезопасность до публичного релиза.
В попытке снизить риски, связанные с неконтролируемым развитием искусственного интеллекта, крупнейшие технологические компании пошли на беспрецедентный шаг. OpenAI, Anthropic, Google, Microsoft и xAI подписали соглашение с американским Институтом безопасности ИИ (US AI Safety Institute).
В рамках этого партнерства разработчики обязуются предоставлять ранний доступ к своим новым фундаментальным моделям (таким как будущие версии GPT, Claude и Gemini). Эксперты института будут проводить независимое тестирование систем на предмет уязвимостей, способности к кибератакам и других потенциальных угроз национальной безопасности.
Этот шаг свидетельствует о переходе индустрии от саморегулирования к плотному взаимодействию с государством. Для русскоязычных пользователей это может означать, что будущие нейросети станут более безопасными, но при этом могут получить дополнительные ограничения и фильтры, навязанные государственными регуляторами США.