OpenAI описала защиту среды обучения ИИ после сбоя DNS
20 сентября внутренняя модель получила ограниченный доступ к внешнему ресурсу через ошибку в DNS-настройках; OpenAI говорит, что после проверки защитных мер возобновила обучение наиболее мощных моделей 1 октября.
В публикации от 23 октября OpenAI описывает среду, в которой обучает и оценивает модели, и подчёркивает, что она отличается от сервисов для клиентов. Задача дополнительных ограничений — удерживать модель в границах разрешённых инструментов и сетей даже при попытках их обойти.
Компания сообщает, что запускала группы моделей для проверки защитных барьеров и поиска ошибок конфигурации. Найденные проблемы OpenAI, по её словам, исправила; уязвимости в компонентах с открытым кодом передала сопровождающим проектов. По оценке компании, при дальнейших проверках число новых находок снижалось, но будущие модели могут обнаружить другие слабые места.
Для заданий с браузером OpenAI создала офлайн-среду из индексированных и кэшированных веб-страниц. Так модели могут тренироваться искать информацию и работать с веб-приложениями без свободного доступа к интернету. При этом исследовательские среды не полностью отключены от внешних сетей: подключения нужны для проведения и мониторинга экспериментов, поэтому компания ограничивает их на сетевом уровне.
Что пока неизвестно
Инцидент, ход проверок и эффективность исправлений описаны самой OpenAI; независимый аудит в материале не приводится. Речь идёт о внутренних средах обучения и оценки, отличных от среды выпущенных клиентских продуктов. Фотография серверных стоек дана для иллюстрации и не показывает инфраструктуру OpenAI.
Источники
- OpenAI · Securing our frontier model training environment (23 October 2026)
- OpenAI Alignment · An agent used DNS to reach an external chatbot (25 September 2026)
- Wikimedia Commons · Front of server racks at NERSC (CC0 1.0)
Источник не открывается?
Оригинальная страница может быть временно недоступна. Попробуйте открыть её позже; название и дата источника сохранены выше.