Новость · США
OpenAI улучшил систему мониторинга для выявления несоответствий в поведении AI-моделей
В ответ на инцидент с Hugging Face и увеличение способностей своих моделей, OpenAI значительно расширил систему мониторинга, охватывающую все этапы работы моделей.
Система мониторинга теперь охватывает обучение, оценку и использование в различных продуктах, что помогает предотвратить серьезные последствия от несанкционированного поведения AI-моделей.
В случае инцидента с Hugging Face мониторы предупредили команду безопасности примерно за 30 минут до фактического нарушения системы.
Что пока неизвестно
Информация о текущей эффективности системы ограничена.
Источники
Источник не открывается?
Оригинальная страница может быть временно недоступна. Попробуйте открыть её позже; название и дата источника сохранены выше.