Компания Circuit Breaker Labs разрабатывает методы тестирования AI для предотвращения психологического вреда
Компания Circuit Breaker Labs разрабатывает методы тестирования искусственного интеллекта, чтобы предотвратить психологический вред, который могут нанести чат-боты, особенно если они не понимают контекст или сленг.
Компания Circuit Breaker Labs, основанная братьями Shirali и Arul Nigam, разрабатывает методы тестирования искусственного интеллекта, чтобы предотвратить психологический вред, который могут нанести чат-боты.
Они создали «автоматические краш-тесты», моделировавшие пользователей разных возрастов, культур и языков, чтобы протестировать способность моделей распознавать опасные, психологически вредные взаимодействия.
Компания работает с экспертами в соответствующих областях, чтобы создать реалистичные симуляции пользователей, которые могут быть использованы для проведения «красного командования» тестов против моделей.
Эти тесты направлены на выявление уязвимостей, которые могут привести к негативным последствиям.
Что пока неизвестно
Информация о текущем состоянии проекта и его клиентах ограничена.
Источники
Источник не открывается?
Оригинальная страница может быть временно недоступна. Попробуйте открыть её позже; название и дата источника сохранены выше.