Новость · Глобальное
NVIDIA оптимизирует использование памяти в AI-системах
Компания NVIDIA разрабатывает технологии, которые увеличивают эффективность использования памяти в искусственных интеллекте, особенно высокопроизводительной памяти HBM.
В AI-системах память HBM является самой быстрой, дорогой и спорной.
NVIDIA разрабатывает методы, чтобы каждый байт памяти использовался максимально эффективно, например, минимизируя копирование лишних весов и повторное вычисление префиксов.
Это позволяет увеличить производительность и эффективность AI-систем.
Что пока неизвестно
Источник не приводит конкретных примеров или цифр.
Источники
Источник не открывается?
Оригинальная страница может быть временно недоступна. Попробуйте открыть её позже; название и дата источника сохранены выше.
Понравилось? Поделитесь новостью