Tag Archives: GPU

«Длинный хвост» AI-трафика: как незаметные задержки съедают миллионы из бюджета на GPU

This gallery contains 1 photo.

(Контент компании RUTEST) Cети для AI-дата-центров отличаются от сетей для традиционных дата-центров. Вместо множества хаотичных запросов, которые обрабатывает обычный дата-центр, AI-дата-центр работает как единый синхронный механизм. Главное следствие этого отличие – т.н. феномен «длинного хвоста», который незаметно, но постепенно съедает … Читать далее

More Galleries | Метки: , , , , | Оставьте комментарий

Как уязвимости в сетевой архитектуре AI/ML архитектуре влияют на ROI?

This gallery contains 1 photo.

(Контент компании РУТЕСТ https://rutest.zone) В предыдущем посте мы рассмотрели сетевую фабрику AI/ML как новую поверхность атаки. Мы уже описали, как уникальные паттерны трафика и протоколы типа RoCE создают нетривиальные векторы для атак. Сегодня мы изучим экономическую сторону этого вопроса: как … Читать далее

More Galleries | Метки: , , , , , , | 4 комментария

Ваш AI-проект «тормозит»? Проблема может быть не в GPU, а в сети, на которой вы теряете значительные суммы

This gallery contains 1 photo.

Искусственный интеллект – это уже не только хайп. ИИ часто становится новым двигателем бизнеса. Компании вкладывают миллионы в AI-кластеры с тысячами мощных графических процессоров (GPU), чтобы обучать большие языковые модели (LLM). Но что, если эти дорогостоящие «мозги» большую часть времени … Читать далее

More Galleries | Метки: , , , , , , , , | Оставьте комментарий