Tag Archives: GPU

Искусственный Интеллект: посчитали — прослезились

This gallery contains 1 photo.

Джейсон Хуанг, Вице-президент компании Nvidia, чьи чипы используются практически во всех крупных системах искусственного интеллекта, недавно признался, что для его собственной команды стоимость эксплуатации вычислительных систем ИИ теперь превышает зарплату сотрудников, которые их используют. Последние два года было заметно старание … Читать далее

More Galleries | Метки: , , , , , , | Оставить комментарий

«Длинный хвост» AI-трафика: как незаметные задержки съедают миллионы из бюджета на GPU

This gallery contains 1 photo.

(Контент компании RUTEST) Cети для AI-дата-центров отличаются от сетей для традиционных дата-центров. Вместо множества хаотичных запросов, которые обрабатывает обычный дата-центр, AI-дата-центр работает как единый синхронный механизм. Главное следствие этого отличие – т.н. феномен «длинного хвоста», который незаметно, но постепенно съедает … Читать далее

More Galleries | Метки: , , , , | Оставить комментарий

Как уязвимости в сетевой архитектуре AI/ML архитектуре влияют на ROI?

This gallery contains 1 photo.

(Контент компании РУТЕСТ https://rutest.zone) В предыдущем посте мы рассмотрели сетевую фабрику AI/ML как новую поверхность атаки. Мы уже описали, как уникальные паттерны трафика и протоколы типа RoCE создают нетривиальные векторы для атак. Сегодня мы изучим экономическую сторону этого вопроса: как … Читать далее

More Galleries | Метки: , , , , , , | 4 комментария

Ваш AI-проект «тормозит»? Проблема может быть не в GPU, а в сети, на которой вы теряете значительные суммы

This gallery contains 1 photo.

Искусственный интеллект – это уже не только хайп. ИИ часто становится новым двигателем бизнеса. Компании вкладывают миллионы в AI-кластеры с тысячами мощных графических процессоров (GPU), чтобы обучать большие языковые модели (LLM). Но что, если эти дорогостоящие «мозги» большую часть времени … Читать далее

More Galleries | Метки: , , , , , , , , | Оставить комментарий