К ленте · Россия

РоссияНовостьМодели

ИТ-холдинг «Т1» проверил более 20 ИИ-моделей на альтернативах Nvidia: стоимость инференса может сократиться в разы

Дмитрий Харитонов, генеральный директор ИТ-холдинга «Т1», раскрыл результаты тестирования различных графических...

Дмитрий Харитонов, генеральный директор ИТ-холдинга «Т1», раскрыл результаты тестирования различных графических ускорителей (GPU), проведенного компанией в 2026 г. По данным компании, смешанный ИИ-парк Nvidia и китайских ускорителей позволяет наращивать мощности в условиях дефицита, а подбор оборудования под конкретные задачи — снижать стоимость инференса в отдельных случаях в 2–2,5 раза. Об этом CNews сообщили представители «Т1».

По словам Дмитрия Харитонова, основной критерий готовности компании к работе с искусственным интеллектом (AI Ready) — измеримый экономический эффект, достигнутый за 6–9 месяцев, а не количество запущенных пилотов. «AI Ready начинается не с хайпа, а с циничного менеджерского отношения к задаче: компания, которая может запустить 5–7 пилотов в месяц, не является AI Ready автоматически. Эффект должен быть измеримым, иначе проект просто сворачивается», — сказал он.

Эксперты ИТ-холдинга «Т1» в 2026 г. сфокусировались на снижении зависимости компаний, использующих ИИ, от оборудования Nvidia. Для испытаний GPU различных производителей, в том числе китайских, была создана специализированная лаборатория. Уже протестировано более 20 ИИ-моделей и выполнено более 1 тыс. прогонов на альтернативных чипах. Полученные результаты демонстрируют возможные сценарии эффективного использования GPU в инфраструктуре отечественных компаний с учетом специфики, решаемых ИИ-задач: при использовании ИИ-ассистентов для работы с документами или поиска по базам знаний китайские ускорители позволяют добиться снижения стоимости инференса в 2–2,5 раза при сопоставимом качестве ответов; для задач дообучения собственных больших моделей можно распределять нагрузки между платформами: использовать Nvidia для обучения, дообучения и инференса сверхбольших LLM, а сопутствующие сервисы и подходящие задачи инференса переносить на альтернативные ускорители; в задачах компьютерного зрения китайские решения оказались конкурентоспособны по цене, при этом уступили Nvidia по скорости.

Цифровая карта «Северстали». Инфографика CNews

Замена недозагруженной модели Nvidia H100 на одну модель C550 китайского производителя экономит свыше 2 млн руб. в год при размещении в облаке. При этом объем инфраструктуры зависит от потребностей компании. На крупных предприятиях на один сервер требуется от 2 до 8 карт, а при построении внутреннего контура — десятки и сотни серверов.

При этом Дмитрий подчеркнул, что стоимость владения (TCO) ИИ-решений нужно считать комплексно, включая стоимость лицензий, сопровождения, а также обучения персонала. Отдельное внимание, по его словам, необходимо уделять защищённому контуру (особенно субъектам КИИ): в данном случае необходимо использовать реестровые ПАК в собственном контуре, так как в этом случае требования безопасности и использования серверов без санкционных рисков являются основополагающими.

Источник: CNewsПубликуется с разрешения правообладателя, подтверждённого редакцией.Оригинал: ИТ-холдинг «Т1» проверил более 20 ИИ-моделей на альтернативах Nvidia: стоимость инференса может сократиться в разы ↗

Есть кому отправить?

Скопируется постоянная ссылка на этот материал.

Комментарии

Обсуждайте статью, отвечайте и оценивайте комментарии. Вход — через ваш Яндекс ID.

Загружаем обсуждение…