Обучение больших языковых моделей или запуск сложных систем ИИ требуют тысяч высокопроизводительных процессоров, работающих согласованно, выделяя огромное количество тепла и потребляя огромное количество электроэнергии. Центры обработки данных сталкиваются с серьезными ограничениями по объему электроэнергии. Вычисления на базе искусственного интеллекта превышают возможности даже самых крупных центров обработки данных, что обуславливает необходимость в надежном и безопасном соединении центров обработки данных, находящихся на расстоянии сотен километров друг от друга. Традиционно проблемы пропускной способности в задаче соединения центров обработки данных решаются двумя способами: добавлением дополнительных возможностей отдельным системам (scaling up) или подключением большего количества систем в пределах одного объекта (scaling out). 

Рабочие нагрузки на центры обработки данных от систем ИИ отличны от типовых нагрузок. Обучение систем ИИ вызывает огромные всплески сетевого трафика между центрами обработки данных. Если сеть, соединяющая центры обработки данных, не может справиться с этими скачками нагрузки, работа всех систем замедляется, что приводит к нерациональному использованию дорогостоящих вычислительных ресурсов и, что особенно важно, времени и денег.

Традиционное оборудование маршрутизации не рассчитано на такие задачи. Большинство маршрутизаторов отдают приоритет либо чистой скорости, либо сложному управлению трафиком, но им сложно обеспечить и то, и другое одновременно, сохраняя при этом разумное энергопотребление. Для приложений, которые взаимодействуют между центрами обработки данных на базе ИИ организациям необходима доступность трех компонент: высокой скорость передачи данных, интеллектуальной буферизации данных и эффективность.

Для решения такой задачи компания Cisco представила маршрутизатор Cisco 8223 со скоростью 51,2 терабита в секунду, специально разработанным для связи центров обработки данных, работающих с рабочими нагрузками ИИ. В основе данного маршрутизатора лежит новый чип Silicon One P200.

Об основных особенностях Cisco 8223 рассказывает доцент кафедры искусственного интеллекта Финансового университета при Правительстве Российской Федерации Емельянова Наталия Юрьевна:

Система Cisco 8223 представляет собой отход от универсального оборудования маршрутизации. Размещенная в компактном корпусе с тремя стойко-местами, она обеспечивает 64 порта с пропускной способностью 800 Гбит/с — на данный момент это самая высокая плотность, доступная для фиксированных систем маршрутизации. Что ещё важнее, она способна обрабатывать более 20 миллиардов пакетов в секунду и масштабировать пропускную способность до трёх экзабайт в секунду. Отличительной особенностью системы является возможность глубокой буферизации, обеспечиваемая чипом P200. Когда обучение ИИ генерирует всплески трафика, буферы Cisco 8223 поглощают этот пик, предотвращая перегрузку сети, которая в противном случае замедлила бы работу дорогостоящих кластеров графических процессоров, простаивающих в ожидании данных. Важной особенностью маршрутизатора Cisco 8223 является его высокая энергоэффективность. Кроме того, Cisco 8223 поддерживает когерентную оптику 800G, что позволяет устанавливать соединения на расстоянии до 1000 километров между объектами, что крайне важно для географического распределения инфраструктуры ИИ.

О преимуществах Cisco 8223 рассказывает Коротеев Михаил Викторович, заведующий кафедрой искусственного интеллекта Финансового университета при Правительстве Российской Федерации:

Одним из часто упускаемых из виду аспектов инфраструктуры межсоединений для организации связи между центрами обработки данных является адаптивность. Требования к сетям ИИ быстро меняются, регулярно появляются новые протоколы и стандарты. Традиционное оборудование обычно требует замены или дорогостоящей модернизации для поддержки новых возможностей. Программируемость чипа P200 решает эту проблему. Организации могут обновлять кремниевые компоненты для поддержки новых протоколов без замены оборудования, что важно, когда отдельные системы маршрутизации требуют значительных капиталовложений, а стандарты сетей ИИ постоянно изменяются.

Подключение центров обработки данных, расположенных на расстоянии сотен километров друг от друга, создаёт проблемы безопасности. Однако Cisco 8223 включает шифрование с использованием постквантовых алгоритмов, что решает проблемы, связанные с будущими угрозами квантовых вычислений. А легкая интеграция с платформами Cisco обеспечивает детальный мониторинг сети для быстрого выявления и устранения проблем.