Фигура 1: Ключови предимства на пакетираната оптика с мултиплексиране с плътно разделяне по дължина на вълната (DWDMCPO). (Изображение: Scintil Photonics)
В областта на проектирането на центрове за данни има една поговорка: „Използвайте медни кабели, когато е възможно, и прибягвайте до оптична технология само когато оптичното влакно е абсолютно необходимо“. В продължение на години прагматичният подход на индустрията е да се даде приоритет на евтините-медни кабели, докато законите на физиката не наложат технологично надграждане. Но днес, тъй като изчислителните клъстери с изкуствен интелект (AI) се придвижват към мащаба на „фабрики за изчислителна мощност“, разполагащи с милиони графични процесори (GPU), и ефективността на разходите-на центъра за данни е изправена пред огромен натиск, хората откриват, че тази „без-оптика-алтернатива“ технологична инфлексна точка е пристигнала много по-рано от всеки друг очаквано.
Мрежовите архитекти отдавна са наясно, че медните кабели имат значителни ограничения в разстоянието на предаване при високо{0}}скоростни сценарии, но малцина са анализирали основните причини от фундаментална физическа гледна точка. Въпреки че мрежовите инженери са избутали границите на разстоянието за предаване на медни кабели и честотната лента до крайност с техния опит, ограниченията на законите на физиката не могат да бъдат преодолени; дори и най-гениалните инженерни проекти се борят да преодолеят присъщите ограничения на медните кабели. Разбирането на това обяснява защо индустрията спешно се насочва към технологията Co-Packaged Optics (CPO).
Колкото по-висока е честотата на електрическите сигнали, предавани през медни кабели, толкова по-висока е скоростта на символите и честотната лента и толкова повече информация могат да носят. Проблемът е, че когато честотата на сигнала се увеличава, разстоянието на предаване намалява значително. Има две основни причини за загуба на сигнал: скин ефект и диелектрична загуба.
Ефект на кожата: „Повърхностната концентрация“ на тока
Когато AC сигнал преминава през меден кабел, променящото се магнитно поле индуцира вихрови токове в проводника. Магнитното поле, генерирано от тези вихрови токове, неутрализира сигналното магнитно поле в центъра на кабела. Колкото по-бързо се променя магнитното поле на сигнала-т.е. колкото по-висока е честотата-толкова по-силен става този ефект на анулиране.
Директният резултат е, че токът се "изстисква" в изключително тънък повърхностен слой на проводника; дебелината на този слой е известна като дълбочина на кожата. Текущото предаване на сигнала в центровете за данни с изкуствен интелект обикновено използва честоти около 53 GHz. При тази честота дълбочината на кожата на медните кабели е само 0,3 μm. Такъв тънък предавателен слой използва по-малко от 1% от площта на напречното-сечение на проводника, причинявайки рязко покачване на съпротивлението на кабела-дори превишаване на DC съпротивлението с повече от 100 пъти.
Диелектрична загуба: "Разсейване на енергия" в изолационния слой
Друг основен виновник за отслабването на сигнала в медните кабели е диелектричната загуба. При сценарии с висока-честота на ниво гигахерц, молекулите в изолационния диелектрик на кабела не могат да бъдат в крак с бързите колебания на електрическото поле. Закъснението между бързите колебания на електрическото поле и изоставащата реакция на молекулите преобразува електромагнитната енергия на сигнала в топлинна енергия, което води до загуба на енергия.
Двойни загуби: Фаталната слабост на медните кабели
Когато скин-ефектът и диелектричните загуби действат съвместно, загубата на сигнал в медните кабели се увеличава експоненциално с повишаване на честотата.
За да илюстрирам това ясно: при честота от 50 GHz, дори с високо{1}}качествени медни кабели, комбинираната загуба от тези два ефекта ще изразходва над 90% от бюджета за мощност на сигнала в рамките на 2 метра разстояние за предаване. Физическите свойства на медните кабели диктуват непреодолимо основно противоречие: честотната лента и разстоянието за предаване не могат да бъдат постигнати едновременно.
Dense Wavelength Division Multiplexing Co-Packed Optics (DWDMCPO)
Днес пречките в производителността на клъстерите за обучение на AI се изместиха от операции с плаваща{0}}запетая в секунда (FLOPS) към изисквания за честотна лента.
В мащабируеми мрежи с последователна памет е необходимо ново поколение мрежова технология, за да отговори на множество изисквания:
|Тъй като консумацията на енергия се превръща в ограничаващ фактор при внедряването на центрове за данни, е необходима по-ниска консумация на енергия на бит;
| Тъй като операциите-с плаваща запетая вече не са тясното място, трябва да се осигури по-голяма честотна лента за всеки процесор;
| Тъй като физическото пространство за разполагане на влакна става ограничено, трябва да се постигне по-висока плътност на интеграция;
| За да се даде възможност за хоризонтално мащабиране на-река, трябва да се поддържат по-големи разстояния на предаване;
| За да се поддържа последователност на домейна на паметта и да се подобри използването на графичния процесор, е необходима ултра-ниска латентност на опашката;
| Високата надеждност и лекотата на поддръжка също са от съществено значение.
Когато латентността на опашката се превърне в основно ограничение, изпълнението на горните изисквания значително ще повиши използването на GPU (някои оценки на модела показват, че използването може да се удвои повече от два пъти), значително ще намали консумацията на енергия в мрежата и ще подобри производителността на модела от край-до-край. Понастоящем DWDMCPO е единственият технически подход, способен едновременно да отговори на тези строги изисквания и ще доведе до-достигащи до голяма степен трансформации на разходите-ползи за операторите на хипермащабни центрове за данни.
Чрез предаване на множество дължини на вълната на светлината през едно влакно, технологията DWDMCPO предоставя на всеки GPU множество широки, ниско{0}}скоростни канали. Чрез мащабиране на броя на предаваните дължини на вълната от 1 до 8, 16 или дори повече, този геометричен модел на мащабиране е готов да революционизира AI мрежите, точно както технологията DWDM революционизира интернет гръбнака преди 25 години.
Едноканалната-скорост на предаване на DWDM е приблизително 50–64 Gbit/s, което попада в категорията на ниско{3}}скоростното предаване. Тази характеристика позволява на инженерите да опростят схемата за кодиране на данни от PAM4 към NRZ. Това опростяване елиминира множество скъпи и енерго{7}}интензивни етапи на обработка на сигнала, постигайки двойно намаляване на консумацията на енергия и латентността чрез рационализиране на пътя на предаване на сигнала.
Латентността на опашката е „тихият убиец“, който намалява възвръщаемостта на инвестициите в центъра за данни. Когато GPU клъстерите обработват токени за данни, те изискват непрекъснат, предсказуем битов поток. Ако един бит изпита забавяне на предаването, останалата част от клъстера става неактивна, което значително намалява използването на процесора. Тъй като броят на процесорите в клъстер се увеличава, вероятността за латентност на опашния бит на ниво p999 нараства значително и съответно използването на процесора намалява.
Без ниска-закъснение, ниска-енергия,-DWDMCPO технология с голям{2}}обхват мащабируемостта на мрежите би била ограничена и производителността на големите езикови модели (LLM) следователно би била ограничена. По-големи-мащабни, по-плоски, мащабируеми мрежи с ниска-закъснение могат да поддържат по-големи кешове-стойности на ключове, като директно увеличават размера на контекстния прозорец на модела и уместността на съдържанието, като по този начин ефективно разширяват ефективната работна памет на LLM. Увеличената честотна лента с ниска{8}}закъснение също притежава потенциал за увеличаване на броя на трансформаторните слоеве, което позволява на моделите да притежават по-задълбочени способности за мислене и разсъждение. Накратко: преодоляването на комуникационните ограничения между чиповете позволява на LLM да съхраняват повече информация в работната памет и да изпълняват повече стъпки за разсъждение без заекване.
Медното окабеляване несъмнено беше страхотна технология в своето време, но присъщите му физически ограничения създадоха спешна нужда от по-напреднали мрежови технологии, за да се подобри значително възвръщаемостта на инвестициите за хипермащабни центрове за данни и да се разширят възможностите на LLM.
След няколко години центровете за данни с изкуствен интелект, изградени изцяло върху медни кабели, ще станат толкова невъобразими, колкото интернет връзките на дълги{0}}разстояния, разчитащи единствено на мед.
Операторите на хипермащабни центрове за данни, инвеститорите, разработчиците на LLM и други заинтересовани страни в AI инфраструктурата трябва да приемат сериозно тази технологична тенденция: тя не само ще промени фундаментално пейзажа-за ефективност на разходите на центровете за данни, но и непрекъснато ще разширява границите на възможностите на AI. Предприятията, които първо приемат технологията DWDMCPO, ще установят архитектурни предимства по отношение на цена, консумация на енергия и производителност; тези предимства ще продължат да се увеличават с разширяването на AI инфраструктурата.
