Conclusie 4e generatie Xeon Scalable CPUs
Het evalueren van Intel's 4e Generatie Xeon Scalable processors is zeker geen gemakkelijke opgave. Voor conventionele workloads blijken AMD's EPYC processors erg moeilijk te verslaan. Zelfs als we de 96-core EPYC 9654 uit de berekeningen halen, lijkt het erop dat AMD meer levert voor hun geld (core-per-core).
Algemene berekeningen zijn echter verre van de gehele verhaal in de moderne datacenter. Ontwikkelaars maken steeds vaker gebruik van neurale netwerktoepassingen om grote data-analyseproblemen op te lossen en nieuwe oplossingen te vinden. Hoewel de meeste van deze werkzaamheden plaatsvinden op GPUs en gespecialiseerde acceleratoren (zoals FPGAs), laat Intel zien dat een CPU ook de klus kan klaren met mogelijk lagere kosten en een kleiner formaat. Daarom kan het zinvol zijn om een van deze 4e Generatie Xeon processors aan te schaffen waar de acceleratoren kunnen worden benut, net zoals het gebruiken van het juiste gereedschap voor de klus.
Het formule is echter ingewikkelder dan "meer cores = beter" voor Intel. De discrete aard van de acceleratoren kan betekenen dat klanten die op zoek zijn naar de mogelijkheden van een accelerator sommige delen van het CPU-specificatieblad kunnen negeren. Lagere core-telling Xeons kunnen lagere latenties en betere per-core kloksnelheden opleveren, wat hen vaak een voordeel geeft in AI-type workloads.
Een andere factor om in gedachten te houden is Intel's "On Demand" service model. Behalve de "volledig geactiveerde" -H series en HBM-uitgeruste Xeon Max producten, kunnen klanten die de acceleratoren (of meer daarvan) willen gebruiken mogelijk een extra rekening verwachten voor de licentie. Dit kan wel een lagere kosten van ingang bieden voor andere klanten, maar deze klanten zouden wellicht beter af zijn in de AMD-camp. Het verandert ook niet het feit dat de acceleratoren volledig functioneel zijn in silicium, ze kunnen alleen niet worden gebruikt zonder vergoeding.
We willen ook opmerken dat Intel's acceleratoren niet beperkt zijn tot alleen AI-type workloads. Intel heeft acceleratoren voor netwerk, dynamische belastingsbalans, data streaming, in-memory analytics en meer.