Avaliação Cavium ThunderX2: O sonho do Arm Server se torna realidade (Parte 1, Introdução)

Há menos de dois anos, exploramos o primeiro servidor Arm SoC, que teoricamente poderia competir com o Intel Xeon E5s - Cavium ThunderX. O servidor SoC demonstrou tudo o que foi anunciado, no entanto, devido ao baixo desempenho de thread único e dificuldades em otimizar as características de energia, o SoC de 48 núcleos foi atribuído a nichos de mercado. Como resultado, o primeiro servidor Cavium SoC nunca foi capaz de competir com o Xeon da Intel.



Mas a Cavium não desistiu por razões óbvias: no momento, o mercado de servidores se tornou mais atraente do que nunca. Os datacenters da gigante global Intel faturam cerca de 20 bilhões de dólares (!) Por ano. Além disso, a rentabilidade é de 50%. Em termos de lucro e rotatividade, o mercado de servidores é muitas vezes maior do que qualquer outro mercado de equipamentos. Portanto, após o lançamento do ThunderX, a Cavium prometeu lançar uma segunda iteração: gerenciamento de energia aprimorado, desempenho aprimorado de thread único e ainda mais núcleos (54).

O que não interessa às mãos da Cavium é que, se o usuário precisar de um servidor, ele poderá usar uma máquina Intel depurada e confiável. De fato, promessas altas da Arm, Calxeda, Broadcom, AppliedMicro nos últimos 5 anos permaneceram promissoras, causando uma onda séria de ceticismo e desconfiança e o surgimento do novo SoCs Arm Server.

No entanto, a nova criação de um outsider Cavium merece atenção. Várias alterações foram feitas, não apenas a adição do número "2" ao nome: a Cavium comprou o design Vulcan da Avago. Vulcan é um design de processador bastante ambicioso, originalmente desenvolvido pela equipe do servidor Arm SoC Broadcom, e tem um legado muito maior que o ThunderX original. Além disso, com base em sua experiência com o ThunderX, a Cavium conseguiu introduzir algumas melhorias microarquiteturais no design do Vulcan, melhorando seu desempenho e potência.

Como resultado, o ThunderX2 “acabou” por ser um núcleo mais elaborado do que a geração anterior. O núcleo ThunderX tinha um pipeline muito curto e dificilmente suportaria duas instruções por ciclo, mas o núcleo Vulcan foi projetado para 8 buscas e executando até 4 instruções por ciclo. E ainda mais: todos os 4 fluxos (SMT4) podem estar ativos ao mesmo tempo, fornecendo carregamento de back-end constante. O novo ThunderX2 SoC32 possui 32 desses núcleos com uma frequência de até 2,5 GHz.



Com até 128 threads e pelo menos oito controladores DDR4, essa CPU deve ter um bom desempenho em todas as cargas de servidor. Em outras palavras, diferentemente do ThunderX (1), o ThunderX2 é o primeiro processador de servidor Arm e tem todas as chances de abalar a balança no mercado de servidores.

Quem tem mais: especificações

Trinta e dois núcleos altos de IPC em um pacote parecem promissores. Mas como é o novo ThunderX2 em comparação com os produtos AMD, Qualcomm e Intel? Na tabela abaixo, comparamos as especificações de vários SKUs de servidor de ponta.



Os leitores informados notarão imediatamente que o topo da linha de processadores Intel é o Xeon Platinum 8180. No entanto, esse SKU com 205 W TDP e um preço superior a US $ 10.000 geralmente não é comparável a qualquer processador da lista. Já cruzamos quase a linha da razão, incluindo 8176, que, como nos parece, se enquadra nessa lista de acordo com os parâmetros do SKU máximo dos blocos de kernel / thread. De fato, o Cavium posiciona o Cavium 9980 como "comparável" ao Xeon Platinum 8164 (e a Intel desempenha esse papel 8176), mas com frequências um pouco mais baixas.

No entanto, em termos de desempenho do dólar, a Cavium compara seu carro-chefe 9980 com o Intel Xeon Gold 6148 e, nesse caso, o preço do processador Cavium parece bastante apetitoso. De acordo com os resultados do teste, o ThunderX2 mais rápido está 30-40% à frente do Xeon 6148, enquanto a oferta da Cavium é US $ 1.300 mais barata. Preços tão agressivos explicam os rumores de que a Qualcomm não entrará no mercado de servidores.

Os dados da tabela acima mostram diferenças importantes entre os rivais. A Intel parece ter a topologia principal mais avançada e a maior velocidade turbo. A Qualcomm, entretanto, parece mais atraente quando se trata de desempenho por watt.



Como o EPYC da AMD, o ThunderX2 da Cavium provavelmente brilhará no mercado de computação de alto desempenho (taxa de transferência 33% maior, núcleos / threads mais altos). Como no design da AMD, o cache EPYC L3 é lento se você precisar de dados que não estão no slot de cache local de 8 MB. O ThunderX2 é muito mais complexo - com uma arquitetura de anel duplo semelhante à arquitetura de anel Xeon v4 (Broadwell-EP). De acordo com informações da Cavium, sua arquitetura sem bloqueio de anel é capaz de fornecer taxas de transferência de até 6 TB / s.

Essa arquitetura de anel é conectada à interconexão coerente de processadores da Cavium (CCPI2 - na parte superior da figura), que opera a uma velocidade de 600 Gbit / s. Essa conexão conecta dois nós de soquete / NUMA. 56 pistas do PCIe 3.0 SoC estão conectadas ao anel, que a Cavium localizou entre os 14 controladores PCIe. Esses 14 controladores podem, por sua vez, se ramificar para x4 ou x1, como mostrado abaixo.



Além disso, ele suporta SR-IOV, que é tão importante para a virtualização de E / S (Xen e KVM).

ThunderX: do fácil ao complexo

Briefing breve. O ThunderX original era uma versão aprimorada do Octeon III: uma CPU com a capacidade de executar simultaneamente duas instruções (núcleo de emissão dupla) com dois pipelines curtos.



Uma vantagem do design original do ThunderX é sua alta eficiência energética, especialmente para cargas de trabalho com baixo ILP (paralelismo no nível de instrução). Obviamente, um transportador tão curto apresenta sérias limitações para aumentar a frequência do relógio, e um design de projeto simples garante baixo desempenho de rosca única com cargas ILP médias e altas, enquanto processadores avariados mais avançados podem extrair o máximo de "paralelismo oculto" possível. "

O “novo” núcleo do Cavium: Vulcan

Comparado com o ThunderX original, o núcleo do Vulcan ThunderX2 é um animal completamente diferente. Anunciado em 2014 pela Broadcom, o Vulcan é um núcleo relativamente grande que controla 4 threads simultâneos (SMT4). Como resultado, o back-end deve ser bem carregado, mesmo ao trabalhar com cargas de servidor com baixo ILP.

Para garantir a estabilidade de quatro fluxos SMT, o front-end ThunderX2 pode extrair até 64 bytes de um cache de instruções associativo de 32 KB de 8 vias, equipado com um pré-buscador simples da "próxima linha". No entanto, a escolha de 8 comandos é possível apenas se não houver ramificação nesses 64 bytes. Caso contrário, a seleção é interrompida na bifurcação.

Isso significa que, no código de ramificação intensiva (bancos de dados, AI ...), o buscador recebe uma média de ± 5 instruções por ciclo, uma vez que uma das 5 instruções é uma ramificação. As instruções selecionadas são enviadas ao buffer de suavização - um buffer no qual as instruções armazenadas são armazenadas para decodificação.



Em seguida, o decodificador trabalha com um pacote de 4 instruções. Entre o decodificador e a fase de renomeação, cada fluxo possui um "buffer slip", que consiste em 8 pacotes. Com 4 threads, até 32 pacotes (128 instruções) podem ser armazenados em buffer a qualquer momento.

Essas 4 instruções - o pacote - movem-se ao longo do pipeline até que uma única fila de mensagens seja alcançada para o planejador. Como o Loop Stream Detector da Intel (funciona como um pequeno cache), ele também possui um buffer de loop e um preditor. Esse buffer de loop elimina previsões incorretas de ramificação e contém μops decodificados que "encurtam" o pipeline e reduzem a energia usada para decodificação.

Podem ser executadas até 6 instruções por vez. A implementação inclui 2 slots ALU / FP / NEON, 1 slot ALU / tap, 2 slots de carregamento / armazenamento (16 bytes) e 1 slot de armazenamento limpo que envia 16 bytes para o cache D. Existe um pequeno TL1 LB (a Cavium não divulgará quanto) para alternar com atraso zero de endereços virtuais para físicos. Não há pré-buscador de hardware para o cache L1 D1, mas o cache L2 possui um pré-buscador de hardware bastante sofisticado que pode reconhecer padrões (ele pode funcionar passo a passo ou recuperar a próxima linha).

Isso é suficiente para "alimentar" o backend, que pode suportar 4 instruções por ciclo a partir de 4 threads diferentes.

Diferenças na microarquitetura

A Cavium publicou uma quantidade limitada de informações sobre os núcleos ThunderX2. Alguns recursos principais de várias arquiteturas de processador estão resumidos abaixo.



Uma análise detalhada está além do escopo deste artigo. Mas você pode ler as análises de Johan De Gelas sobre a arquitetura de Falkor, Skylake e Zen no AnandTech. Nós nos limitamos às diferenças mais óbvias.

É bastante óbvio que o desempenho single-thread da Intel permanece incomparável: o núcleo Skylake é o núcleo que executa a maioria das instruções em tempo real e, o mais importante, roda em uma velocidade de clock mais alta. O núcleo do ThunderX2 é diferente, pois extrai o máximo de instruções por ciclo, capaz de suportar constantemente 4 threads. O buscador capturará 8 equipes de um segmento, depois 8 do segundo segmento e continuará alternando entre os segmentos. Isso significa que previsões ruins podem reduzir significativamente o desempenho de um único encadeamento.

Os SKUs ThunderX2: 16 a 32 núcleos

O SKU usado para os testes é o ThunderX2 CN9980 2.2. Este é o SKU de ponta, contém 32 núcleos a uma frequência de 2,2 GHz com capacidade de aumentar até 2,5 GHz.



Se você acredita nos planos da Cavium, nos próximos meses haverá muito mais SKUs. A Cavium afirma que o CN9980 estará disponível em breve com uma frequência de 2,5 GHz e turbo de até 3 GHz.

A Cavium listou todos os SKUs planejados, juntamente com os SKUs Intel comparáveis. Pela definição da Cavium, um SKU Intel comparável é um chip que atinge o mesmo SPECInRate (2017) sob gcc que o SKU da Cavium.



A Cavium acredita que o CN9880 2.2 que adquirimos é comparável ao 8164, muito mais caro. Para nossos testes, comparamos com o 8176 (SKU da Intel disponível para nós). Não que isso importe: o 8176 possui uma velocidade de clock apenas 3% mais alta e 2 núcleos adicionais (+ 7%) em comparação com o 8164. No entanto, observe que embora o ThunderX2 Cavium possa realmente competir com os SKUs da Intel indicados, eles oferecem o mesmo desempenho por um terço do custo do SKU da Intel.

Na próxima parte:

• Configuração e metodologia de teste
• Subsistema de memória: Largura de banda
• Desempenho de thread único: SPEC CPU2006
• SPEC CPU2006 Cont: desempenho baseado em núcleo com SMT

Obrigado por ficar conosco. Você gosta dos nossos artigos? Deseja ver materiais mais interessantes? Ajude-nos fazendo um pedido ou recomendando a seus amigos, um desconto de 30% para os usuários da Habr em um análogo exclusivo de servidores básicos que inventamos para você: Toda a verdade sobre o VPS (KVM) E5-2650 v4 (6 núcleos) 10GB DDR4 240GB SSD 1Gbps de US $ 20 ou como dividir o servidor? (as opções estão disponíveis com RAID1 e RAID10, até 24 núcleos e até 40GB DDR4).

Dell R730xd 2 vezes mais barato? Somente nós temos 2 TVs Intel Dodeca-Core Xeon E5-2650v4 128GB DDR4 6x480GB SSD 1Gbps 100 a partir de US $ 249 na Holanda e nos EUA! Leia sobre Como criar um prédio de infraestrutura. classe usando servidores Dell R730xd E5-2650 v4 custando 9.000 euros por um centavo?