Cloudflare fala sobre seu sucesso no uso do OpenBMC. A Cloudflare falou sobre seu sucesso no uso do software OpenBMC baseado em Linux de código aberto para controladores de gerenciamento de placa base (BMCs) como um substituto para pilhas de software BMC proprietárias.
Além da transparência e dos benefícios de firmware auditáveis ??do OpenBMC, o OpenBMC encontrou benefícios adicionais neste software BMC de código aberto quando se trata da capacidade de adaptar melhor a pilha de software para GPUs de ponta, à medida que eles estão cada vez mais usando para fins de IA dentro de sua vasta a infraestrutura.
A Cloudflare anunciou recentemente o Workers AI, dando aos desenvolvedores a capacidade de executar inferência de IA alimentada por GPU sem servidor na rede global da Cloudflare. Uma área importante de foco para permitir isso em nossa rede foi a atualização de nossos Baseboard Management Controllers (BMCs). O BMC é um microprocessador incorporado que fica na maioria dos servidores e é responsável pelo gerenciamento remoto de energia, sensores, console serial e outros recursos, como mídia virtual.
Para gerenciar com eficiência nossos BMCs, a Cloudflare utiliza o OpenBMC, uma pilha de firmware de código aberto do Open Compute Project (OCP). Para Cloudflare, OpenBMC fornece firmware transparente e auditável. Abaixo descrevemos um pouco do que a Cloudflare foi capaz de fazer até agora com o OpenBMC em relação aos nossos servidores equipados com GPU.
Cloudflare fala sobre seu sucesso no uso do OpenBMC
Através do OpenBMC, os engenheiros da Cloudflare têm adaptado a configuração do software BMC sem qualquer dependência do ODM do servidor/placa-mãe. Eles conseguiram adaptar seus servidores baseados em OpenBMC para lidar melhor com os TDPs mais altos das GPUs mais recentes para garantir resfriamento suficiente.
“A Cloudflare conseguiu aproveitar o OpenBMC para obter mais controle e flexibilidade com nossas configurações de servidor, sem sacrificar a eficiência no núcleo de nossa rede. Embora continuemos a trabalhar em estreita colaboração com nossos parceiros ODM, nossa implantação contínua de GPU ressaltou a importância de ser capaz de modificar o firmware do servidor sem ficar preso aos ciclos tradicionais de atualização de dispositivos.”
Aqueles curiosos sobre o gosto do OpenBMC da Cloudflare podem ler esta postagem do blog para obter mais detalhes.
