A NVIDIA apresentou uma série de novos patches para o kernel Linux, visando aprimorar a funcionalidade do GPU Direct RDMA (Acesso Direto à Memória Remota) e DMA ponto a ponto (P2P DMA). Esses patches estendem o suporte ao P2P DMA para páginas privadas de dispositivos, uma melhoria crucial para otimizar o desempenho de comunicação entre GPUs e dispositivos, como adaptadores de rede, sem a necessidade de passar pela memória do sistema.
Avanços no DMA ponto a ponto no Linux
Nos últimos anos, o kernel Linux tem evoluído para oferecer melhor suporte ao P2P DMA, o que permite a comunicação direta entre dispositivos, como aceleradores, GPUs e adaptadores de rede. Essa abordagem elimina cópias desnecessárias de dados na memória do sistema, melhorando a eficiência e o desempenho geral das transferências. Os novos patches da NVIDIA vão além, habilitando o P2P DMA para páginas de memória privada de dispositivos, o que representa um avanço significativo no fluxo de dados entre dispositivos conectados.
Patches otimizam uso de páginas privadas de dispositivos
Yonatan Maman, engenheiro da NVIDIA, explicou que a série de patches foi projetada para permitir que aplicativos centrados em GPUs, que utilizam RDMA, se beneficiem do acesso DMA ponto a ponto a páginas privadas de dispositivos. Isso elimina a necessidade de trafegar dados pela memória do sistema, o que é o método convencional de exposição de páginas privadas de dispositivos.
As mudanças propostas incluem ajustes no código de gerenciamento de memória do Linux e no Gerenciamento Heterogêneo de Memória (HMM), que agora passam a permitir que a GPU mapeie diretamente essas páginas privadas para operações de P2P DMA. O uso da função hmm_range_fault foi otimizado para permitir conexões P2P sem a necessidade de gerenciar falhas de página da maneira tradicional, reduzindo a sobrecarga de transferência de dados.
Atualizações nos drivers NVIDIA e de código aberto
Os patches também trazem melhorias para drivers-chave no ecossistema Linux, incluindo o driver NVIDIA Mellanox MLX5 e o driver de código aberto Nouveau.
Driver NVIDIA Mellanox MLX5
O driver Mellanox MLX5 foi atualizado para otimizar o suporte a P2P via PCIe, com melhorias no uso da memória ODP (On-Demand Paging). Isso inclui a ativação do serviço de tradução de endereços (ATS), que garante um melhor desempenho ao acessar páginas privadas de dispositivos em operações P2P.
Notícias Relacionadas
Integração avançada
Novo atalho 'Phone Link' em ThinkPads ganha suporte no kernel Linux
Recentemente, desenvolvedores adicionaram suporte ao kernel Linux para um novo atalho presente nos mais recentes notebooks Lenovo ThinkPad. O atalho, localizado na tecla F11, é identificado por um ícone de smartphone conectado a um laptop. Ele foi projetado para iniciar o software Microsoft Phone Link, utilizado para integrar dispositivos Android e iOS ao notebook, permitindo […]
Inovação em redes
NVIDIA MLX5 traz Data Direct Placement no Linux 6.13 para otimizar largura de banda
O driver NVIDIA MLX5, usado em adaptadores de rede Mellanox ConnectX-5, está introduzindo um recurso inovador chamado Data Direct Placement (DDP) no Linux 6.13. Essa novidade promete melhorar o desempenho de redes de alta velocidade, especialmente em aplicações que exigem transferência massiva de dados, como datacenters e inteligência artificial. O que é o Data Direct […]
Driver Nouveau
Embora o driver Nouveau não seja amplamente utilizado em workloads exigentes, ele recebeu suporte para operações de P2P DMA por meio da função de callback p2p_page. Esse suporte demonstra a capacidade de lidar com operações de páginas P2P em um ambiente totalmente de código aberto, seguindo as políticas de upstream do kernel Linux. A integração no Nouveau serve como uma demonstração prática do uso dessas funcionalidades com drivers open-source.
Principais atualizações técnicas:
- Gerenciamento de Memória (MM): Foi implementado o suporte para operações de páginas P2P utilizando a estrutura
pagemap_ops, que permite à GPU mapear diretamente as páginas privadas de dispositivos. - Driver IB/Core: Uma nova flag chamada
TRY_P2P_REQfoi adicionada ao chamar a funçãohmm_range_fault, facilitando o mapeamento eficiente de páginas P2P. - Driver Nouveau: O suporte ao DMA P2P foi integrado ao driver Nouveau, com uma nova função de callback chamada
p2p_page, que lida com operações de páginas ponto a ponto. - Driver MLX5: Melhorias no driver da NVIDIA Mellanox MLX5, com ativação do serviço ATS para otimizar a memória ODP, garantindo maior eficiência em operações P2P.
Essas mudanças reforçam o compromisso da NVIDIA com a otimização do desempenho de suas GPUs e a interoperabilidade com outros dispositivos, garantindo que o suporte a drivers de código aberto seja mantido e aprimorado.
Conclusão
Com esses novos patches, a NVIDIA não apenas melhora a eficiência do DMA ponto a ponto no Linux, mas também reforça a interoperabilidade entre GPUs e outros dispositivos de alta performance. A otimização para páginas privadas de dispositivos representa um avanço importante para aplicações que demandam altíssimo desempenho, como inteligência artificial e computação de alto desempenho.
Para mais detalhes, consulte a série de patches publicada pela equipe da NVIDIA.
