CYBER WATCH / EQUINOXE INTELLIGENCE

← Tous les articles

b12257 : CUDA : déplacer le graphe et l’état du flux concurrent hors de common.cuh (#32001)

llama.cpp Releases · 2026-11-11 00:01:19

Les structures ggml_cuda_graph, ggml_cuda_concurrent_event et ggml_cuda_stream_context, auparavant définies dans common.cuh, sont désormais déplacées vers graph.cuh. Cela évite de recompiler chaque unité de traduction CUDA lorsqu’elles changent. Le constructeur de contexte, cuda_graph() et les fonctions any_cuda_graph_*() sont maintenant définies dans ggml-cuda.cu, et le contexte de flux est géré via un unique_ptr. La fonction ggml_cuda_kernel_can_use_pdl est également définie une seule fois dans ggml-cuda.cu, consolidant le cache PDL et intégrant la vérification de l’environnement GGML_CUDA_PDL.

Consulter la source ↗