Mila 0.13.48
Deep Neural Network Library
Loading...
Searching...
No Matches
CudaGqa.Dispatch.ixx File Reference
#include <cublasLt.h>
#include <cuda_bf16.h>
#include <vector>
#include <memory>
#include <string>
#include <stdexcept>
#include <cstdint>
#include <type_traits>
#include <sstream>
#include <cassert>
#include "Kernels/CudaGqa.cuh"
#include "../Common/Kernels/CudaAttention.cuh"

Classes

struct  Mila::Dnn::Compute::Cuda::Gqa::Detail::cuda_gqa_kernels< float >
struct  Mila::Dnn::Compute::Cuda::Gqa::Detail::cuda_gqa_kernels< nv_bfloat16 >

Namespaces

namespace  Mila
 Mila main API namespace.
namespace  Mila::Dnn
namespace  Mila::Dnn::Compute
namespace  Mila::Dnn::Compute::Cuda
namespace  Mila::Dnn::Compute::Cuda::Gqa
namespace  Mila::Dnn::Compute::Cuda::Gqa::Detail