Mila 0.13.48
Deep Neural Network Library
Loading...
Searching...
No Matches
Mila::Dnn::Visualization::VisualizerContext Struct Referenceexport
module Visualization.Context

Public Attributes

std::vector< std::shared_ptr< Mila::Dnn::ITensor > > attn_heads
int head_dim {0}
int hidden_dim {0}
std::shared_ptr< Mila::Dnn::ITensor > k_proj
std::shared_ptr< Mila::Dnn::ITensor > ln_out
std::shared_ptr< Mila::Dnn::ITensor > mlp_act
std::shared_ptr< Mila::Dnn::ITensor > mlp_l1
std::shared_ptr< Mila::Dnn::ITensor > mlp_l2
int n_heads {0}
std::shared_ptr< Mila::Dnn::ITensor > q_proj
std::vector< float > residual_norms
int seq_len {0}
std::shared_ptr< Mila::Dnn::ITensor > v_proj

Member Data Documentation

◆ attn_heads

std::vector<std::shared_ptr<Mila::Dnn::ITensor> > Mila::Dnn::Visualization::VisualizerContext::attn_heads

◆ head_dim

int Mila::Dnn::Visualization::VisualizerContext::head_dim {0}

◆ hidden_dim

int Mila::Dnn::Visualization::VisualizerContext::hidden_dim {0}

◆ k_proj

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::k_proj

◆ ln_out

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::ln_out

◆ mlp_act

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::mlp_act

◆ mlp_l1

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::mlp_l1

◆ mlp_l2

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::mlp_l2

◆ n_heads

int Mila::Dnn::Visualization::VisualizerContext::n_heads {0}

◆ q_proj

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::q_proj

◆ residual_norms

std::vector<float> Mila::Dnn::Visualization::VisualizerContext::residual_norms

◆ seq_len

int Mila::Dnn::Visualization::VisualizerContext::seq_len {0}

◆ v_proj

std::shared_ptr<Mila::Dnn::ITensor> Mila::Dnn::Visualization::VisualizerContext::v_proj
The documentation for this struct was generated from the following file: