模型

official

• BERT
• Bloom
• CLIP
• ChatGLM6B
• GPT2
• LLaMA
• MAE
• PanguAlpha
• SWIN
• T5
• ViT

此处给出了MindFormers套件中支持的任务名称和模型名称，用于高阶开发时的索引名

模型	任务（task name）	模型（model name）
BERT	masked_language_modeling text_classification token_classification question_answering	bert_base_uncased txtcls_bert_base_uncased txtcls_bert_base_uncased_mnli tokcls_bert_base_chinese tokcls_bert_base_chinese_cluener qa_bert_base_uncased qa_bert_base_chinese_uncased
T5	translation	t5_small
GPT2	text_generation	gpt2_small gpt2_13b gpt2_52b
PanGuAlpha	text_generation	pangualpha_2_6_b pangualpha_13b
GLM	text_generation	glm_6b glm_6b_lora
GLM2	text_generation	glm2_6b glm2_6b_lora
LLama	text_generation	llama_7b llama_13b llama_65b llama_7b_lora
Bloom	text_generation	bloom_560m bloom_7.1b bloom_65b bloom_176b
MAE	masked_image_modeling	mae_vit_base_p16
VIT	image_classification	vit_base_p16
Swin	image_classification	swin_base_p4w7
CLIP	contrastive_language_image_pretrain zero_shot_image_classification	clip_vit_b_32 clip_vit_b_16 clip_vit_l_14 clip_vit_l_14@336
BLIP2	contrastive_language_image_pretrain zero_shot_image_classification	blip2_vit_g

research

• 百川
• Baichuan2
• InternLM
• 子牙

此处给出了MindFormers套件中支持的任务名称和模型名称，用于高阶开发时的索引名

模型	任务（task name）	模型（model name）
baichuan	text_generation	baichuan_7b baichuan_13b
baichuan2	text_generation	baichuan2_7b baichuan2_13b
internlm	text_generation	internlm_7b internlm_7b_lora
ziya	text_generation	ziya_13b