跳到主要内容

Llama3.2

Llama3.21.模型规模2.性能表现3.使用Llama3.23.1 运行Llama3.23.2 进行对话3.3 结束对话3.4 中文对话参考资料

演示环境

开发板 ：Jetson Orin系列主板

注：Jetson Orin Nano 4GB由于性能限制，需运行小参数版本的

Meta Llama3.2是由Meta AI部门开发的一系列先进的开源大型语言模型（LLM）。

1.模型规模​

模型体积
llama3.2:1b1.3GB
llama3.2:3b2.0GB

2.性能表现​

Llama 3.2 instruction-tuned benchmarks

3.使用Llama3.2​

3.1 运行Llama3.2​

使用run命令，开始运行模型，如果没有下载过此模型，会自动拉取Ollama模型库的模型：

ollama run llama3.2:3b

image-20250627184454105

3.2 进行对话​

xxxxxxxxxx How many minutes are there in a day?

回复问题时间和硬件配置有关，耐心等待！

image-20250627185035604

3.3 结束对话​

使用Ctrl+d快捷键或者/bye可以结束对话！

3.4 中文对话​

没有中文输入法的，可以查看中文输入法切换教程

中文对话：

image-20250627185428020

参考资料​

Ollama

官网：https://ollama.com/

GitHub：https://github.com/ollama/ollama

Llama 3.2

官网：https://www.llama.com/docs/model-cards-and-prompt-formats/llama3_2/

Ollama对应模型：https://ollama.com/library/llama3.2