跳到主要内容

Phi4-mini

Phi4-mini1.模型规模2.性能表现3.使用Phi4-mini3.1 运行Phi4-mini3.2 进行对话3.3 结束对话3.4 中文对话参考资料

演示环境

开发板 ：Jetson Orin系列主板

注：Jetson Orin Nano 4GB由于性能限制，无法运行此模型。

Phi-4-mini-instruct 是一个轻量级开放模型，基于合成数据和经过筛选的公开网站构建，专注于高质量、推理密集的数据。

1.模型规模​

模型体积
phi4-mini:3.8b2.5GB

2.性能表现​

3.使用Phi4-mini​

3.1 运行Phi4-mini​

使用run命令，开始运行模型，如果没有下载过此模型，会自动拉取Ollama模型库的模型：

ollama run phi4-mini:3.8b

image-20250628171924058

3.2 进行对话​

xxxxxxxxxx How many minutes is a quarter of an hour?

回复问题时间和硬件配置有关，耐心等待！

image-20250628174758777

3.3 结束对话​

使用Ctrl+d快捷键或者/bye可以结束对话！

3.4 中文对话​

没有中文输入法的，可以查看中文输入法切换教程

中文对话：

image-20250628174920964

参考资料​

Ollama

官网：https://ollama.com/

GitHub：https://github.com/ollama/ollama

Phi4-mini

Ollama对应模型：https://ollama.com/library/phi4-mini