Llava

Llava1.模型规模2.性能表现3.使用Llava3.1 运行Llava3.2 进行对话3.3 视觉功能3.4 结束对话3.5 中文对话参考资料

演示环境

开发板 ：Jetson Orin系列主板

注：Jetson Orin Nano 4GB由于性能限制，无法运行此模型。

1.模型规模

模型	体积
llava:7b	4.7GB

2.性能表现

3.使用Llava

3.1 运行Llava

使用run命令，开始运行模型，如果没有下载过此模型，会自动拉取Ollama模型库的模型：

ollama run llava:7b

3.2 进行对话

xxxxxxxxxx How many minutes is half an hour?

回复问题时间和硬件配置有关，耐心等待！

3.3 视觉功能

xxxxxxxxxx What do you see in this picture? :./test_pic.png #在对话中使用 ": + 图片的路径"，就可以让模型使用它的视觉功能，让它解析图片中的信息

3.4 结束对话

使用Ctrl+d快捷键或者/bye可以结束对话！

3.5 中文对话

没有中文输入法的，可以查看中文输入法切换教程

中文对话：

参考资料

Ollama

官网：https://ollama.com/

GitHub：https://github.com/ollama/ollama

Llava

Ollama对应模型：https://ollama.com/library/llava