Llama 3 + Ollama + Open WebUI打造本机强大GPT

**本文是Youtube影片的辅助文档，在观看完成Youtube原影片后，使用本文档效果会更佳。**

Llama3是目前最强大的开源大语言模型LLM。ollama是一个可以运行各种开源大语言模型的容器。目前已经支持几十种开源模型，包括Meta最新发布的Llama 3 微软的phi3和Google的Gemma等等 。除此以外，Ollama也支持个性化Fine-Tunning模型。Open WebUI是基于Ollama的一款Wrapper，其最大的特点是和ChatGPT的UI几乎完全一样，让用户可以快速上手。

下载地址: [https://ollama.com/download](https://ollama.com/download)

支持模型: [https://ollama.com/library](https://ollama.com/library)

下载:

```
ollama pull <model-name>
```

运行:

```
ollama run <model-name>
```

删除:

```
ollama del <model-name>
```

model-name 可以从[https://ollama.com/library](https://ollama.com/library)获取

Docker下载地址: [https://www.docker.com/products/docker-desktop/](https://www.docker.com/products/docker-desktop/)

安装命令:

```
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
```

本机访问地址：

[http://localhost:3000](http://localhost:3000)

```
请用列表形式罗列单词challenge的词性、解释和实例。返回结果为中文。
```

```
80的平方根是多少?
```

```
请参考前面两首如梦令，编写第三首如梦令用于表达对爱人的思念。
第一首如梦令： 昨夜雨疏风骤，浓睡不消残酒。试问卷帘人，却道海棠依旧。知否，知否，应是绿肥红瘦。
第二首如梦令：常记溪亭日暮，沉醉不知归路。兴尽晚回舟，误入藕花深处。争渡，争渡，惊起一滩鸥鹭。
返回结果为中文， 不需要英文翻译。
```

```
Please use a data table to show the top 20 GDP countries. The data should contains the country name, population, GDP and GDP per capita
```

```
Please create a REST API with Flask framework.
```

[https://llama.meta.com/llama3](https://llama.meta.com/llama3)