Ollama(开源本地LLM大语言模型管理运行工具)

Ollama是一个开源本地大语言模型(LLM)管理运行工具，旨在简化大型语言模型的本地部署、管理和使用。它允许用户在本地计算机上运行各种预训练的语言模型，如 Llama、DeepSeek、Mistral 等，而无需依赖云服务。Ollama 提供了命令行工具(CLI)、Python SDK、RESTful API 和 Web UI 等多种交互方式，支持跨平台操作(包括 Windows、macOS 和 Linux)，并兼容多种硬件加速选项。