Skip to content

Ollama

Web Development

一款在本地运行大语言模型的工具,简化模型部署和使用。

Official Site
01

概述

Ollama 是一款开源的本地 LLM 运行工具,让在个人电脑上运行大语言模型变得简单。其核心理念是简化模型部署:一条命令即可下载并运行模型。Ollama 支持 Llama 3、Mistral、Phi-3、Gemma、Qwen 等开源模型。它提供 REST API 和命令行界面,便于集成到应用中。Ollama 自动处理 GPU 检测、内存管理、模型优化等复杂任务。支持 macOS、Linux 和 Windows。

bash
const el=document.querySelector(".btn");
el.textContent="Click"; el.classList.add("active");
const frag=new DocumentFragment();
02

安装

Ollama 支持 macOS、Linux 和 Windows。安装过程简单:下载安装包并运行。安装后环境会自动配置,无需额外设置。

Ready to try Ollama?

Visit the official site for the latest version and full documentation.

Visit Ollama