Atomic Local AI Server 发布：一个命令在本地跑各种推理引擎
想在本地跑开源模型又嫌装环境麻烦的可以试试这个，一条命令装好 llama.cpp 或 vLLM，还自带 OpenAI 兼容接口，能直接接 Claude 和 Codex 这类智能体。
Atomic 发布开源免费的 Local AI Server，支持 llama.cpp、vLLM、SGLang、TensorRT、MLX 等多种推理引擎，并根据 GPU、CPU 或 NPU 一键匹配安装。它提供 OpenAI 兼容 API，可从 Hugging Face 拉取 300 万个模型，支持 GGUF、MLX 和 safetensors 格式。运行环境覆盖 Windows、Linux、Apple Silicon 和 NVIDIA 硬件（含 RTX、Blackwell、DGX Spark）。还能连接 Hermes、OpenClaw、Claude、Codex 等智能体，并通过 stable-diffusion 生成图片和视频，提供 CLI、Web UI 和 Cloudflare 隧道远程访问。
Introducing Atomic Local AI Server ⚡
Choose inference engine. Run local models. Connect your agents.
• Multiple engines: llama.cpp, vLLM, SGLang, TensorRT, MLX, Prism and more. • Local AI server with an OpenAI-compatible API. • One-command engine installation matched to your GPU, CPU or NPU. • Pull from 3M Hugging Face models in GGUF, MLX or safetensors formats. • Run on Windows, Linux, Apple Silicon and NVIDIA hardware, including RTX, Blackwell and DGX Spark. AMD Ryzen Halo support coming soon. • Connect Hermes, OpenClaw, Claude, Codex, Pi agent and others. • Generate images and videos with stable-diffusion. • Manage everything through CLI or web UI. • Remote access via Cloudflare tunnels
Free. Open source. Local. 👇 https://t.co/cq4wUES4xw
