← 文章 / AI技术
Simon Willison 19小时前 · 2026-07-31 10:43:13 · 3 阅读

LLM 0.32rc2 发布:默认模型升级为 GPT-5.6 Luna,新增 openai endpoint 命令

发布 llm 0.32rc2 — 在命令行中访问大型语言模型

紧接 RC1 之后,此版本修复了一个依赖问题,并新增了两个实用功能:

  • 未设置默认模型的用户,现在默认使用 GPT-5.6 Luna。此前默认的是 GPT-4o mini。Luna 是更新、更好的模型,但价格略高——每百万输入 token 0.20 美元,每百万输出 token 1.20 美元,而 4o mini 分别为 0.15 美元和 0.60 美元。你可以通过 llm models default gpt-4o-mini 切回 4o mini,或使用 llm models default gpt-5-nano 切换到更便宜的默认模型 GPT-5 nano(0.05 美元/0.40 美元)。#1576
  • 新增 llm openai endpoint 命令,无需预先配置模型,即可对任意兼容 OpenAI 的端点运行提示、对话和模型列表查询。这些调用不会被记录。#1565

llm openai endpoint 命令非常酷。我一直苦于缺少一个直观的 CLI 工具来针对各种 OpenAI Chat Completions 模仿端点测试提示,于是决定把这个功能直接加到 LLM 里。

你甚至不需要安装 LLM 就能使用它。下面是一个 uvx 单行命令,用于对 LM Studio 本地模型运行带工具的提示:

uvx --pre llm openai endpoint http://127.0.0.1:1234/v1 \
  T llm_version -T llm_time --td \
  -m google/gemma-4-31b 'what is the current LLM version? And the time?'

输出在此

原始来源: Simon Willison

评论 (0)