datasette-llm-limits 0.1a0 发布:为 Datasette 的 LLM 使用设置预算上限

datasette-llm-limits 0.1a0

精选理由

做 Datasette 数据应用的管理员终于能控制 LLM 调用成本了——按用户设每日预算,防止 AI 查询烧光 API 额度,值得一试。

AI 摘要

Simon Willison 发布了 datasette-llm-limits 0.1a0 插件,与 datasette-llm 和 datasette-llm-accountant 配合使用,可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示,可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题,让 Datasette 管理员能精细控制 AI 功能的使用成本。

AI 翻译 · 中文

Simon Willison 发布了 datasette-llm-limits 0.1a0 插件,与 datasette-llm 和 datasette-llm-accountant 配合使用,可为 Datasette 中的 LLM 调用设置按用户或全局的每日消费限额。配置示例显示,可以设置每个用户每天 1 美元的滚动 24 小时预算。这解决了多用户场景下 LLM 费用失控的问题,让 Datasette 管理员能精细控制 AI 功能的使用成本。

Simon Willison’s WeblogRelease: datasette-llm-limits 0.1a0 This plugin works in conjunction with datasette-llm and datasette-llm-accountant to let you configure a per-user (or global) spending limit for LLM usage inside of Datasette. Configura