LLM 概述

Documentation Index

Fetch the complete documentation index at: https://ahvn.top/llms.txt

Use this file to discover all available pages before exploring further.

export OPENROUTER_API_KEY="..."

import heavenbase as hb

llm = hb.LLM()
text = llm.chat("Reply with exactly: hb-ok")

​

解析模型

• preset：命名快捷方式，例如 system、chat、reason、coder、embed、imagen、mock、custom。
• model：规范模型名或别名，例如 ds-flash、sonnet、gpt、gpt-image-mini。
• provider：模型由谁提供。内置生产模型默认使用 openrouter。
• gateway：请求如何发送。默认 openai 网关使用 OpenAI Python SDK 访问 OpenAI-compatible endpoint。

hb.LLM()                         # preset="system"
hb.LLM(model="ds-flash")
hb.LLM(model="ds-flash", provider="deepseek")
hb.LLM(preset="reason")
hb.LLM(preset="mock")

llm = hb.LLM(model="ds-flash", max_tokens=256, temperature=0)

​

内置 Preset

​

内置模型

​

图像输入

answer = hb.LLM(model="qwen3.6", provider="openrouter").chat(
    "这张图里有什么？",
    images=["./sample.png"],
)

image = hb.LLM(preset="imagen").imagen("按参考图风格生成 HB 标记", images=hb.LLMImage.from_any("./sample.png"))

​

临时网关限制

​

Include 投影

• text：最终可见回答文本。
• think：provider 单独暴露的 reasoning/thinking 文本。
• content：用 <think> 包裹 think 后再接 text。
• message：OpenAI 格式 assistant response dict，包含 role、content 和可选 tool_calls；它不是完整历史。
• delta：本次推理新增的 OpenAI 格式消息列表，通常是 [message]；未来接入工具执行后，tool result messages 会追加在 assistant message 后面。
• messages：完整对话历史，也就是归一化后的输入 messages 加上 delta。
• tool_calls：assistant response 里的标准 OpenAI tool_calls。
• usage：本次调用的 provider usage counters，常见键包括 prompt_tokens、completion_tokens、total_tokens；streaming usage chunk 会合并数值字段。
• raw：原始 provider payload。
• elapsed：HeavenBase 测得的请求耗时秒数。
• created_at：本地响应创建时间戳。
• structured：可解析时的结构化 JSON/object 输出，否则为 None。

detail = llm.chat(
    "Reply with exactly: hb-ok",
    include=["text", "usage", "elapsed"],
    reduce=False,
    max_tokens=8,
)

​

Hash key 与客户端复用

llm = hb.LLM(model="ds-flash", provider="deepseek")

spec_key = llm.spec.hash_key()
litellm_key = llm.spec.hash_key("litellm")
client_key = llm.spec.client_key()