跳到主要内容

LM Studio

捆绑包 (Bundles) 包含支持特定第三方与 Langflow 集成的自定义组件。

LM Studio 捆绑包中的组件允许您使用来自本地或托管的 LM Studio 实例的模型。 组件可能需要使用 LM Studio API 密钥进行身份验证。有关 LM Studio 模型、连接和凭据的信息,请参阅 LM Studio 文档

LM Studio 文本生成 (LM Studio text generation)

LM Studio 组件使用 LM Studio 的本地语言模型生成文本。

它可以输出 模型响应 (Model Response) (消息 (Message)) 或 语言模型 (Language Model) (语言模型 (LanguageModel))。

当您希望将 LM Studio 模型用作另一个 LLM 驱动组件(如 代理 (Agent)智能转换 (Smart Transform) 组件)的 LLM 时,请使用 语言模型 (Language Model) 输出。

有关更多信息,请参阅 语言模型组件

LM Studio 文本生成参数

Some parameters are hidden by default in the visual editor. You can modify all parameters through the Controls in the component's header menu.

名称类型描述
base_urlString输入参数。LM Studio 运行的 URL。默认值:"http://localhost:1234"
api_keyLM Studio API Key输入参数。用于向 LM Studio 进行身份验证的 API 密钥(如果需要)。
max_tokensInteger输入参数。响应中生成的最大标记 (tokens) 数。默认值:512
temperatureFloat输入参数。控制输出的随机性。范围:[0.0, 2.0]。默认值:0.7
top_pFloat输入参数。通过核采样 (nucleus sampling) 控制多样性。范围:[0.0, 1.0]。默认值:1.0
stopList[String]输入参数。遇到时停止生成的字符串列表。
streamBoolean输入参数。是否流式传输响应。默认值:false
presence_penaltyFloat输入参数。惩罚重复的标记。范围:[-2.0, 2.0]。默认值:0.0
frequency_penaltyFloat输入参数。惩罚频繁出现的标记。范围:[-2.0, 2.0]。默认值:0.0

LM Studio 嵌入 (LM Studio Embeddings)

LM Studio Embeddings 组件使用 LM Studio 模型生成嵌入。

有关在流中使用嵌入模型组件的更多信息,请参阅 嵌入模型组件

LM Studio 嵌入参数

Some parameters are hidden by default in the visual editor. You can modify all parameters through the Controls in the component's header menu.

名称显示名称信息
model模型 (Model)输入参数。用于生成嵌入的 LM Studio 模型。
base_urlLM Studio 基础 URL (LM Studio Base URL)输入参数。LM Studio API 的基础 URL。
api_keyLM Studio API Key输入参数。用于向 LM Studio 进行身份验证的 API 密钥。
temperature模型温度 (Model Temperature)输入参数。模型的温度设置。
Search