跳到主要内容

Vertex AI

捆绑包 (Bundles) 包含支持特定第三方与 Langflow 集成的自定义组件。

本页面介绍了 Vertex AI 捆绑包中可用的组件。

有关 Vertex AI 组件使用的 Vertex AI 特性和功能的更多信息,请参阅 Vertex AI 文档

有关其他 Google 组件,请参阅 Google 捆绑包

Vertex AI 文本生成 (Vertex AI text generation)

Vertex AI 组件使用 Google Vertex AI 模型生成文本。

它可以输出 模型响应 (Model Response) (消息 (Message)) 或 语言模型 (Language Model) (语言模型 (LanguageModel))。

当您想将 Vertex AI 模型用作另一个由 LLM 驱动的组件(如 代理 (Agent)智能转换 (Smart Transform) 组件)的 LLM 时,请使用 语言模型 输出。

有关更多信息,请参阅 语言模型组件

Vertex AI 文本生成参数

Some parameters are hidden by default in the visual editor. You can modify all parameters through the Controls in the component's header menu.

名称类型描述
credentialsFile输入参数。JSON 凭证文件。留空则回退到环境变量。文件类型:JSON。有关更多信息,请参阅 创建用于 Vertex AI 身份验证的服务账号
model_nameString输入参数。要使用的 Vertex AI 模型名称。默认值:"gemini-1.5-pro"。
projectString输入参数。项目 ID。
locationString输入参数。Vertex AI API 的位置。默认值:"us-central1"。
max_output_tokensInteger输入参数。生成的最大标记 (tokens) 数。
max_retriesInteger输入参数。API 调用的最大重试次数。默认值:1。
temperatureFloat输入参数。控制输出的随机性。默认值:0.0。
top_kInteger输入参数。用于 top-k 过滤的最高概率词汇标记数量。
top_pFloat输入参数。核采样 (nucleus sampling) 时保留的所有最高概率词汇标记的累积概率。默认值:0.95。
verboseBoolean输入参数。是否打印详细输出。默认值:false

有关 Vertex AI 文本生成参数的更多信息,请参阅 Vertex AI 内容生成参数文档

Vertex AI 嵌入 (Vertex AI Embeddings)

Vertex AI Embeddings 组件是 Google Vertex AI Embeddings API 的包装器,用于生成嵌入。

有关在流中使用嵌入模型组件的更多信息,请参阅 嵌入模型组件

Vertex AI 嵌入参数

Some parameters are hidden by default in the visual editor. You can modify all parameters through the Controls in the component's header menu.

名称类型描述
credentialsCredentials输入参数。JSON 凭证文件。留空则回退到环境变量。文件类型:JSON。有关更多信息,请参阅 创建用于 Vertex AI 身份验证的服务账号
locationString输入参数。进行 API 调用时使用的默认位置。默认值:us-central1
max_output_tokensInteger输入参数。标记限制决定了单个提示词输出的最大文本量。默认值:128
model_nameString输入参数。Vertex AI 大型语言模型的名称。默认值:text-bison
projectString输入参数。进行 Vertex API 调用时使用的默认 GCP 项目。
request_parallelismInteger输入参数。发往 Vertex AI 模型的请求允许的并行量。默认值:5
temperatureFloat输入参数。调整文本生成的随机程度。应为非负值。默认值:0
top_kInteger输入参数。模型如何选择输出标记。下一个标记从前 k 个标记中选择。默认值:40
top_pFloat输入参数。标记从最可能到最不可能选择,直到其概率之和超过 top p 值。默认值:0.95
tuned_model_nameString输入参数。微调模型的名称。如果提供,model_name 将被忽略。
verboseBoolean输入参数。此参数控制输出的详细程度。设置为 true 时,它会打印链的内部状态以帮助调试。默认值:false
embeddingsEmbeddings输出参数。用于使用 Vertex AI 生成嵌入的实例。

创建用于 Vertex AI 身份验证的服务账号

Vertex AI EmbeddingsVertex AI 组件使用服务账号 JSON 文件与 Google Vertex AI API 进行身份验证。

这些组件要求您在 凭证 (Credentials) 参数 (credentials) 中提供服务账号 JSON 文件。 您可以直接在组件设置中提供该文件,也可以使用 GOOGLE_APPLICATION_CREDENTIALS 环境变量 来引用 JSON 文件的路径。

以下步骤说明了如何为 Langflow 创建服务账号、创建服务账号 JSON 密钥文件,然后在 Langflow 中使用该 JSON 密钥文件:

  1. 如果尚未执行此操作,请 在您的 Google Cloud 项目中启用 Vertex AI API

  2. 在您的 Google Cloud 项目中创建一个 服务账号 (service account)

    建议您 为 Vertex AI 创建自定义服务账号,因为 Langflow 使用此账号访问 Vertex AI API。

  3. 为该服务账号分配 Vertex AI Service Agent 角色。

    此角色允许 Langflow 访问 Vertex AI 资源。 有关更多信息,请参阅 使用 IAM 进行 Vertex AI 访问控制

  4. 为您的 Langflow Vertex AI 服务账号 创建 JSON 格式的服务账号密钥

    点击 创建 (Create) 时,JSON 密钥文件将下载。

  5. 在 Langflow 中,创建或打开带有 Vertex AIVertex AI Embeddings 组件的流。

  6. 在组件的 凭证 (Credentials) 字段中,执行以下操作之一:

    • 直接选择您的服务账号 JSON 文件。

    • 如果您想从环境变量中拉取密钥文件,请保持 凭证 (Credentials) 字段为空。 然后,您必须在相对于 Langflow 实例设置的 GOOGLE_APPLICATION_CREDENTIALS 环境变量中提供 JSON 文件的路径。 例如,您可以在终端、Langflow .env 文件或 Langflow 服务器/应用程序运行的环境中设置该环境变量。

    为 Vertex AI 组件选择本地 JSON 密钥文件

  7. 运行您的流以验证 Langflow 是否可以成功使用服务账号凭据。

    例如,在一个带有 聊天输入 (Chat Input)聊天输出 (Chat Output)Vertex AI 组件的流中,您可以打开 游乐场 (Playground) 并尝试与 LLM 聊天。 如果 LLM 做出响应,则凭据配置正确。

Search