将 Kobold AI API 与你的APP连接

Kobold-AI-API-1-750x375-1

Kobold AI 是一个功能强大且易于使用的平台,可提供各种基于人工智能的文本生成体验。Kobold API 可用于提供有关此 API 的元数据,模型选项用于提供有关当前文本生成模型的信息。world_info 提供用于在 KoboldAI GUI 中处理世界信息等的端点。

在本文中,我们将介绍如何使用信息、模型、故事、配置、世界信息和其他可调整 AI 设置等功能开始使用 Kobold AI API 应用程序。

如何开始使用 Kobold API

本教程不需要任何技术知识。设置起来非常简单,您将在几分钟内启动并运行您自己的 Kobold AI API。

Colab 是 Google 创建的基于 Jupyter Notebook 的研究工具,可用于部署基于 Python 或 R 的模型或脚本。您还将获得免费的 Nvidia Tesla T4 GPU。在 Google Cloud 中,该 GPU 的成本约为 250 美元。我们现在将在 Google Colab 中设置 Kobold AI。

转到带有 GPU 的 Kobold AI链接

第 1 步:在 Google Colab 上安装 KoboldAI。

如果您有兴趣,可以访问有关如何安装 Kobold AI API:简单分步指南的文章,以获取有关安装过程的更详细说明。

步骤 2:播放音频文件以保持选项卡打开。如果您在手机上执行此过程,则必须按播放按钮才能生成音频文件。这是因为部署需要时间,并且您必须播放音频才能使选项卡在浏览器中保持打开状态。单击播放图标开始播放音频。

步骤 3: 现在,在下一部分中,您需要选择适合您的所需型号。例如,默认型号为 Nerys-V2-6,版本为官方如果您想更改 Kobold UI United中新 UI 的选项,您只需在设置中进行一项更改。如果您想更改型号和样式,可以使用给定的型号之一。

步骤 4:单击“播放”按钮开始部署。等待部署完成安装执行 Kobold AI API 所需的所有驱动程序和软件包。

第 5 步:部署完成后,您将获得类似于以下内容的输出。然后您将获得一个 URL,用于在浏览器中测试您的 Kobold AI API。

官方版本的输出:

INIT    | Starting   | LUA bridge
INIT    | OK         | LUA bridge
INIT    | Starting   | LUA Scripts
INIT    | OK         | LUA Scripts
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link: https://petersburg-source-shark-blade.trycloudflare.com

United 版本的输出:

INFO    | modeling.inference_models.hf:set_input_parameters:191 - {'use_gpu': True, '0_Layers': 32, 'CPU_Layers': 0, 'Disk_Layers': 0, 'id': 'KoboldAI/OPT-6B-nerys-v2', 'model': 'KoboldAI/OPT-6B-nerys-v2', 'path': None, 'menu_path': ''}
INIT    | Starting   | Flask
INIT    | OK         | Flask
INIT    | Starting   | Webserver
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 1: https://claimed-g-jokes-undertaken.trycloudflare.com
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 2: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
MESSAGE | KoboldAI has finished loading and is available at the following link for KoboldAI Lite: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
MESSAGE | KoboldAI has finished loading and is available at the following link for the API: https://claimed-g-jokes-undertaken.trycloudflare.com/api

然后,在链接列表中选择 API。如果您将 API 复制到新选项卡,它将可用。

探索 Kobold AI API

您现在可以探索 Kobold AI API 和功能信息。

Kobold AI API 应用程序有:

  • 信息
  • 模型
  • 故事
  • 世界资讯
  • 配置
api-1-1024x665-1

信息:有关此 API 的元数据

在此info选项中,有三个选项用于检查当前、最新和列表 API 版本。

检查当前 API 版本

  1. 首先,检查 API 的当前版本。您必须单击“获取”选项。
info-1024x163-1
  1. 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
info1-1024x469-1
info2-1024x494-1
  1. 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回当前正在使用的 API 版本。
info3
  1. 返回 API 的当前版本。
info-current-version1-1024x72-1

检查最新的API版本

将重复之前的所有步骤。但是,选择 GET 选项可以获得最新版本信息。

  1. 首先,检查API的最新版本。您必须单击第二个 GET 选项。
  2. 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
  3. 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回最新使用的 API 版本。
  4. 返回可用的最新 API 版本。
latest-version-1024x64-1

检查可用 API 版本列表

将重复之前的所有步骤。但是,选择 GET 选项可获取按升序排列的可用 API 版本列表。

  1. 首先,检查可用的 API 版本列表。您必须单击第三个 GET 选项。
  2. 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
  3. 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后 URL 将被复制到新选项卡中以返回可用 API 版本的列表。
  4. 返回按升序排序的可用 API 版本列表。
list-version-1024x71-1

生成文本生成端点

  • 首先,要生成文本,您必须单击生成选项。
generate-option-1-1024x82-1
  • 然后,在右上角单击“尝试”选项,然后单击“执行”选项。
generate1-1024x365-1
generate2-1-1024x513-1
  • 执行过程结束后,会显示如下参数,response、curl、请求的URL。然后,URL 将被复制到新选项卡中,以响应提交、采样器设置、软提示和返回序列数生成文本。
generate-output-1024x63-1

模型当前文本生成模型

  • 应采取前面的步骤来对有关当前文本生成的信息进行建模。该选项有两种类型:GETPUT
model-option-1024x120-1
  • Get 用于获取当前模型字符串,该字符串显示在 Kobold AI GUI 标题的括号中,例如“Kobold AI API 客户端 (Kobold AI API/fairseq-dense-13B-Nerys-v2)”并使用它。PUT 选项用于根据其 Hugging Face 模型 ID、模型文件夹路径(相对于 Kobold AI API 根文件夹的“models”文件夹)加载模型,或无模型时“只读”。

故事在 GUI 中管理故事的端点

  • 对于故事和端点,应遵循前面的步骤,以便在 KoboldAI GUI 中管理故事。该选项包括多种类型,包括 GET、DELETE、POST 和 PUT。
story_option-1024x674-1
  • 每个都有不同的目的,但获取请求的 URL 所需的步骤应该类似。

World_info 在 KoboldAI GUI 中管理世界信息的端点

  • world_info 应遵循前面的步骤,它在 KoboldAI GUI 中用于管理世界信息。该选项有多种类型,包括 GET、DELETE、POST 和 PUT。每个都有不同的目的,但获取必要 URL 的步骤应该类似。
world_info

Config 获取/设置各种设置值

配置应遵循前面的步骤,它允许您检索或设置各种配置值。该选项有两种类型,包括 GET 和 PUT。

  • 每个都有多个用途,分别是检索和设置当前作者注释设置值、作者注释深度设置为指定值、模板设置值、gens per action 设置值、采样器顺序设置值、删除当前单个名称、设置软提示名称、模板设置、采样设置、输入格式、输出格式。删除特殊字符、删除空白链接、最大内容设置值、内存设置值等等。
config

但获取指定URL的方法应该是相同的。

脑震荡

总之,如果您遵循这些简单的步骤,那么开始使用 Kobold AI API 就会很简单。通过创建帐户、获取 API 密钥并将其集成到您的项目中,您可以释放 Kobold 功能的强大功能。浏览其文档以获取更多信息并充分利用这个强大的工具。

请随时在下面的评论部分分享您的想法和反馈。

原创文章,作者:网贝WebBay,如若转载,请注明出处:https://www.webbay.cn/connect-kobold-ai-api-with-your-application

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

error: Content is protected !!