一步步教你如何安装 Kobold AI API

从创意写作到专业内容创作，KoboldAI 是人工智能辅助写作的绝佳解决方案之一，也是 OpenAI 的替代品。它还提供无缝、直观的体验，提升您的写作过程。

它有一个基于浏览器的前端，允许用户借助内存、作者注释、世界信息、保存和加载以及其他可调整的人工智能设置等工具来创建和编辑故事、小说、聊天机器人等。

在本指南中，您将学习如何安装和设置 Kobold AI 以及如何在网络浏览器中使用它。您还将学习如何使用 Janitor AI 或 Venus AI 中的 URL 与角色聊天。

本教程不需要任何技术知识即可完成。您可以非常轻松地进行设置，几分钟之内您就可以启动并运行您自己的 Kobold AI API。

在 Colab 中免费设置 Kobold AI

Colab 是 Google 在 Jupyter Notebook 上构建的研究工具，可用于部署基于 Python 或 R 语言的模型或脚本。您还将免费获得 Nvidia Tesla T4 GPU。该 GPU 在 Google Cloud 中的成本约为 250 美元。

现在我们将在 Google Colab 中设置 Kobold AI。

转到带有 GPU 的 Kobold AI的链接。

播放音频文件以保持选项卡处于活动状态

您将看到一条欢迎文字“欢迎使用 Google Colab GPU 版上的 KoboldAI！“

滚动到如下所示的部分。

如果您使用手机执行此操作，则需要单击播放按钮来生成音频。这是因为部署需要一些时间，并且为了使选项卡在浏览器中保持活动状态，您需要播放音频。

单击播放图标，然后开始播放音频。

您将收到有关“此笔记本并非由 Google 创作”的警告

单击仍然运行。

稍稍倾斜一下，您可以在支付按钮附近看到一个勾号，表明执行已完成。

现在您将看到一个音频播放器。播放音频。

部署 Kobold AI API – 旧 UI

现在，在下一部分中，您需要选择适合您的所需型号。下面的表中给出了有关模型的一些描述。

选择您需要的列出型号之一。

如果您不需要使用 Google Drive，则可以勾选该选项（可选）。如果您想使用 Google 云端硬盘，则需要在出现提示时允许访问。

单击“播放”按钮开始部署。

部署将从用于 Kobold AI 的 GPU 类型的以下输出开始

+---------------------------------------------------------------------------+
| NVIDIA-SMI 525.85.12   Driver Version: 525.85.12   CUDA Version: 12.0     |
|------------------------------+---------------------+----------------------+
| GPU  Name       Persistence-M| Bus-Id       Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf Pwr:Usage/Cap|        Memory-Usage | GPU-Util  Compute M. |
|                              |                     |               MIG M. |
|==============================+=====================+======================|
|   0  Tesla T4           Off  | 00000000:00:04.0 Off|                    0 |
| N/A   37C    P8    9W /  70W |     0MiB / 15360MiB |      0%      Default |
|                              |                     |                  N/A |
+------------------------------+---------------------+----------------------+
                                                                            
+---------------------------------------------------------------------------+
| Processes:                                                                |
|  GPU   GI   CI       PID   Type   Process name                 GPU Memory |
|        ID   ID                                                 Usage      |
|===========================================================================|
|  No running processes found                                               |
+---------------------------------------------------------------------------+

通过设置运行 Kobold AI API 所需的所有驱动程序和软件包，等待一段时间以完成部署。

部署完成后，您将获得类似于下面的输出，从那里您将获得一个 URL，用于在浏览器中检查您的 Kobold AI。

INIT    | Starting   | LUA bridge
INIT    | OK         | LUA bridge
INIT    | Starting   | LUA Scripts
INIT    | OK         | LUA Scripts
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link: https://petersburg-source-shark-blade.trycloudflare.com

在消息中您将看到您的 URL。当您将版本选择为官方时，会生成此输出。

您将看到如下所示的旧用户界面。

先生，您将看到 Kobold AI 的所有详细信息，例如连接状态、使用的模型等等。

部署 Kobold AI – 新 UI

要在 Kobold UI 中使用新 UI，您只需在部署之前对设置进行一次更改即可。

选择版本为United。

单击“播放”按钮。

部署完成后，您将获得以下 URL

• Kobold  AI 旧UI
• Kobold AI 新UI
• Kobold AI Lite
• Kobold AI API URL

收到 URL 后，您需要等待一段时间才能加载张量。完成后，您可以开始使用新的 UI。

INFO    | modeling.inference_models.hf:set_input_parameters:191 - {'use_gpu': True, '0_Layers': 32, 'CPU_Layers': 0, 'Disk_Layers': 0, 'id': 'KoboldAI/OPT-6B-nerys-v2', 'model': 'KoboldAI/OPT-6B-nerys-v2', 'path': None, 'menu_path': ''}
INIT    | Starting   | Flask
INIT    | OK         | Flask
INIT    | Starting   | Webserver
INIT    | OK         | Webserver
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 1: https://claimed-g-jokes-undertaken.trycloudflare.com
MESSAGE | KoboldAI has finished loading and is available at the following link for UI 2: https://claimed-g-jokes-undertaken.trycloudflare.com/new_ui
MESSAGE | KoboldAI has finished loading and is available at the following link for KoboldAI Lite: https://claimed-g-jokes-undertaken.trycloudflare.com/lite
MESSAGE | KoboldAI has finished loading and is available at the following link for the API: https://claimed-g-jokes-undertaken.trycloudflare.com/api

您的 Kobold AI 新 UI 看起来与下面的类似。

就这样，现在您的 Kobold AI 服务器已启动并运行。

清理 Colab 工作区

完成实验后，您需要清理 Colab 以节省资源。请按照以下步骤进行清理。

1. 单击停止按钮（之前是播放按钮）以停止 Web 服务器。
2. 转到运行时并单击断开连接并删除运行时。

现在你可以走了。如果您想再次设置，可以尝试与上述相同的设置。

结论

现在您已经学会了如何使用 Nvidia T4 Tesla GPU 在 Google Colab 中免费设置 Kobold AI。