零基础小白折腾实录:自建 AI API 与虚拟组网全攻略
最近折腾了不少东西,作为代码零基础的小白,踩了不少坑,也摸索出了一些低成本搭建个人 AI 服务的门路。这次特意把过程整理出来,不管你是想在本地跑模型,还是想在外网安全访问家里的服务,这套组合拳应该能帮到你。
一、 入坑背景:从被拒之门外到技术入门
事情的起因是想进个技术社区,但之前的门槛是 GitHub 账号注册满 3 年,我急急忙忙写了申请,结果因为链接过期功亏一篑。后来规则升级到了 5 年,我以为自己彻底没戏了,只能每天像逛超市一样“游客”模式高强度刷帖。
结果无意间一查,才发现自己常用的那个号居然注册超过 5 年了!既然进了站,不好好整点干货总觉得对不起这折腾的经历。这一个月,我靠着站内大佬的指点,居然也搭起了自己的 API 服务和虚拟网络。下面直接上干货。
二、 Docker 本地部署:CPA 与 Grok2API
对于新手来说,Docker 真的是神器,不用纠结环境配置,拉取镜像就能跑。我主要部署了两个服务:CPA(一个代理转发工具)和 Grok2API(将 Grok 模型转换为 OpenAI 格式的接口)。
1. 为什么选这两个?
市面上的 API 账号要么贵,要么风控严。尤其是 Grok,能力很强但没有海外信用卡根本搞不定。通过自建 Grok2API,我们可以用统一的 OpenAI 格式去调用,很多现有的 AI 软件都支持,通用性极强。
2. 部署思路
由于我只是自己用,没打算公开提供服务,所以在 docker-compose.yml 里,我只映射了局域网端口,没有直接暴露到公网。这样安全性高很多,不用担心被别人刷爆额度。
- 准备工作:一台全天候运行的机器(NAS 或者云服务器都行),安装好 Docker 和 Docker Compose。
- 镜像选择:直接搜相关的成熟镜像,看 Star 数多的就行。
- 配置文件:核心在于配置环境变量,把你的账号 Token 填进去,启动容器即可。
3. 避坑指南
- Codexfree 的坑:之前试过用 Codexfree,但这玩意现在必须要接码接收验证码,而且额度是按月刷新的,非常不稳定,维护成本太高,建议直接放弃,转战更稳定的方案。
Docker Compose 配置示例
三、 组网篇:告别公网 IP,用 EasyTier 打穿内网
服务跑在局域网里,我在公司或者外出想用怎么办?买公网 IP 太贵,且不是所有人都有条件。这时候就需要神器 —— EasyTier。
什么是 EasyTier?
简单说,它就是一个 P2P 的虚拟局域网组网工具。它能把不同地方的设备拉进同一个“虚拟房间”,就像它们都插在同一个路由器上一样。
我的组网方案
- 服务端(家里的机器):运行 EasyTier,加入一个虚拟网络。
- 客户端(手机/笔记本):同样安装 EasyTier 客户端(支持多平台),加入同一个网络。
- 访问:连接成功后,我直接在浏览器里输入 Docker 容器所在机器的局域网 IP 加端口,就能流畅访问 Grok2API 了。
EasyTier 虚拟组网状态示意图
优点:数据不经过第三方中转服务器(直连),速度快且安全;不需要复杂的公网路由器端口映射。
四、 进阶尝试:利用免费 API 搭个 AI 写小说软件
光有 API 还不够,我还想把这些资源利用起来。目前我正在利用商汤(日日新)提供的免费 API 开发一个简易的 AI 写小说软件。
技术路线
- 后端:调用商汤的免费接口作为主要生成力,同时接入我自己搭建的 Grok2API 作为备用或特定风格生成源。
- 目标:实现一个能连续写作、保持上下文连贯的文本生成工具。
现状与挑战
目前软件还在雏形阶段。主要难点在于如何设计 Prompt(提示词)来引导 AI 写出风格统一的小说,以及如何处理好长文本的上下文记忆。不过对于零基础的我来说,能跑通流程已经是巨大的进步了。
五、 总结
回顾这一个月,从一个看着 Docker 命令行发呆的小白,到现在拥有自己的私有 AI 网络和开发中的小工具,最大的感受就是:不要被技术名词吓倒,现在的工具链对新手非常友好。
如果你也正好有吃灰的服务器,或者想薅一波 AI 的羊毛,不妨试试这套组合:Docker 容器化部署 + EasyTier 虚拟组网。低成本,高收益,真香!
接下来我会继续更新那个 AI 写小说工具的开发进度,有好的结果再同步分享。

评论已关闭