最近关注 AI 圈子的朋友肯定知道,算力就是硬通货。不管是跑大模型还是炼丹,一张好显卡比什么都贵。不过,今天给各位安利一个真正的羊毛站点——猫猫公益站,这里直接提供免费 NVIDIA 算力支持,而且内置了不少热门的大模型,完全不需要你自己掏腰包买显卡。

现在有哪些模型可用?

提供免费 NVIDIA 算力的服务器集群示意图

图:提供免费算力的 GPU 集群

目前站点的资源已经上线了一大批 NVIDIA 的热门模型。根据官方放出的列表,我们能看到很多常用的 LLM(大语言模型)。这里简单盘点几类大家可能关心的:

  1. 通用对话类:像 Llama 3 系列这类“万能通用”的模型肯定是少不了的,适合日常问答、写代码、做翻译。
  2. 中文优化类:针对中文语境做过微调的模型,对于国内用户的Prompt理解会更准确一些。
  3. 垂直领域类:部分站点的模型可能还包含了代码生成、数学推理等特定场景的大模型。

Llama 3 模型对话界面展示

图:Llama 3 等大模型对话界面示例

具体的完整模型名单很长,站长也表示有些模型他自己也没完全测过好不好用,所以需要大家一起帮忙“排雷”和种草。

站点怎么用?

 configuring API Key in client interface

图:在客户端或网页端接入 API 的示意图

操作方式非常简单,主打一个“即开即用”。

  • 站点地址https://new-api.rugao.me
  • 接入方式:支持多种共享渠道。对于懂技术的朋友,可以直接配置 API Key 接入到你的客户端或者代码中;对于普通用户,也可以通过网页端直接进行对话体验。

众人拾柴火焰高

站长发起这次更新的初衷也是为了让资源利用最大化。因为模型数量众多,难免会有一些宝藏模型被埋没,或者有些模型实际效果一般。

这里也建议大家:

  • 积极测试:有空去站点里翻翻牌子,选几个你没听过的模型测测效果。

  • 反馈建议:如果你觉得有模型特别好,或者有哪个好用的模型还没上架,直接去相关渠道反馈。站长说得很实在:“有些模型没用过也不知道好不好用”,所以大家的推荐非常重要。

  • 文明薅毛:毕竟是公益资源,大家使用的时候尽量合理分配,别恶意轰炸把站点搞挂了,细水长流才能一直白嫖。

写在最后

n在如今各大云厂商按秒收费的时代,这种免费的高质量 GPU 算力资源真的不多见。不管你是想体验最新的 Llama 3,还是想找个免费的 API 来做 Demo 开发,这个站点都值得去收藏一波。赶紧去试试吧,看看能不能挖到适合你的那一款!

标签: none

评论已关闭