Skip to main content

算力源指南

名词解释

  • 算想云: llm.sxwl.ai,Serverless(无服务器)大模型训练云服务
  • 算力源:指拥有 GPU 裸金属服务器的用户(包括服务器、网络设备等等)
  • CPod:指一个由三千平台管理的独立的大模型智算集群;算力源将闲置算力服务器部署成的一个或多个集群,每个集群部署三千平台后,即称为算想云上一个CPod
  • accessKey:指算力源注册后生成的访问密钥,该密钥在部署 CPod 时会用到,并在 CPod 注册到算想云时作为用户标识

注:一个用户对应一个 accessKey,一个算力源可以注册多个 CPod

注册、登录

在算想云上,拥有闲置算力的用户可以选择在注册成为算力源,将闲置算力加入算想云, 以 Serverless(无服务器)云服务的方式将算力共享出来给大模型训练用户,从而让闲置算力价值变现,实现算力源、算力用户的双赢。

注册

  • 登录 https://llm.sxwl.ai ,选择注册 登录算想云

  • 选择算力源注册并填写注册相关信息,点击注册完成用户注册 注册算力源

登录

  • 以注册的用户登录系统,可以看到当前用户的注册信息以及accessKey,复制accessKey备用 算力源信息
  • 此时算力详情页面显示为空,待部署CPod后,算力源相关信息将注册并上报至算想云,届时可看到算力详情信息 算力源详情

部署、算力详情

部署CPod

  1. 生成密钥对并配置节点间互信
# 生成密钥对
ssh-keygen -t rsa

# 配置节点间互信
ssh-copy-id master1
ssh-copy-id master2
ssh-copy-id master3
ssh-copy-id worker1
ssh-copy-id worker2
ssh-copy-id worker3
  1. 下载并解压离线安装包
cd /opt
wget https://sxwl-ai.oss-cn-beijing.aliyuncs.com/antifacts/3k-artifact.tgz
tar xvf 3k-artifact.tgz && cd artifact
  1. 修改集群配置文件conf/config-sample.conf,按实际集群节点信息填写
hosts:
- {name: master1, internalAddress: 192.168.1.1, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
- {name: master2, internalAddress: 192.168.1.2, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
- {name: master3, internalAddress: 192.168.1.3, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
- {name: worker1, internalAddress: 192.168.1.4, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
- {name: worker2, internalAddress: 192.168.1.5, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
- {name: worker3, internalAddress: 192.168.1.6, port: 22, user: root, privateKeyPath: "/root/.ssh/id_rsa"}
roleGroups:
etcd:
- master[1:3]
control-plane:
- master1
worker:
- worker[1:3]
registry:
- master1
  1. 部署CPod,此处ACCESS_KEY的值为用户在算想云注册后生成的accessKey
ACCESS_KEY=
sudo ./3kctl deploy all --access-key=${ACCESS_KEY}
  1. 按需部署ceph集群
sudo ./3kctl deploy install ceph
  1. 查看集群信息
kubectl get pods -A

集群状态

算力源详情

此时算力源详情页面将显示 CPod 上报的算力源信息: 算力源详情2