JuiceFS 如何部署到 K3s 集群:从 CSI 安装到 PVC 存储卷创建
【免费下载链接】juicefsJuiceFS is a distributed POSIX file system built on top of Redis and S3.项目地址: https://gitcode.com/GitHub_Trending/ju/juicefs
这篇文章以官方教程 Use JuiceFS on K3s 为依据,目标是在 K3s 集群上完成一条完整链路:安装 JuiceFS CSI Driver,创建绑定 JuiceFS 文件系统的 StorageClass,再创建一个 PVC,并通过实际挂载的 Pod 验证 JuiceFS 卷可用。整条路径为“准备集群 → 安装 CSI Driver → 创建 StorageClass → 创建 PVC 并验证挂载”。
准备:K3s 集群的硬件要求与搭建
K3s 对硬件的最低要求很低,文档给出的数值如下:
- 内存:512MB 以上(推荐 1GB 以上)
- CPU:1 核
如果是生产集群,文档建议每节点至少 4 核、8GB 内存起步。
部署 server 节点
在一台常规 Linux 发行版的机器上,使用 K3s 官方脚本部署 server 节点。该脚本会下载并安装 K3s,需要 root 权限;部署成功后 K3s 服务自动启动,同时会安装 kubectl 等工具:
curl -sfL https://get.k3s.io | sh -部署完成后,用下面的命令查看节点状态。以下输出为文档示例,主机名、版本以实际环境为准,判断标准是 STATUS 为Ready:
$ sudo kubectl get nodes NAME STATUS ROLES AGE VERSION k3s-s1 Ready control-plane,master 28h v1.21.4+k3s1然后从 server 节点取出node-token,worker 节点接入时需要用到:
sudo -u root cat /var/lib/rancher/k3s/server/node-token部署 worker 节点
在 worker 节点上执行以下命令,其中K3S_URL改为 server 节点的 IP 或域名(默认端口6443),K3S_TOKEN改为上一步从 server 节点取到的node-token。示例中的 IP 与 token 是文档里的示例值,必须替换为自己的实际值:
curl -sfL https://get.k3s.io | K3S_URL=http://192.168.1.35:6443 K3S_TOKEN=K1041f7c4fabcdefghijklmnopqrste2ec338b7300674f::server:3d0ab12800000000000000006328bbd80 sh -worker 加入后,回到 server 节点确认两个节点均为Ready(文档示例输出):
$ sudo kubectl get nodes NAME STATUS ROLES AGE VERSION k3s-s1 Ready control-plane,master 28h v1.21.4+k3s1 k3s-n1 Ready <none> 28h v1.21.4+k3s1安装 JuiceFS CSI Driver
K3s 上安装 CSI Driver 的方法与标准 Kubernetes 一致(可参考 Use JuiceFS on Kubernetes),支持通过 Helm 或 kubectl 安装。本文按文档使用 kubectl,执行以下命令安装:
kubectl apply -f https://raw.githubusercontent.com/juicedata/juicefs-csi-driver/master/deploy/k8s.yaml创建 Secret 与 StorageClass
把下面的内容保存为配置文件,例如juicefs-sc.yaml。注意:stringData中的metaurl、bucket为文档示例值,实际使用时要替换为自己 JuiceFS 文件系统的配置;<your-access-key-id>和<your-access-key-secret>是占位符,需要替换为你对象存储的 AccessKey ID 与 Secret AccessKey:
apiVersion: v1 kind: Secret metadata: name: juicefs-sc-secret namespace: kube-system type: Opaque stringData: name: "test" metaurl: "redis://juicefs.afyq4z.0001.use1.cache.amazonaws.com/3" storage: "s3" bucket: "https://juicefs-test.s3.us-east-1.amazonaws.com" access-key: "<your-access-key-id>" secret-key: "<your-access-key-secret>" --- apiVersion: storage.k8s.io/v1 kind: StorageClass metadata: name: juicefs-sc provisioner: csi.juicefs.com reclaimPolicy: Retain volumeBindingMode: Immediate parameters: csi.storage.k8s.io/node-publish-secret-name: juicefs-sc-secret csi.storage.k8s.io/node-publish-secret-namespace: kube-system csi.storage.k8s.io/provisioner-secret-name: juicefs-sc-secret csi.storage.k8s.io/provisioner-secret-namespace: kube-systemstringData部分用于设置 JuiceFS 文件系统的相关信息,系统会基于你指定的这些信息创建文件系统。如果文件系统是提前创建好的,只需要填写name和metaurl,其他项可以删除或留空。
部署并查看存储类状态(以下输出为文档示例):
kubectl apply -f juicefs-sc.yaml$ sudo kubectl get sc NAME PROVISIONER RECLAIMPOLICY VOLUMEBINDINGMODE ALLOWVOLUMEEXPANSION AGE local-path (default) rancher.io/local-path Delete WaitForFirstConsumer false 28h juicefs-sc csi.juicefs.com Retain Immediate false 28h看到 provisioner 为csi.juicefs.com的juicefs-sc条目,说明存储类已部署成功。文档同时提醒:一个存储类关联一个 JuiceFS 文件系统,可以按需创建多个存储类,但要注意配置文件中同名存储类会引发冲突。
创建 PVC 并验证 JuiceFS 卷挂载
文档的验证方式是部署一个使用 JuiceFS PVC 的 NGINX Deployment。把下面的内容保存为deployment.yaml后部署:
apiVersion: v1 kind: PersistentVolumeClaim metadata: name: web-pvc spec: accessModes: - ReadWriteMany resources: requests: storage: 10Pi storageClassName: juicefs-sc --- apiVersion: apps/v1 kind: Deployment metadata: name: nginx-run labels: app: nginx spec: replicas: 2 selector: matchLabels: app: nginx template: metadata: labels: app: nginx spec: containers: - name: nginx image: linuxserver/nginx ports: - containerPort: 80 volumeMounts: - mountPath: /config name: web-data volumes: - name: web-data persistentVolumeClaim: claimName: web-pvcsudo kubectl apply -f deployment.yaml部署完成后,先检查 Pod 状态,两个副本均为Running才算通过(以下输出为文档示例):
$ sudo kubectl get pods NAME READY STATUS RESTARTS AGE nginx-run-7d6fb7d6df-qhr2m 1/1 Running 0 28h nginx-run-7d6fb7d6df-5hpv7 1/1 Running 0 24h然后进入任意一个 Pod 执行df -Th,查看文件系统的挂载状态(以下输出为文档示例,文件系统名、容量与已用量以实际环境为准):
$ sudo kubectl exec nginx-run-7d6fb7d6df-qhr2m -- df -Th Filesystem Type Size Used Avail Use% Mounted on overlay overlay 20G 3.2G 17G 17% / tmpfs tmpfs 64M 0 64M 0% /dev tmpfs tmpfs 2.0G 0 2.0G 0% /sys/fs/cgroup JuiceFS:jfs fuse.juicefs 1.0P 174M 1.0P 1% /config /dev/sda1 ext4 20G 3.2G 17G 17% /etc/hosts shm tmpfs 64M 0 64M 0% /dev/shm输出中类型为fuse.juicefs、挂载在/config(即 Deployment 中 PVC 的 mountPath)的那一行,就是 JuiceFS 文件系统已成功挂载到容器内的证据。文档以此作为“集群中的 Pod 已成功配置并使用 JuiceFS 持久化数据”的判定依据。
可选:通过 Service 与 Ingress 从浏览器验证
K3s 默认预装了 traefik-ingress。如果你希望通过浏览器直观确认服务可访问,可以按文档补充两个配置文件。service.yaml:
apiVersion: v1 kind: Service metadata: name: nginx-run-service spec: selector: app: nginx ports: - name: http port: 80ingress.yaml(通过 Ingress 规则中定义的/web路径暴露服务):
apiVersion: networking.k8s.io/v1 kind: Ingress metadata: name: nginx-run-ingress annotations: traefik.ingress.kubernetes.io/router.entrypoints: web spec: rules: - http: paths: - pathType: Prefix path: "/web" backend: service: name: nginx-run-service port: number: 80sudo kubectl apply -f service.yaml sudo kubectl apply -f ingress.yaml部署完成后,使用同一局域网内的机器访问任意一个集群节点的/web路径,即可看到 NGINX 欢迎页面(文档截图):
这一步是文档中的附加验证手段,不属于 CSI 安装到 PVC 创建的主路径;df -Th的挂载结果已经足以证明 PVC 生效。
结果确认与文档给出的替代路径
按上面的步骤完成后,验收结果是:两个nginx-runPod 处于Running状态,Pod 内df -Th能看到fuse.juicefs类型挂载在 PVC 的 mountPath 上,JuiceFS 存储卷已在 K3s 集群中可用。文档示例中的存储类设置为reclaimPolicy: Retain、volumeBindingMode: Immediate,PVC 请求容量为10Pi,这些值来自文档示例,按自身环境调整即可。
如果只需要在 Pod 内简单使用 JuiceFS、没有隔离与权限控制要求,Use JuiceFS on Kubernetes 中还介绍了hostPath方案:先在所有 worker 节点安装并挂载 JuiceFS,再在 Pod 中用 hostPath 卷挂载子目录。该方式更简单、排障更容易,但所有 Pod 共享同一宿主机挂载点,且新增节点时必须先完成 JuiceFS 的初始化挂载,文档建议按自身情况评估后再选择。
【免费下载链接】juicefsJuiceFS is a distributed POSIX file system built on top of Redis and S3.项目地址: https://gitcode.com/GitHub_Trending/ju/juicefs
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考