最新资讯

  • 【深度学习】多目标融合算法(五):定制门控网络CGC(Customized Gate Control)

【深度学习】多目标融合算法(五):定制门控网络CGC(Customized Gate Control)

2025-04-30 00:01:05 0 阅读

目录

一、引言

二、CGC(Customized Gate Control,定制门控网络)

2.1 技术原理

2.2 技术优缺点

2.3 业务代码实践

2.3.1 业务场景与建模

2.3.2 模型代码实现

2.3.3 模型训练与推理测试

2.3.4 打印模型结构 

三、总结


一、引言

上一篇我们讲了MMoE多任务网络,通过对每一个任务塔建立Gate门控,对专家网络进行加权平均,Gate门控起到了对多个共享专家重要度筛选的作用。在每轮反向传播时,每个任务tower分别更新对应Gate的参数,以及共享专家的参数。模型主要起到了多目标任务平衡的作用。

今天我们重点将CGC(Customized Gate Control)定制门控网络,核心思想是在MMoE基础上,为每一个任务tower定制独享专家,实用任务独享专家与共享专家共同决定任务Tower的输入,相比于MMoE仅用Gate门控表征任务Tower的方法,CGC引入独享专家,对任务表征更加全面,又通过共享专家保证关联性。

二、CGC(Customized Gate Control,定制门控网络)

2.1 技术原理

CGC(Customized Gate Control)全称为定制门控网络,主要由多个任务塔、对应多组独享专家网络,对应多个门控网络以及一组共享专家网络,专家网络组内可以包含多个专家MLP。核心原理:样本input分别输入共享专家MLP、独立专家MLP、独立专家对应门控网络,门控网络输出为经过softmax的权重分布,维度对应共享专家数num_shared_experts和独立专家数num_task_experts的和,通过对独立专家输出和共享专家输出采用Gate门控加权平均后, 输入到对应的任务Tower。每个任务Tower输入自己对应的独享专家、共享专家、门控加权平均的输入。反向传播时,每个任务更新自己独享专家、独享门控以及共享专家的参数。

  • 共享专家网络:样本数据分别输入num_shared_experts个专家网络进行推理,每个共享专家网络实际上是一个多层感知机(MLP),输入维度为x,输出维度为output_experts_dim。
  • 独享专家网络:样本数据分别输入num_task_experts个专家网络进行推理,每个共享专家网络实际上是一个多层感知机(MLP),输入维度为x,输出维度为output_experts_dim。
  • 门控网络:样本数据输出各自任务对应的门控网络,每个门控网络可以是一个多层感知机,也可以是一个双层的交叉,主要是为了输出专家网络的加权平均权重。
  • 任务网络:对于每一个Task,将各自对应num_shared_experts个共享专家和num_task_experts个独立专家,基于对应gate门控网络的softmax加权平均,作为各自Task的输入,所有Task的输入统一维度均为output_experts_dim。

2.2 技术优缺点

相较于MMoE网络,CGC为每一个任务tower定制独享专家,实用任务独享专家与共享专家共同决定任务Tower的输入,相比于MMoE仅用Gate门控表征任务Tower的方法,CGC引入独享专家,对任务表征更加全面,又通过共享专家保证关联性。

优点:

  • 切断任务tower与其他任务独享专家的联系,使得独享专家能够更专注的学习本任务内的知识与信息。比如切断互动塔与点击专家的联系,只和互动专家同时迭代,让互动目标的学习更加纯粹。
  • 独享专家只受对应任务梯度的影响,不受其他任务梯度的影响,而共享专家可以被多个任务梯度同时更新。
  • 本质上,CGC就是在MMoE上新增了独享专家,MMoE仅有共享专家。

缺点: 

  • 相较于PLE、SNR等,没有学习到专家与专家之间的相互关系,层级堆叠不够。
  • 相较于DeepSeekMoE的路由方法,CGC还是过于定制化与单一话,专家组合不足。

2.3 业务代码实践

2.3.1 业务场景与建模

我们还是以小红书推荐场景为例,针对一个视频,用户可以点红心(互动),也可以点击视频进行播放(点击),针对互动和点击两个目标进行多目标建模

我们构建一个100维特征输入,1组共享专家网络(含2个共享专家),2组独享专家网络(各含2个独享专家),2个门控,2个任务塔的CGC网络,用于建模多目标学习问题,模型架构图如下:

​​​​​​​​​​​​​​

如架构图所示,其中有几个注意的点:

  • num_shared_experts+num_task_expertsGate的维度等于共享专家的维度加上任务独享专家的维度。
  • output_experts_dim:共享专家、独享专家网络的输出维度和task网络的输入维度相同,task网络承接的是专家网络各维度的加权平均值,experts网络与task网络是直接对应关系。
  • Softmax:Gate门控网络对共享专家和独享专家的偏好权重采用Softmax归一化,保证专家网络加权平均后值域相同

2.3.2 模型代码实现

基于pytorch,实现上述CGC网络架构,如下:

import torch
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import DataLoader, TensorDataset

class CGCModel(nn.Module):
    def __init__(self, input_dim, experts_hidden1_dim, experts_hidden2_dim, output_experts_dim, task_hidden1_dim, task_hidden2_dim, output_task1_dim, output_task2_dim, gate_hidden1_dim, gate_hidden2_dim, num_shared_experts, num_task_experts):
        super(CGCModel, self).__init__()
        # 初始化函数外使用初始化变量需要赋值,否则默认使用全局变量
        # 初始化函数内使用初始化变量不需要赋值 
        self.num_shared_experts = num_shared_experts
        self.num_task_experts = num_task_experts
        self.output_experts_dim = output_experts_dim

         # 初始化共享专家
        self.shared_experts_2 = nn.ModuleList([
            nn.Sequential(
                nn.Linear(input_dim, experts_hidden1_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden1_dim, experts_hidden2_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden2_dim, output_experts_dim),
                nn.ReLU()
            ) for _ in range(num_shared_experts)
        ])
         # 初始化任务1专家
        self.task1_experts_2 = nn.ModuleList([
            nn.Sequential(
                nn.Linear(input_dim, experts_hidden1_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden1_dim, experts_hidden2_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden2_dim, output_experts_dim),
                nn.ReLU()
            ) for _ in range(num_task_experts)
        ])
         # 初始化任务2专家
        self.task2_experts_2 = nn.ModuleList([
            nn.Sequential(
                nn.Linear(input_dim, experts_hidden1_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden1_dim, experts_hidden2_dim),
                nn.ReLU(),
                nn.Linear(experts_hidden2_dim, output_experts_dim),
                nn.ReLU()
            ) for _ in range(num_task_experts)
        ])
        
        
        # 初始化门控网络任务1
        self.gating1_network_2 = nn.Sequential(
            nn.Linear(input_dim, gate_hidden1_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden1_dim, gate_hidden2_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden2_dim, num_shared_experts+num_task_experts),
            nn.Softmax(dim=1)
        )
        # 初始化门控网络任务2
        self.gating2_network_2 = nn.Sequential(
            nn.Linear(input_dim, gate_hidden1_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden1_dim, gate_hidden2_dim),
            nn.ReLU(),
            nn.Linear(gate_hidden2_dim, num_shared_experts+num_task_experts),
            nn.Softmax(dim=1)
        )
        

        # 定义任务1的输出层
        self.task1_head = nn.Sequential(
                nn.Linear(output_experts_dim, task_hidden1_dim),
                nn.ReLU(),
                nn.Linear(task_hidden1_dim, task_hidden2_dim),
                nn.ReLU(),
                nn.Linear(task_hidden2_dim, output_task1_dim),
                nn.Sigmoid()
            ) 

        # 定义任务2的输出层
        self.task2_head = nn.Sequential(
                nn.Linear(output_experts_dim, task_hidden1_dim),
                nn.ReLU(),
                nn.Linear(task_hidden1_dim, task_hidden2_dim),
                nn.ReLU(),
                nn.Linear(task_hidden2_dim, output_task2_dim),
                nn.Sigmoid()
            ) 

    def forward(self, x):

        gates1 = self.gating1_network_2(x)
        gates2 = self.gating2_network_2(x)
        #定义专家网络输出作为任务塔输入
        batch_size, _ = x.shape
        task1_inputs = torch.zeros(batch_size, self.output_experts_dim)
        task2_inputs = torch.zeros(batch_size, self.output_experts_dim)

        for i in range(self.num_shared_experts):
            task1_inputs += self.shared_experts_2[i](x) * gates1[:, i].unsqueeze(1) + self.task1_experts_2[i](x) * gates1[:, i+self.num_shared_experts].unsqueeze(1)
            task2_inputs += self.shared_experts_2[i](x) * gates2[:, i].unsqueeze(1) + self.task2_experts_2[i](x) * gates2[:, i+self.num_shared_experts].unsqueeze(1)
        
        task1_outputs = self.task1_head(task1_inputs)
        task2_outputs = self.task2_head(task2_inputs)

        return task1_outputs, task2_outputs


# 实例化模型对象
experts_hidden1_dim = 64
experts_hidden2_dim = 32
output_experts_dim = 16
gate_hidden1_dim = 16
gate_hidden2_dim = 8
task_hidden1_dim = 32
task_hidden2_dim = 16
output_task1_dim = 1
output_task2_dim = 1
num_shared_experts = 2
num_task_experts = 2

# 构造虚拟样本数据
torch.manual_seed(42)  # 设置随机种子以保证结果可重复
input_dim = 100
num_samples = 1024
X_train = torch.randint(0, 2, (num_samples, input_dim)).float()
y_train_task1 = torch.rand(num_samples, output_task1_dim)  # 假设任务1的输出维度为1
y_train_task2 = torch.rand(num_samples, output_task2_dim)  # 假设任务2的输出维度为1

# 创建数据加载器
train_dataset = TensorDataset(X_train, y_train_task1, y_train_task2)
train_loader = DataLoader(train_dataset, batch_size=128, shuffle=True)

model = CGCModel(input_dim, experts_hidden1_dim, experts_hidden2_dim, output_experts_dim, task_hidden1_dim, task_hidden2_dim, output_task1_dim, output_task2_dim, gate_hidden1_dim, gate_hidden2_dim, num_shared_experts, num_task_experts)

# 定义损失函数和优化器
criterion_task1 = nn.MSELoss()
criterion_task2 = nn.MSELoss()
optimizer = optim.Adam(model.parameters(), lr=0.001)

# 训练循环
num_epochs = 100
for epoch in range(num_epochs):
    model.train()
    running_loss = 0.0

    for batch_idx, (X_batch, y_task1_batch, y_task2_batch) in enumerate(train_loader):
        # 前向传播: 获取预测值
        #print(batch_idx, X_batch )
        #print(f'Epoch [{epoch+1}/{num_epochs}-{batch_idx}], Loss: {running_loss/len(train_loader):.4f}')
        outputs_task1, outputs_task2 = model(X_batch)

        # 计算每个任务的损失
        loss_task1 = criterion_task1(outputs_task1, y_task1_batch)
        loss_task2 = criterion_task2(outputs_task2, y_task2_batch)

        total_loss = loss_task1 + loss_task2

        # 反向传播和优化
        optimizer.zero_grad()
        total_loss.backward()
        optimizer.step()

        running_loss += total_loss.item()
    if epoch % 10 == 0:
        print(f'Epoch [{epoch+1}/{num_epochs}], Loss: {running_loss/len(train_loader):.4f}')

print(model)
#for param_tensor in model.state_dict():
#    print(param_tensor, "	", model.state_dict()[param_tensor].size())
# 模型预测
model.eval()
with torch.no_grad():
    test_input = torch.randint(0, 2, (1, input_dim)).float()  # 构造一个测试样本
    pred_task1, pred_task2 = model(test_input)

    print(f'互动目标预测结果: {pred_task1}')
    print(f'点击目标预测结果: {pred_task2}')

相比于上一篇MMoE中的代码,CGC复杂了很多,新增了2组独享专家,且在门控与独享、共享专家加权平均计算的时候需要进行处理,很容易出问题。

2.3.3 模型训练与推理测试

运行上述代码,模型启动训练,Loss逐渐收敛,测试结果如下:

2.3.4 打印模型结构 ​​​​​​​

三、总结

本文详细介绍了CGC多任务模型的算法原理、算法优势,他是下一篇PLE多层多任务模型的基础,并以小红书业务场景为例,构建CGC网络结构并使用pytorch代码实现对应的网络结构、训练流程。相比于MMoE,CGC新增独享专家网络,通过gate门控的串联,切断任务Tower与其他任务独享专家的联系,使得独享专家能够更专注的学习本任务内的知识与信息。

如果您还有时间,欢迎阅读本专栏的其他文章:

【深度学习】多目标融合算法(一):样本Loss加权(Sample Loss Reweight)

【深度学习】多目标融合算法(二):底部共享多任务模型(Shared-Bottom Multi-task Model) ​​​​​​​

【深度学习】多目标融合算法(三):混合专家网络MOE(Mixture-of-Experts) 

 【深度学习】多目标融合算法(四):多门混合专家网络MMOE(Multi-gate Mixture-of-Experts)​​​​​​​

本文地址:https://www.vps345.com/5887.html

搜索文章

Tags

PV计算 带宽计算 流量带宽 服务器带宽 上行带宽 上行速率 什么是上行带宽? CC攻击 攻击怎么办 流量攻击 DDOS攻击 服务器被攻击怎么办 源IP 服务器 linux 运维 游戏 云计算 javascript 前端 chrome edge python MCP 进程 操作系统 进程控制 Ubuntu 阿里云 网络 网络安全 网络协议 llama 算法 opencv 自然语言处理 神经网络 语言模型 ubuntu ssh deepseek Ollama 模型联网 API CherryStudio RTSP xop RTP RTSPServer 推流 视频 数据库 centos oracle 关系型 安全 分布式 numpy java 面试 性能优化 jdk intellij-idea 架构 flutter harmonyos 华为 开发语言 typescript 计算机网络 Dell R750XS 深度学习 YOLO 目标检测 计算机视觉 人工智能 fastapi mcp mcp-proxy mcp-inspector fastapi-mcp agent sse filezilla 无法连接服务器 连接被服务器拒绝 vsftpd 331/530 android 鸿蒙 tcp/ip jmeter 软件测试 windows 微服务 springcloud docker 容器 DeepSeek-R1 API接口 vim ide c++ sqlserver Qwen2.5-coder 离线部署 live555 rtsp rtp Hyper-V WinRM TrustedHosts macos pycharm web安全 Kali Linux 黑客 渗透测试 信息收集 pip conda vue3 HTML audio 控件组件 vue3 audio音乐播放器 Audio标签自定义样式默认 vue3播放音频文件音效音乐 自定义audio播放器样式 播放暂停调整声音大小下载文件 asm c# github 创意 社区 cpu 内存 实时 使用 Flask FastAPI Waitress Gunicorn uWSGI Uvicorn Windsurf react.js 前端面试题 node.js 持续部署 计算机外设 电脑 mac 软件需求 jenkins golang pytorch transformer gitee spring boot c语言 qt stm32项目 单片机 stm32 科技 ai 个人开发 GaN HEMT 氮化镓 单粒子烧毁 辐射损伤 辐照效应 物联网 iot udp unity websocket ssl chatgpt 大模型 llama3 Chatglm 开源大模型 php ping++ 运维开发 机器学习 深度优先 图论 并集查找 换根法 树上倍增 ollama llm 宝塔面板访问不了 宝塔面板网站访问不了 宝塔面板怎么配置网站能访问 宝塔面板配置ip访问 宝塔面板配置域名访问教程 宝塔面板配置教程 ffmpeg 音视频 adb vscode vue.js audio vue音乐播放器 vue播放音频文件 Audio音频播放器自定义样式 播放暂停进度条音量调节快进快退 自定义audio覆盖默认样式 产品经理 agi microsoft rust http 笔记 C 环境变量 进程地址空间 .net 负载均衡 uni-app 后端 tomcat AI Agent LDAP HCIE 数通 maven intellij idea nginx 监控 自动化运维 智能路由器 外网访问 内网穿透 端口映射 json html5 firefox WSL win11 无法解析服务器的名称或地址 django flask web3.py 前端框架 adobe oceanbase 传统数据库升级 银行 经验分享 大语言模型 LLMs Dify webrtc 自动化 mongodb opcua opcda KEPServer安装 AIGC oneapi 开机自启动 服务器数据恢复 数据恢复 存储数据恢复 北亚数据恢复 oracle数据恢复 iftop 网络流量监控 dba Reactor 设计模式 C++ pdf svn 多线程服务器 Linux网络编程 android studio 1024程序员节 springsecurity6 oauth2 授权服务器 token sas FTP 服务器 HarmonyOS Next DevEco Studio cuda cudnn anaconda QQ 机器人 bot Docker 服务器部署ai模型 开源 嵌入式 linux驱动开发 arm开发 嵌入式硬件 list 数据结构 raid5数据恢复 磁盘阵列数据恢复 文件系统 路径解析 visualstudio threejs 3D prometheus mcu 学习 指令 Linux 进程信号 Trae IDE AI 原生集成开发环境 Trae AI 3d https 测试工具 Cline ecmascript nextjs react reactjs ollama下载加速 流式接口 curl wget DeepSeek 服务器繁忙 DigitalOcean GPU服务器购买 GPU服务器哪里有 GPU服务器 apache 小程序 微信小程序域名配置 微信小程序服务器域名 微信小程序合法域名 小程序配置业务域名 微信小程序需要域名吗 微信小程序添加域名 Kylin-Server 国产操作系统 服务器安装 跨域 学习方法 EasyConnect ux 多线程 Google pay Apple pay open Euler dde deepin 统信UOS 交互 医疗APP开发 app开发 linux 命令 sed 命令 hadoop mount挂载磁盘 wrong fs type LVM挂载磁盘 Centos7.9 RoboVLM 通用机器人策略 VLA设计哲学 vlm fot robot 视觉语言动作模型 具身智能 zabbix bash 搜索引擎 ssrf 失效的访问控制 云原生 devops springboot openwrt 设置代理 实用教程 Deepseek SSH 服务 SSH Server OpenSSH Server 代码调试 ipdb xrdp 远程桌面 远程连接 mysql minicom 串口调试工具 蓝耘科技 元生代平台工作流 ComfyUI NPS 雨云服务器 雨云 能力提升 面试宝典 技术 IT信息化 环境迁移 源码剖析 rtsp实现步骤 流媒体开发 gpu算力 Ubuntu 24.04.1 轻量级服务器 直播推流 jar 程序人生 相差8小时 UTC 时间 Java C语言 docker命令大全 fpga开发 Linux awk awk函数 awk结构 awk内置变量 awk参数 awk脚本 awk详解 编辑器 鸿蒙系统 串口服务器 word图片自动上传 word一键转存 复制word图片 复制word图文 复制word公式 粘贴word图文 粘贴word公式 状态管理的 UDP 服务器 Arduino RTOS 驱动开发 kvm 无桌面 命令行 git gitea 媒体 微信公众平台 bootstrap html redis web Socket YOLOv8 NPU Atlas800 A300I pro asi_bench gitlab ci/cd 计算机 jupyter css matlab elasticsearch 麒麟 bonding 链路聚合 GCC crosstool-ng 压力测试 Ubuntu 24 常用命令 Ubuntu 24 Ubuntu vi 异常处理 ecm bpm wsl2 wsl 宕机切换 服务器宕机 kubernetes k8s WebUI DeepSeek V3 AI大模型 爬虫 数据集 idm LLM 大模型面经 职场和发展 大模型学习 ddos iDRAC R720xd 微信 微信分享 Image wxopensdk freebsd debian PVE virtualenv zotero WebDAV 同步失败 代理模式 ansible playbook XFS xfs文件系统损坏 I_O error es jvm 测试用例 功能测试 AI编程 部署 服务器配置 华为云 rabbitmq dell服务器 go 硬件架构 系统架构 IIS .net core Hosting Bundle .NET Framework vs2022 VMware安装Ubuntu Ubuntu安装k8s excel X11 Xming 集成学习 集成测试 生物信息学 openEuler WSL2 protobuf 序列化和反序列化 安装 minio 强制清理 强制删除 mac废纸篓 sql KingBase k8s集群资源管理 云原生开发 VR手套 数据手套 动捕手套 动捕数据手套 mybatis Ark-TS语言 java-ee jetty undertow UOS 统信操作系统 yum rc.local 开机自启 systemd selete 高级IO eNSP 网络规划 VLAN 企业网络 wireshark 显示过滤器 ICMP Wireshark安装 Erlang OTP gen_server 热代码交换 事务语义 数学建模 linux环境变量 音乐服务器 Navidrome 音流 命名管道 客户端与服务端通信 express kylin 智能手机 NAS Termux Samba SSH av1 电视盒子 机顶盒ROM 魔百盒刷机 okhttp DeepSeek行业应用 Heroku 网站部署 postman mock mock server 模拟服务器 mock服务器 Postman内置变量 Postman随机数据 MQTT协议 消息服务器 代码 k8s资源监控 annotations自动化 自动化监控 监控service 监控jvm 安装教程 GPU环境配置 Ubuntu22 CUDA PyTorch Anaconda安装 ESP32 VMware安装mocOS VMware macOS系统安装 ESXi Dell HPE 联想 浪潮 ruoyi 温湿度数据上传到服务器 Arduino HTTP gcc 低代码 ArcTS 登录 ArcUI GridItem arkUI Docker Compose docker compose docker-compose IIS服务器 IIS性能 日志监控 next.js 部署next.js asp.net大文件上传 asp.net大文件上传源码 ASP.NET断点续传 asp.net上传文件夹 asp.net上传大文件 .net core断点续传 .net mvc断点续传 nuxt3 spring cloud TRAE 虚拟机 系统开发 binder 车载系统 framework 源码环境 银河麒麟服务器操作系统 系统激活 剧本 r语言 数据挖掘 数据可视化 数据分析 Cursor 博客 spring RAID RAID技术 磁盘 存储 dify 漏洞 微信开放平台 微信公众号配置 pygame 小游戏 五子棋 安全威胁分析 vscode 1.86 IPMI AI代码编辑器 unix postgresql tcpdump 弹性计算 云服务器 裸金属服务器 弹性裸金属服务器 虚拟化 unity3d 银河麒麟 kylin v10 麒麟 v10 网络穿透 Nuxt.js 软件工程 Xterminal rocketmq 豆瓣 追剧助手 迅雷 nas 腾讯云大模型知识引擎 混合开发 环境安装 JDK CPU 主板 电源 网卡 僵尸进程 CORS mysql离线安装 ubuntu22.04 mysql8.0 企业微信 Linux24.04 远程工作 micropython esp32 mqtt centos-root /dev/mapper yum clean all df -h / du -sh 大模型微调 腾讯云 基础入门 编程 半虚拟化 硬件虚拟化 Hypervisor 实时音视频 Redis Desktop 程序员 springboot远程调试 java项目远程debug docker远程debug java项目远程调试 springboot远程 缓存 sqlite dubbo MS Materials .netcore gateway Clion Nova ResharperC++引擎 Centos7 远程开发 JAVA code-server MQTT mosquitto 消息队列 YOLOv12 数据库系统 信息与通信 pillow shell kamailio sip VoIP 大数据 大数据平台 向日葵 echarts 信息可视化 网页设计 框架搭建 W5500 OLED u8g2 TCP服务器 多进程 remote-ssh 远程 命令 执行 sshpass 操作 Ubuntu Server Ubuntu 22.04.5 rust腐蚀 统信 虚拟机安装 safari Mac 系统 KVM pyqt firewalld opensearch helm 微信小程序 NFS WebRTC gpt 华为od OD机试真题 华为OD机试真题 服务器能耗统计 恒源云 sysctl.conf vm.nr_hugepages c/c++ 串口 Portainer搭建 Portainer使用 Portainer使用详解 Portainer详解 Portainer portainer 单一职责原则 kafka Python 网络编程 聊天服务器 套接字 TCP 客户端 make命令 makefile文件 ue4 着色器 ue5 虚幻 IPMITOOL BMC 硬件管理 目标跟踪 OpenVINO 推理应用 open webui ip命令 新增网卡 新增IP 启动网卡 ios iphone 线程 asp.net大文件上传下载 安卓 中间件 iis VSCode 移动云 云服务 模拟实现 可信计算技术 密码学 支付 微信支付 开放平台 游戏程序 XCC Lenovo 群晖 飞牛 系统安全 spark HistoryServer Spark YARN jobhistory 繁忙 解决办法 替代网站 汇总推荐 AI推理 CDN Headless Linux mamba Vmamba uniapp embedding SSL 域名 rsyslog Anolis nginx安装 linux插件下载 宝塔 ruby DNS skynet DeepSeek r1 Open WebUI 僵尸世界大战 游戏服务器搭建 cd 目录切换 银河麒麟操作系统 国产化 安全架构 zookeeper SenseVoice nfs 阿里云ECS 硬件工程 嵌入式实习 版本 LORA NLP eclipse 图像处理 游戏引擎 策略模式 单例模式 v10 镜像源 软件 ldap CLion MacOS录屏软件 vue 网络工程师 华为认证 黑客技术 URL 本地部署 api CH340 串口驱动 CH341 uart 485 架构与原理 多个客户端访问 IO多路复用 回显服务器 TCP相关API RAGFLOW RAG 检索增强生成 文档解析 大模型垂直应用 Ubuntu22.04 开发人员主页 SSE Ubuntu DeepSeek DeepSeek Ubuntu DeepSeek 本地部署 DeepSeek 知识库 DeepSeek 私有化知识库 本地部署 DeepSeek DeepSeek 私有化部署 服务器主板 AI芯片 ArkTs ArkUI LLM Web APP Streamlit less 大文件分片上传断点续传及进度条 如何批量上传超大文件并显示进度 axios大文件切片上传详细教 node服务器合并切片 vue3大文件上传报错提示错误 大文件秒传跨域报错cors 网工 压测 ECS 模拟器 教程 MI300x elk 网络攻击模型 ragflow 权限 vue-i18n 国际化多语言 vue2中英文切换详细教程 如何动态加载i18n语言包 把语言json放到服务器调用 前端调用api获取语言配置文件 npm 自动化任务管理 aws string模拟实现 深拷贝 浅拷贝 经典的string类问题 三个swap 游戏服务器 TrinityCore 魔兽世界 Unity Dedicated Server Host Client 无头主机 开发环境 SSL证书 prompt easyui langchain 视觉检测 AI写作 文件分享 linux安装配置 VMware创建虚拟机 自动化测试 性能测试 fd 文件描述符 odoo 服务器动作 Server action kali 共享文件夹 飞牛nas fnos tidb GLIBC 键盘 常用命令 文本命令 目录命令 崖山数据库 YashanDB 视频编解码 yum源切换 更换国内yum源 EMUI 回退 降级 升级 redhat 代码托管服务 高效日志打印 串口通信日志 服务器日志 系统状态监控日志 异常记录日志 毕设 midjourney sqlite3 netty 远程控制 远程看看 远程协助 rpc 远程过程调用 Windows环境 visual studio code 佛山戴尔服务器维修 佛山三水服务器维修 ipython 5G 3GPP 卫星通信 DocFlow 灵办AI swoole mq 链表 三级等保 服务器审计日志备份 GPU FTP服务器 risc-v wordpress 无法访问wordpess后台 打开网站页面错乱 linux宝塔面板 wordpress更换服务器 单元测试 selenium 干货分享 黑客工具 密码爆破 C# MQTTS 双向认证 emqx 软考 怎么卸载MySQL MySQL怎么卸载干净 MySQL卸载重新安装教程 MySQL5.7卸载 Linux卸载MySQL8.0 如何卸载MySQL教程 MySQL卸载与安装 图形化界面 eureka 联想开天P90Z装win10 Invalid Host allowedHosts gradle trae 互信 Docker Hub docker pull daemon.json camera Arduino 电子信息 执法记录仪 智能安全帽 smarteye tailscale derp derper 中转 triton 模型分析 矩阵 线性代数 电商平台 IDEA 监控k8s 监控kubernetes C++软件实战问题排查经验分享 0xfeeefeee 0xcdcdcdcd 动态库加载失败 程序启动失败 程序运行权限 标准用户权限与管理员权限 tensorflow 多层架构 解耦 课程设计 cursor MCP server C/S windows日志 实习 数据库架构 数据管理 数据治理 数据编织 数据虚拟化 Claude c Minecraft DOIT 四博智联 AnythingLLM AnythingLLM安装 lua bug 宝塔面板 WebVM 分析解读 交叉编译 H3C efficientVIT YOLOv8替换主干网络 TOLOv8 安防软件 cnn DenseNet CrewAI qemu libvirt thingsboard 音乐库 Linux环境 并查集 leetcode 磁盘监控 kind can 线程池 前后端分离 边缘计算 GoogLeNet 服务器无法访问 ip地址无法访问 无法访问宝塔面板 宝塔面板打不开 arm FunASR ASR 无人机 小艺 Pura X file server http server web server linux上传下载 uni-file-picker 拍摄从相册选择 uni.uploadFile H5上传图片 微信小程序上传图片 USB网络共享 MacMini 迷你主机 mini Apple 监控k8s集群 集群内prometheus 宠物 毕业设计 免费学习 宠物领养 宠物平台 Wi-Fi docker run 数据卷挂载 交互模式 vmware 卡死 自动化编程 Spring Security mariadb ssh漏洞 ssh9.9p2 CVE-2025-23419 rdp 实验 技术共享 自动驾驶 王者荣耀 xml SysBench 基准测试 ros2 moveit 机器人运动 交换机 硬件 设备 PCI-Express 阻塞队列 生产者消费者模型 服务器崩坏原因 Linux无人智慧超市 LInux多线程服务器 QT项目 LInux项目 单片机项目 etl Linux PID ai小智 语音助手 ai小智配网 ai小智教程 智能硬件 esp32语音助手 diy语音助手 ISO镜像作为本地源 lsb_release /etc/issue /proc/version uname -r 查看ubuntu版本 技能大赛 云电竞 云电脑 todesk MNN Qwen 网络结构图 ip ui 备份SQL Server数据库 数据库备份 傲梅企业备份网络版 telnet 远程登录 虚拟显示器 7z cmos 输入法 keepalived xss 在线预览 xlsx xls文件 在浏览器直接打开解析xls表格 前端实现vue3打开excel 文件地址url或接口文档流二进 hive DBeaver 数据仓库 kerberos 网络用户购物行为分析可视化平台 大数据毕业设计 重启 排查 系统重启 日志 原因 游戏机 pppoe radius hugo Netty 即时通信 NIO SWAT 配置文件 服务管理 网络共享 gaussdb perf 银河麒麟桌面操作系统 Kylin OS openstack Xen 服务网格 istio AI作画 聊天室 saltstack ocr chrome devtools chromedriver AI agent 思科模拟器 思科 Cisco xcode 算力 Logstash 日志采集 Radius googlecloud Playwright qt项目 qt项目实战 qt教程 muduo nac 802.1 portal 服务器管理 配置教程 网站管理 国标28181 视频监控 监控接入 语音广播 流程 SIP SDP 其他 LInux 软件构建 社交电子 高效远程协作 TrustViewer体验 跨设备操作便利 智能远程控制 EMQX 通信协议 VS Code hibernate 计算虚拟化 弹性裸金属 工业4.0 语法 windwos防火墙 defender防火墙 win防火墙白名单 防火墙白名单效果 防火墙只允许指定应用上网 防火墙允许指定上网其它禁止 ROS 根服务器 clickhouse 显示管理器 lightdm gdm 黑苹果 政务 分布式系统 监控运维 Prometheus Grafana yaml Ultralytics 可视化 同步 备份 建站 sdkman 小番茄C盘清理 便捷易用C盘清理工具 小番茄C盘清理的优势尽显何处? 教你深度体验小番茄C盘清理 C盘变红?!不知所措? C盘瘦身后电脑会发生什么变化? laravel 实时互动 ceph grafana 小智AI服务端 xiaozhi TTS 直流充电桩 充电桩 junit AD 域管理 网站搭建 serv00 chfs ubuntu 16.04 p2p nvidia 大模型应用 深度求索 私域 知识库 火绒安全 gpt-3 文心一言 alias unalias 别名 需求分析 规格说明书 源码 备选 网站 调用 示例 金融 AD域 seatunnel 反向代理 致远OA OA服务器 服务器磁盘扩容 regedit 开机启动 序列化反序列化 dns IPv4 子网掩码 公网IP 私有IP 蓝桥杯 大模型入门 上传视频至服务器代码 vue3批量上传多个视频并预览 如何实现将本地视频上传到网页 element plu视频上传 ant design vue vue3本地上传视频及预览移除 HTTP 服务器控制 ESP32 DeepSeek etcd 数据安全 RBAC 我的世界服务器搭建 minecraft frp Hive环境搭建 hive3环境 Hive远程模式 vasp安装 查询数据库服务IP地址 SQL Server Linux的基础指令 AutoDL 报错 京东云 Ubuntu共享文件夹 共享目录 Linux共享文件夹 端口测试 田俊楠 openssl 业界资讯 鲲鹏 模拟退火算法 flash-attention 双系统 GRUB引导 Linux技巧 pgpool tcp 华为机试 AISphereButler epoll 自定义客户端 SAS outlook glibc 银河麒麟高级服务器 外接硬盘 Kylin flink Jellyfin 移动魔百盒 matplotlib USB转串口 飞牛NAS 飞牛OS MacBook Pro UDP的API使用 自学笔记 小米 澎湃OS Android IO模型 做raid 装系统 Java Applet URL操作 服务器建立 Socket编程 网络文件读取 armbian u-boot 大模型教程 软负载 ukui 麒麟kylinos openeuler 超融合 rnn RustDesk自建服务器 rustdesk服务器 docker rustdesk 历史版本 下载 ftp VPS n8n 工作流 workflow VM搭建win2012 win2012应急响应靶机搭建 攻击者获取服务器权限 上传wakaung病毒 应急响应并溯源 挖矿病毒处置 应急响应综合性靶场 匿名管道 vscode1.86 1.86版本 ssh远程连接 vSphere vCenter 软件定义数据中心 sddc RTMP 应用层 g++ g++13 Cookie big data 昇腾 npu 飞书 孤岛惊魂4 粘包问题 word IMX317 MIPI H265 VCU pyautogui ShenTong IMM 智能音箱 智能家居 rag ragflow 源码启动 运维监控 uv Linux find grep 钉钉 用户缓冲区 代理 镜像 onlyoffice PX4 python3.11 抓包工具 wsgiref Web 服务器网关接口 navicat cocoapods IM即时通讯 剪切板对通 HTML FORMAT OpenManus 网络建设与运维 大大通 第三代半导体 碳化硅 yolov8 Attention Windows ai工具 java-rocketmq x64 SIGSEGV xmm0 信号处理 Kali 渗透 miniapp 真机调试 调试 debug 断点 网络API请求调试方法 apt 国内源 docker desktop image GIS 遥感 WebGIS 内网环境 banner h.264 xpath定位元素 bat vpn deep learning docker部署翻译组件 docker部署deepl docker搭建deepl java对接deepl 翻译组件使用 trea idea 强化学习 网卡的名称修改 eth0 ens33 cpp-httplib MacOS bcompare Beyond Compare Deepseek-R1 私有化部署 推理模型 nlp 相机 企业网络规划 华为eNSP SRS 流媒体 直播 wps Mac内存不够用怎么办 dash 正则表达式 db 嵌入式Linux IPC log4j gnu 代理服务器 中兴光猫 换光猫 网络桥接 自己换光猫 信创 信创终端 中科方德 Xinference RAGFlow vr 多端开发 智慧分发 应用生态 鸿蒙OS css3 sentinel UOS1070e 嵌入式系统开发 知识图谱 rustdesk 金仓数据库 2025 征文 数据库平替用金仓 su sudo ubuntu24 vivado24 免费域名 域名解析 edge浏览器 Linux的权限 元服务 应用上架 perl 换源 Debian 加解密 Yakit yaklang 李心怡 远程服务 WLAN 影刀 #影刀RPA# 服务器时间 流量运营 Typore KylinV10 麒麟操作系统 Vmware Python基础 Python教程 Python技巧 软链接 硬链接 查看显卡进程 fuser ArtTS aarch64 编译安装 HPC EtherCAT转Modbus ECT转Modbus协议 EtherCAT转485网关 ECT转Modbus串口网关 EtherCAT转485协议 ECT转Modbus网关 deekseek iBMC UltraISO 防火墙 NAT转发 NAT Server 基础环境 流水线 脚本式流水线 树莓派 VNC 域名服务 DHCP 符号链接 配置 figma 极限编程 CentOS Unity插件 iventoy VmWare OpenEuler 信号 kotlin ssh远程登录 个人博客 问题解决 网络药理学 生信 gromacs 分子动力学模拟 MD 动力学模拟 云桌面 微软 AD域控 证书服务器 webstorm 我的世界 我的世界联机 数码 UDP rtsp服务器 rtsp server android rtsp服务 安卓rtsp服务器 移动端rtsp服务 大牛直播SDK 浏览器开发 AI浏览器 AP配网 AK配网 小程序AP配网和AK配网教程 WIFI设备配网小程序UDP开 带外管理 程序 烟花代码 烟花 元旦 grub 版本升级 扩容 性能调优 安全代理 本地知识库部署 DeepSeek R1 模型 nvm whistle 游戏开发 程序员创富 大模型推理 磁盘清理 powerpoint 环境配置 dity make 磁盘镜像 服务器镜像 服务器实时复制 实时文件备份 ros 迁移指南 sonoma 自动更新 xshell termius iterm2 llama.cpp neo4j 数据库开发 database 实战案例 searxng PPI String Cytoscape CytoHubba Docker引擎已经停止 Docker无法使用 WSL进度一直是0 镜像加速地址 win服务器架设 windows server rime dns是什么 如何设置电脑dns dns应该如何设置 分布式训练 cfssl TCP协议 抗锯齿 拓扑图 产测工具框架 IMX6ULL 管理框架 firewall 合成模型 扩散模型 图像生成 状态模式 fstab P2P HDLC milvus QT 5.12.12 QT开发环境 Ubuntu18.04 健康医疗 互联网医院 HarmonyOS OpenHarmony 聚类 性能分析 鸿蒙开发 移动开发 HAProxy MVS 海康威视相机 物联网开发 本地部署AI大模型 推荐算法 react native proxy模式 sequoiaDB hexo 捆绑 链接 谷歌浏览器 youtube google gmail 虚拟局域网 SEO 图形渲染 显卡驱动 prometheus数据采集 prometheus数据模型 prometheus特点 在线office OpenSSH 内网服务器 内网代理 内网通信 visual studio 容器技术 毕昇JDK jina SSH 密钥生成 SSH 公钥 私钥 生成 主从复制 人工智能生成内容 top Linux top top命令详解 top命令重点 top常用参数 webgl 语音识别 seleium 考研 ubuntu20.04 ros1 Noetic 20.04 apt 安装 composer docker搭建pg docker搭建pgsql pg授权 postgresql使用 postgresql搭建 iperf3 带宽测试 chrome 浏览器下载 chrome 下载安装 谷歌浏览器下载 私有化 wpf 对比 工具 meld DiffMerge 玩机技巧 软件分享 软件图标 EtherNet/IP串口网关 EIP转RS485 EIP转Modbus EtherNet/IP网关协议 EIP转RS485网关 EIP串口服务器 开发 SVN Server tortoise svn docker搭建nacos详解 docker部署nacos docker安装nacos 腾讯云搭建nacos centos7搭建nacos ABAP rclone AList webdav fnOS lio-sam SLAM MySql 存储维护 NetApp存储 EMC存储 ubuntu24.04.1 TrueLicense harmonyOS面试题 邮件APP 免费软件 AI-native Docker Desktop 软件卸载 系统清理 ardunio BLE HiCar CarLife+ CarPlay QT RK3588 Node-Red 编程工具 流编程 AI Agent 字节智能运维 办公自动化 自动化生成 pdf教程 fast 项目部署到linux服务器 项目部署过程 端口 查看 ss CVE-2024-7347 deployment daemonset statefulset cronjob 读写锁 autodl arcgis deepseek r1 web3 rpa 西门子PLC 通讯 IO 端口聚合 windows11 达梦 DM8 System V共享内存 进程通信 Qwen2.5-VL vllm 热榜 NLP模型 nosql kernel 接口优化 k8s二次开发 离线部署dify MobaXterm MDK 嵌入式开发工具 论文笔记 sublime text 解决方案 搭建个人相关服务器 conda配置 conda镜像源 ranger MySQL8.0 稳定性 看门狗 docker部署Python 大模型部署 欧标 OCPP yum换源 网络爬虫 开机黑屏 沙盒 风扇控制软件 增强现实 沉浸式体验 应用场景 技术实现 案例分析 AR 虚幻引擎 浏览器自动化 virtualbox Sealos 论文阅读 mm-wiki搭建 linux搭建mm-wiki mm-wiki搭建与使用 mm-wiki使用 mm-wiki详解 hosts 网络搭建 神州数码 神州数码云平台 云平台 vu大文件秒传跨域报错cors macOS js HarmonyOS NEXT 原生鸿蒙 多路转接 云耀服务器 dock 加速 CentOS Stream 本地化部署 搜狗输入法 中文输入法 数字证书 签署证书 智能电视 DIFY 项目部署 yolov5 服务器正确解析请求体 AI员工