文章介绍了使用腾讯IMA工具构建精简AI知识库的实践指南。强调知识库应"精"而非"多",建议为不同主题创建小型专业库。详细解释
安装python3.12版本 本身系统里有python3.10版本,也有vLLM,而且是DCU vLLM版本,但是需要用到python3.12版本,所以才重新弄整
过去两年,大模型训练规模一路高歌猛进,从百亿级走向万亿级。与此同时,企业在构建高性能 AI 基础设施时面临的核心问题变得
如何在服务器上运行 LobeChat 镜像并对接 GPU 加速推理? 在企业级 AI 应用快速落地的今天,一个常见但棘手的问题浮现出来:
模型上下文协议(MCP)是一种全新的开放协议,它能让AI模型以标准化、可扩展的方式与外部系统进行交互。本教程将带您完成MCP
本文作者:kaiyuan LLM推理基础:采样(Sampling)常见知识概览 本文主要介绍LLM推理采样(Sampling)相关的基本概念,包括随
部署环境说明 服务器: 曙光 X7850H0(256 核+ 8张A100+1.5T内存) 服务器操作系统: UOS V2500 DTK版本: 25.04.1 Rocm版本
最近在整理n8n的学习资料,其中有个MCP Trigger节点,我测试完发现这个节点不就是个打造自定义MCP服务的利器嘛!对于我们搞a