v100显卡折腾笔记
核显配合双卡V100对AI大模型本地部署和本地出图的性能分析 核显与双卡V100的组合对AI大模型本地部署和本地出图有显著提升,主要体现在显存池化与NVLink互联带来的算力扩展,以及核显承担显示任务释放V100资源的协同效应。这种配置方案在2025年已成为性价比极高的AI本地部署选择,特别适合预算有限但需要运行32B参数级别大模型的用户。 ...
核显配合双卡V100对AI大模型本地部署和本地出图的性能分析 核显与双卡V100的组合对AI大模型本地部署和本地出图有显著提升,主要体现在显存池化与NVLink互联带来的算力扩展,以及核显承担显示任务释放V100资源的协同效应。这种配置方案在2025年已成为性价比极高的AI本地部署选择,特别适合预算有限但需要运行32B参数级别大模型的用户。 ...
本文《‘1017’》包含加密内容,请输入密码查看。 ...
监督目标执行三步骤: 第一步.对比结果,发现问题 第二步.遇见偏差,分析原因 第三部.补充计划,纠正偏差 四种跟踪方法: 1.管理岗的个人观察 2、统计报告;数据 ...
提示词调试进阶 方法: 零样本提示(不提供示例):能直接满足需求时,如翻译、情感分析等任务。 少样本提示(提供少量示例:Few-Shot):当0样本达不到要求或者格式不满足要求时,提供少量示例引导模型理解任务模式 ...
Pandoc 简介 Pandoc 是一个由 John MacFarlane 开发的开源“瑞士军刀”,用于在不同标记语言格式之间进行转换。它支持数十种输入和输出格式,包括 DOCX、Markdown、HTML、PDF、EPUB 等。由于其强大的转换引擎和对细节的关注,它在从 DOCX 转换为 Markdown时能很好地保留格式,例如标题、列表、表格、代码块等。 ...
1.系统提示词设置固定角色和现在工作范围。例如:
大模型通识 大模型(LLM):lage langrage model,基本都是基于transformer deepseek r1 参数 671B 25年国内AI元年 AGI 通用人工智能,能模拟人类抽象推理,因果理解等能力,解决未知环境的复杂问题,是人工智能的终极目标之一。大模型是AI发展的里程碑,也是实现AGI的重要步骤。 ...
模型微调 定义:在开源模型上,用领域内专业数据调整参数以适应特定任务。
智能体 定义:自主执行任务的AI系统,可协调多个子代理完成复杂流程 具备:工具调用、记忆、规划、行动等能力
机器学习 步骤: 准备历史数据->创建模型并训练历史数据->新数据输入预测结果 机器学习的分类 监督学习:数据带结果/标签 无监督学习:一大堆没有标签结果,让机器自行分类检测。 ...