简介 文档链接:https://oigi8odzc5w.feishu.cn/wiki/WBMfwiNkfi6uNFkRt…
LoRA 算法论文解读 & 开发人员如何微调大模型并暴露可调用接口 简介 一、视频资料与链接 B站视频:BV1R…
## 简介 去年(2024年上半年)录制的一系列内容分享。由于大模型发展很快,有些东西对于时下(2025年上半年)技术发…
Flash Attention 原理 Flash Attention 是目前大模型训练与推理中的关键技术。它通过优化 G…
回答重点 长对话最怕的就是 context window 爆了(就像手机存储满了),要么请求直接报错,要么不得不丢消息导…
OpenClaw 把整个 Agent 平台拆成了五层组件,各司其职又首尾相连。 Channel Plugins 是最外层…
一、KV Cache:用空间换时间的推理绝招 自回归生成模式 在自回归生成中,模型根据之前的上下文(Context)预测…
回答重点 Skills 就是给 AI Agent 写的操作手册,本质上是一份结构化的指令文件。当 Agent 碰到某类任…
简介:受@3Blue1Brown 的可视化数学系列启发的第三期,这期Attention机制的视频用来作为之后CLIP原理…
在 Transformer 模型中,编码器和解码器一共有 三个注意力模块,但其中只有一个需要进行掩码处理。这是很多人学习…
## 前言 在工程、物理和连续介质力学的学习和工作中,有一个常见却常被混淆的问题:矩阵和张量究竟有什么不同? 很多人简单…
Hermes Agent概述 Hermes Agent是由Nos Research团队开发的开源AI Agent项目,在…