Flash Attention 原理 Flash Attention 是目前大模型训练与推理中的关键技术。它通过优化 G…
回答重点 长对话最怕的就是 context window 爆了（就像手机存储满了），要么请求直接报错，要么不得不丢消息导…
OpenClaw 把整个 Agent 平台拆成了五层组件，各司其职又首尾相连。 Channel Plugins 是最外层…
一、KV Cache：用空间换时间的推理绝招 自回归生成模式 在自回归生成中，模型根据之前的上下文（Context）预测…
回答重点 Skills 就是给 AI Agent 写的操作手册，本质上是一份结构化的指令文件。当 Agent 碰到某类任…
简介：受@3Blue1Brown 的可视化数学系列启发的第三期，这期Attention机制的视频用来作为之后CLIP原理…
在 Transformer 模型中，编码器和解码器一共有 三个注意力模块，但其中只有一个需要进行掩码处理。这是很多人学习…
## 前言 在工程、物理和连续介质力学的学习和工作中，有一个常见却常被混淆的问题：矩阵和张量究竟有什么不同？ 很多人简单…
Hermes Agent概述 Hermes Agent是由Nos Research团队开发的开源AI Agent项目，在…
ToolCall 理论 简介 github仓库：https://github.com/Wood-Q/MokioAgent…
<smtcmp_block filename="公开笔记/Bilibili/费曼学习法，5分钟搞懂Age…
简介 数据预处理将原始数据转化为适合建模的格式，核心步骤包括：清洗（缺失值、异常值、重复值）、变换（无量纲化、特征编码）…