深度学习进阶（三十一）FlashAttention：IO 感知的精确注意力

博主头像 上一篇我们把现代大模型的五个核心模块拼回了 LLaMA 这个完整案例中，可以看到注意力机制仍然是计算最密集的部分。 而这个密集程度在序列变长时，会变得越来越恐怖： 标准自注意力的计算复杂度和空间复杂度都是 \(O(n^2)\)：序列长度翻倍，计算量翻四倍，内存占用也翻四倍。 而在之前，我们用 KV ...

Windows x64 构建 liboqs-java教程

博主头像 Windows 下构建 liboqs-java，实现 PQC 算法的调用 liboqs-java 本身不是一个纯 Java 库，它底层依赖 liboqs 这个 C 语言实现的后量子密码学库。也就是说，我们最终虽然是在 Java / Spring Boot 项目里调用 PQC 算法，但真正执行算法逻辑 ...

AI时代下，技术真的“平权”了吗？我们还要怎样“死磕”细节？

博主头像 AI时代下，技术真的“平权”了吗？我们还要怎样“死磕”细节？ 前言 最近这两年，各种AI编码助手和代码大模型呈爆发式增长。只要能写清楚Prompt，无论是生成一个带有Tailwind CSS的高保真数据大屏，还是快速搭建一个包含基础频控逻辑的短信平台MVP，甚至是写一段复杂的复杂不规则框客流统计算法 ...

CVE-2021-4034-pwnkit提权

博主头像 漏洞核心原理一 CVE-2021-4034 (PwnKit) 的核心原理在于 pkexec 程序对命令行参数处理的一个越界读取（Out-of-bounds Read）漏洞，以及由此引发的环境变量写入。 参数处理越界 在 Linux 中，一个程序的 main 函数接收两个重要的参数：argc（参数数量 ...

同事做 PPT 比你快 5 倍，不是因为他努力，是因为他用了这套工具流

博主头像 上周一，我们组的会议纪要还要靠小陈手工整理，开完一个小时的早会，她要再花 40 分钟敲完发出来。同一天，她旁边的同事开完会直接站起来去喝咖啡，3 分钟后纪要已经在群里了。 不是谁效率高低的问题，是用没用对工具的问题。 我在后端做了 10 年，最近两个季度把职场 AI 工具摸了个遍。今天把我们实际跑通 ...

PHP 泛型之殇 泛型 RFC 提案被拒绝

博主头像 PHP 泛型之殇 泛型 RFC 提案被拒绝 PHP 开发者眼中的泛型现实 PHP 很可能不会迎来泛型。这并非什么新鲜事。一些核心开发者撰写了详尽的技术博客，阐述为什么运行时擦除式泛型不是个好主意，以及他们为何对当前的 RFC 投下反对票。 然而，PHP 社区中还有另一群人，他们非常支持这个 RFC， ...

Pi Agent 对接实现：消息解析、重试与取消

博主头像 Pi Agent 对接实现：消息解析、重试与取消 接一个 CLI 形态的 AI agent，绕不开三件事：怎么把它私有的事件流翻译成稳定消息、失败之后到底谁负责重试、用户点取消时进程怎么干净地停。其实这三件事说穿了，不过是"分清职责"罢了，只是真做起来，才知道水有多深。 背景 最近我在做一个 AI ...

OCI 明明分配了 200G 系统盘，为什么 df 只看到 30G？

博主头像 在 OCI 上创建测试主机时，明明给启动盘分配了 200G，但进入系统后执行 df -h，根目录却只有 30G 左右。这种情况并不是磁盘没有分配成功，而是分区和 LVM 还没有把剩余空间用起来。 01 | 先看 200G 到底在不在 笔者环境中，df -h 看到的是文件系统大小： /dev/mapp ...

AI Agent 全日制30天速成｜Day3 笔记

博主头像 AI Agent 全日制30天速成｜Day3 教学笔记 今日总学习目标 掌握向量嵌入（Embedding）原理、文本向量化、向量相似度计算 搭建简易本地向量库（内存版FAISS），实现文本入库、检索、删除 打通基础RAG检索链路：文档分片→向量化存储→用户提问召回片段→注入Prompt 结合Day2 ...

House of apple2手法及部分源码解析

博主头像 在2.34移除了hook函数之后，堆利用就少了一个大的攻击方向了。而House of apple这个手法就给我们提供了新的攻击方向：IOFILE结构体。虽然在house of orange就有所利用，之后也有一些利用了相关结构体的手法，但都没有House of apple条件简单。 House of ...

vi 删除指定范围的行，不用再反复按 dd

博主头像 目前各种强大的现代编辑工具可能已经让很多人忘了vi的用法，但笔者最近在配合调试客户环境的代码时，就遇到经常要直接在那黑乎乎的putty窗口下直接使用vi来操作，反复去删除指定多行代码的场景很是痛苦，加上远程网络时而还会不稳，连续的dd很不方便且容易误操作。所以就倒逼自己回来复习了下vi删除行的快捷操 ...

C#摸鱼实录——IoC与DI案例详解

博主头像 IoC（控制反转）与DI（依赖注入） 开一个新的模块哈，在这个模块里面，我们主要讲一个东西如何使用，尽量不纠结概念，简单过过 之前老是被人说，是不是过于偏向于学院派了，所以从现在开始，我们将只关注能不能用 这个模块里面，我想讲的，大多数是在实际项目中常用的东西，例如一些NuGet 包，一个语法，或者 ...

123···100>