语言·计算&LLM——插:GPU与并行计算——为什么CPU不跑Transformer
前言 在上一篇,我们花了几万字,从开关一路造出了一台完整的 CPU。它有 ALU、有寄存器堆、有控制单元、有时钟——它能取指令、译码、执行、写回,能跑完整程序。写完之后我特别高兴——这大概就是"亲手把东西做出来"的那种满足感。 但紧接着就有一个令人沮丧的事实:这台 CPU,跑 Transformer…
语言·计算&LLM——7. 一个真正的Transformer
前言 在上一篇,我们花了九万多字,坐着观光车绕着 Transformer 转了一大圈。你看到了全景——编码器在左、解码器在右,输入嵌入进去、位置编码叠上、多头注意力哗啦啦地算、残差和 LayerNorm 兜底、前馈网络处理后事。你还顺便逛了 RNN 的老城区和 LSTM 的翻修工地,知道它们为什么被…
语言·计算&LLM——3.一颗真正的CPU
前言 书接上回,我们用了将近五万字,从 D 触发器一路造到了乘法器。到上一篇结尾,你手里已经有了这么一堆东西:加法器、减法器、乘法器、移位寄存器、计数器、解码器、编码器。它们每一个都是从最底层的 NAND 门一层层搭起来的——这一点你一定要记住,后面我们反复会用到这个认知。 但现在的问题是:它们全是…
面向十亿级Token规模的超长文本处理架构研究报告:从长上下文LLM到图谱增强检索的深度解析
面向十亿级Token规模的超长文本处理架构研究报告:从长上下文LLM到图谱增强检索的深度解析 1. 执行摘要与核心论点 在当前生成式人工智能(Generative AI)技术的快速演进中,处理海量文本数据——特别是用户提出的“256万页书籍”(估算约为12.8亿Token)这一量级——已成为企业级应…
数字人文的三重危机:解构实施、评估与认识论的鸿沟
数字人文的三重危机:解构实施、评估与认识论的鸿沟 执行摘要 本报告深入分析了数字人文(Digital Humanities, DH)领域面临的一系列系统性“元问题”(元问题)。这些问题源于学术界观察到的一个核心矛盾:一方面是该领域高调的宣传、大量的资金投入和学术热情,即“雷声大”;另一方面是其研究成…
泸沽湖畔的唱与和:摩梭甲搓音乐与民歌的共生形态研究*
泸沽湖畔的唱与和:摩梭甲搓音乐与民歌的共生形态研究 导言:界定一个文化复合体 摩梭 (Mosuo) 文化以其独特的母系社会结构和“走婚” (Zouhun) 习俗而闻名于世 1。在这一社会框架内,音乐和舞蹈扮演着不可或缺的社会功能角色。其中,“甲搓” (Jiacuo) 舞蹈和“民歌” (Minge) …
活态象形文字的计算再生:纳西东巴文的计算机视觉处理、语义提取与技术前沿分析
活态象形文字的计算再生:纳西东巴文的计算机视觉处理、语义提取与技术前沿分析 I. 导论:数字人文视野下的“东巴文难题” 1.1. 纳西东巴文:作为文化遗产的价值与濒危现状 纳西东巴文是云南丽江纳西族的核心文化载体 1。它并非一种孤立的文字系统,而是围绕“东巴教”——一种原始宗教文化——构建的多元复杂…
深度技术评估报告:Dots.OCR 架构机制、微调可行性与生态系统全景分析
深度技术评估报告:Dots.OCR 架构机制、微调可行性与生态系统全景分析 1. 执行摘要与引言 在过去三十年中,光学字符识别(OCR)技术经历了几次根本性的范式转移。从早期的基于规则的匹配算法,到卷积神经网络(CNN)与循环神经网络(RNN)结合的CRNN架构,再到目前基于Transformer的…
从历法到GIS:探索天地规律的技术演进与应用——经纬绘山河(刍议)
缘起 其实上一篇的信息量已经够大了,但是还不完全够,后续又折腾出来一大堆坑,所以决定再来一篇文章讲一讲。会以短篇合集的形式一点一点更新。 思路 1、如果说十来个点,就一条线,甚至两三条。完全可以直接操作,就不需要繁琐的表格,直接两张表完成。第一张表是所有点的坐标,第二张是所有线段的具体信息。 2、如…
Ubuntu快速开局
Ubuntu 服务器快速部署手册 本文档旨在记录一次完整的 Ubuntu 服务器重装和环境配置流程,适用于开发和深度学习等场景。 第 1 步:安装 NVIDIA 驱动与 CUDA 为了确保显卡驱动的稳定,推荐先禁用系统自带的 Nouveau 开源驱动,再安装 NVIDIA 官方驱动。 禁用 Nouv…
从历法到GIS:探索天地规律的技术演进与应用——经纬绘山河
注意 本文是教程,不是学术论文,也不是研究报告,所以语体会尽可能通俗易懂。 可能需要一定的电脑硬件以支持操作,建议16G内存+100G以上磁盘空间(问就是有时候数据量比较大)。 有问题欢迎随时讨论,毕竟是自己的经验。 我事先说明,很多东西可能不是新的东西,也许在哪都可能听到过,也许或多或少有人提过,…
符号学的哲学内涵:从体系与过程到意识形态与解构(from gemini)
符号学的哲学内涵:从体系与过程到意识形态与解构 导论:超越符号本身 本报告旨在回应一个深刻的探问:如何体现符号学背后深邃的哲学思想,而非仅仅停留在对符号本身的浅层讨论 [用户查询]。为实现此目标,本报告将符号学视为一门关乎人类如何建构现实、形成知识,并被意识形态所塑造的根本性哲学学科。我们将不再把符…
21世纪的语音学现状:方法、理论与技术的综合报告(from gemini)
21世纪的语音学现状:方法、理论与技术的综合报告 第一部分 演进中的语音学核心:新视角下的学科基础 语音学作为一门研究人类言语声音的学科,其核心框架虽然历史悠久,但在21世纪的技术与理论浪潮冲击下,正经历着深刻的演变。本节旨在重新审视语音学的经典基石,并揭示塑造其当代面貌的复杂性和理论张力。传统上界…
符号学的世界:一场穿越意义迷宫的旅程(from gemini)
符号学的世界:一场穿越意义迷宫的旅程 导言:世界即文本,生命即诠释 人类最根本的冲动之一,便是对意义的追寻。一旦停止追寻意义,人的意识便会终止 1。而这场永无止境的追寻,完全是通过符号的创造与诠释来进行的。我们无时无刻不沉浸在一个由符号构成的世界中,从口中的言语到指尖的文字,从艺术作品到文化习俗,乃…
Ubuntu 主板风扇转速调整指南
好的,这里是为您整理的一份完整的操作文档,您可以直接复制使用。 Ubuntu 主板风扇转速调整指南 文档目标: 本指南旨在提供在 Ubuntu 操作系统中调整主板风扇转速的两种主要方法。 重要警告: 调整风扇转速属于高级操作。不当的设置可能导致风扇停转,从而引起硬件(如 CPU、显卡)过热而造成永久…
Ubuntu 24.04 双 GPU 环境配置:从零到 NCCL 成功运行的完整指南
好的,非常乐意为你效劳。这是一份根据我们整个排错过程整理出的完整操作文档。 这份文档记录了从配置基础环境到解决一系列复杂依赖问题,最终成功运行 NCCL 测试的全过程。你可以直接将它保存下来。 Ubuntu 24.04 双 GPU 环境配置:从零到 NCCL 成功运行的完整指南 文档目标: 在一台装…