⚡ 核心原理:按需列读
列式数据库最核心的哲学就是 “按需列读”。与传统行式数据库不同,它只读取查询涉及的列,而非整行数据。例如你想查“体重”,数据库直接定位到体重列,无视其他列,极大减少I/O开销。
这种 “只读所需,其余全闭” 的策略,让列式数据库在海量分析场景下速度极快。数据以列为单位连续存储,同一列的数据类型一致,利于压缩和向量化计算。
? 行 vs 列 对比
- 行式: 一次读一行,即使只需要一个字段也要加载整行。
- 列式: 只读目标列,列与列物理分离。
- 典型场景: OLAP、报表、数据仓库、大规模扫描。
- 代表系统: Apache Parquet, ClickHouse, Redshift, BigQuery。
? 查询体重
在列式数据库中,执行 SELECT weight FROM users 时,只读取 weight 列所在的页面,速度可提升10倍以上。
? 聚合计算
计算平均身高:列式数据库只需扫描身高列,连续内存布局让CPU缓存效率极高。
? 混合读取
支持“姓名+职位”或只读“电话”,灵活组合列,减少网络传输。
? 磁盘存储:列式布局与两极分化
列式数据库在磁盘上以 行 为基本单位?不完全是。实际上数据按列组织,但每行内部数据结构高度不均:数值列(如身高、体重)连续密集,大文本或二进制列则单独切分存储。
? 数值列:连续密集
整数、浮点数列在磁盘上几乎连续排列,类似数学上的连续函数。离散性小,占用空间大但读写快。例如存储100万个体重值,物理上紧邻,预取效率极高。
? 大文本/二进制:独立列
小说、图片等数据被单独切分为 大字符串列 或压缩块,避免撑爆整行。这造成磁盘“两极分化”:密集数值列占大空间但快速,大对象列占小空间但读写较慢。
? 存储示例:用户表
- user_id (INT) → 连续4字节,百万行几乎无碎片。
- biography (TEXT) → 单独存储,每个值可能几百到几千字节,列式压缩后节省空间。
- avatar (BLOB) → 二进制大对象,列剪枝技术避免扫描无关数据。
? 行分裂:代价与索引挑战
行分裂 是列式数据库为了配合列导向不得不做的妥协。每行长度根据内容自动伸缩,例如一行可能前10字节是整数,中间500字节是字符串,后100字节是二进制。百万行数据,平均长度500~1000字节,索引表本身也变得复杂。
? 行分裂如何发生?
每一行数据在磁盘上并非固定长度。假设表有三个列:age(INT), name(VARCHAR), photo(BLOB)。age 固定4字节,name 长度可变,photo 可能几百KB。列式数据库将这三个列 分别存储在不同区域,但逻辑上仍属于一行。读取时需根据行ID拼接,这就是“行分裂”的代价。
- ✅ 优点:灵活应对异构数据。
- ❌ 缺点:索引维护复杂,随机写开销大。
? 扫描示例:查找“有猫的家庭”
假设要查所有养猫的用户。在列式数据库中,如果“宠物”列是字符串,则需 扫描整个宠物列,逐一比对。若该列是二进制图片,则需解码比对,速度下降。这就是“扫描”操作,列式数据库擅长全列扫描,但若只查一行则效率低。
对比:行式数据库一次读一行,但列式数据库需扫描整列才能找到匹配行。
⚙️ 缓解行分裂的策略
- 列剪枝: 只读取需要的列,减少拼接成本。
- 分区与排序: 按列排序后,相同值的行物理相邻,降低索引复杂度。
- 使用数据块: 将小列组合成“列族”,减少分裂粒度。
? 列排序 · 列聚簇 · 列剪枝
列式数据库按 列排序,而非按行。例如将所有姓名排序,物理上形成长条柱子。虽然排序慢,但查询极快。配合 列聚簇 和 列剪枝,读写效率进一步提升。
? 列排序
类似图书馆按书名排书架。排完序后,二分查找 或范围扫描极快。例如按体重排序后,查“体重>80kg”只需扫描连续段。
? 列聚簇
将数据聚集成大的“列”,每个列占据连续数据页。例如图片像素数据塞进一个列,读写直接访问指定页,无需全列扫描再排序。
✂️ 列剪枝
查询时跳过无关列。例如只查姓名,直接忽略其他列,减少I/O和内存。
❤️ 网友们还关心 · 列式数据库周边
以下内容来自社区高频讨论,与列式数据库存储原理强相关,帮你建立更完整的知识网络。
? 列式数据库 vs 行数据库 怎么选?
列式适合 批量分析、只读少量列;行式适合 频繁INSERT/UPDATE。例如用户画像系统用列式,订单系统用行式。
热门? 列式数据库的写入性能真的差吗?
是的,因为需要 分别写入多个列文件,且索引维护复杂。但现代列式数据库(如ClickHouse)通过 LSM树 和批量写入优化,已大幅改善。
? 列式数据库如何压缩?
同一列数据类型一致,压缩比极高。常用RLE、字典编码、差分编码。例如性别列只有两种值,压缩后几乎只剩元数据。
? 列式数据库在云原生中的角色
对象存储+列式格式(Parquet)成为数据湖标配。 列式存储 与 计算分离 架构天然契合。
? 示例与场景 · 动手理解
? 查询团队项目参与记录
在列式数据库中,要查“团队里哪些人参与过‘Alpha’项目”,只需扫描 project_name 列,匹配“Alpha”后返回对应行ID,再读取 user_name 列。全程避免读取不相关的 项目描述、时间戳 等列。
- 行式:读取每一整行,过滤出Alpha → 大量I/O浪费。
- 列式:只读两列,速度提升5~10倍。
?️ 图片检索:二进制列扫描
假设存有头像图片(BLOB),要找出所有包含“猫”的图片。列式数据库需读取整个 avatar 列,然后逐张解码比对。这确实慢,但若配合 元数据列(如标签)预过滤,可大幅提速。
启示:列式数据库适合结构化或半结构化数据,纯二进制检索需额外索引。
? 列聚簇字典示例
将一列数据聚簇成“字典页”。例如存储所有用户的 城市 列,将“北京”出现1000次压缩为一个字典条目,极大减少存储。查询时直接操作字典ID,速度飞快。
类似 “拿着字典直接翻到指定页”,无需逐行扫描。
? 1000万行体重查询
列式数据库读取体重列(连续4字节)仅需40MB I/O,行式则需读取假设每行200字节 → 2GB I/O。相差50倍。
? 列排序加速范围查询
按年龄排序后,查“年龄25~35”只需扫描中间连续段,减少90%扫描量。
? 深度拓展:列式数据库的维护成本与未来
列式数据库虽然读取性能卓越,但 维护成本高 是绕不开的话题。由于每一列数据在磁盘上分散分布,写数据时需要一条条写入不同列文件,跨节点分布式场景 下协调开销更大。同时,更新一行数据需要知道所有列的新值,并分别写入,类似查询时的“行分裂”逆过程。
但现代列式数据库通过 LSM-Tree、列族、向量化执行 等技术创新,正在逐步弥补写入短板。例如 Apache Parquet 格式结合 谓词下推 和 统计信息,让列式存储成为大数据分析的事实标准。
网友们还关心 列式数据库是否适合实时OLTP?答案是否定的,但它与 数据仓库、数据湖、机器学习特征存储 紧密相连。未来,HTAP 混合场景将推动列式与行式融合。