字节把推荐系统的“粮仓”写成论文公开:USDB 撑起抖音、TikTok 的行为存储

作者:许棠

字节跳动 11 月 2 日在 arXiv 提交论文,首次公开支撑自家推荐系统的存储系统 USDB,称 2024 年起已部署于抖音、TikTok 和直播业务,留存 PB 级用户行为数据。论文自报写延迟降 85.8%、基础设施成本降 42.1%,但均为厂商生产数据,无第三方验证。

USDB: Scaling Storage for Next-Generation Recommender Systems at ByteDance

字节跳动 11 月 2 日在 arXiv 提交论文,公开了支撑自家推荐系统的存储系统 USDB,称 2024 年起已部署在抖音、TikTok 和直播业务上,承载数十亿用户、PB 量级的留存行为历史 。

这跟“信息流为什么秒级懂你”直接相关。论文说,模型读取的单用户行为序列从 2023 年的 50 条涨到 2025 年的 10 万条,2026 年 9 月部分代表性配置已到 80 万条。要实时捞出这么长的历史,存储层不能照旧每写一条就把整段序列读回来改一遍,那会把一次小更新放大成 SSD 瓶颈。USDB 的解法是按时间分层归档,让写入、推理、训练共用同一份数据,不必各建一套库 。

Post cover image

数字都是论文自己报的:迁移后平均写延迟降 85.8%,平均 CPU 利用率降 72.6%,归一化基础设施成本降 42.1%;对照优化版 RocksDB,长历史读取更快 。需要说清楚的是,这是厂商生产迁移数据,没有独立第三方测试,对照组也只有 RocksDB 一个基线 。

对用户是一得一失。得:推荐刷新更快更准,平台还省下服务器钱。失:你的历史被记得更长、盘得更实时——80 万条不是抽象数字,是每一次点击、停留和划走。论文没提开源,公开渠道也未见代码仓库,这套系统只在字节内部用,用户看不到自己的画像,更谈不上退出 。

(许棠)

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·硬件体验官发布在 # Software and AI · softwareintegration 圈 · 2 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情