微信扫码
添加专属顾问
我要投稿
小红书如何用增量计算重构数据架构,实现成本与复杂度双降?揭秘3.5亿用户社区的数据平台进化之路。 核心内容: 1. 小红书业务场景与数据挑战:从社区互动到电商交易的全链路数据需求 2. 架构演进关键:用通用增量计算替代Lambda架构,实现三大成本指标降低1/3 3. 混合云战略实践:完成500PB数据迁移后,向自建云与AI驱动方向持续进化
1. 小红书数据框架的演进
2. 通用增量计算概述
01
小红书数据框架的演进
在小红书 APP 中,用户可以浏览社区笔记、与朋友进行互动、可以观看直播,也可以在商城购买商品,而这些都是强数据驱动的业务。小红书用户的体量以及其业务复杂度超高,因此对其数据平台对应的数据能力有着比较大的挑战。
1. 小红书业务及数据概览
目前,小红书的整体数据平台是采用业界通用的数仓标准和建模方式来进行维护管理的,包括但不限于自建的调度平台、运维平台、资产管理平台、治理平台、报表平台等一系列产品型工具能力,共同辅助数据资产在企业中发挥更大的价值。
其中,价值输出主要分为四类:
第一类是数据分析。例如支持面向高管的报表、支持一线运营及销售的自助分析产品;
第二类是数据产品。例如小红书面向广告主、商家、博主、内部需求方的数据平台;
第三类是数据服务。例如提供给推荐、搜索、算法团队的用户画像以及特征标签等;
第四类是 AI 相关。例如使用 AI 来帮助用户更轻量地获取数据洞察、生成数据报告和给出经营建议等;
2024 年,小红书的基础设施层从 AWS 迁移至阿里云,迁移数据 500PB,任务 11 万,参与人数 1500 人,涉及部门 40 多个,整体的迁移和改造的复杂度创下了业界记录。截至目前,小红书已有部分业务在自建云上试跑,未来将向混合云架构发展。
53AI,企业落地大模型首选服务商
产品:场景落地咨询+大模型应用平台+行业解决方案
承诺:免费POC验证,效果达标后再合作。零风险落地应用大模型,已交付160+中大型企业
2026-04-01
Anthropic "开源"了一份 Agent Infra 创业的工具书
2026-04-01
Claude Code 意外开源后,我终于看清了 Agent 里“延迟曝光”的真正价值
2026-04-01
说说Claude Code源码泄露
2026-04-01
Claude 代码已下架,爆料人身份曝光,他已经连夜重写了一版火速上架
2026-03-31
Claude Code 源码泄漏,全部细节与始末
2026-03-31
突发!Claude Code 源码泄露,扒出这些隐藏功能
2026-03-31
阿里云发布 Agentic OS:首个面向 Agent 的操作系统
2026-03-31
Stripe拿出一份机器支付协议,Agent可以给自己买买买了
2026-01-24
2026-01-10
2026-01-26
2026-01-09
2026-01-09
2026-01-23
2026-01-14
2026-01-07
2026-03-13
2026-01-21
2026-03-31
2026-03-31
2026-03-22
2026-03-22
2026-03-21
2026-03-20
2026-03-19
2026-03-19