跳到正文
MIT Technology Review · AI· Tim Rausch·· 5 小时前AI 评分50

AI 推理的隐藏存储成本:被忽视的数据足迹

AI’s hidden storage bill: What inference leaves behind

AI 导读

AI 推理产生的后端数据存储成本常被忽视,其规模远超用户接收的输出文件。例如,一段 8 秒的 AI 生成视频,用户端文件为 3.97MB,后端却会留下超过 500MB 的数据,相差 130 倍。随着 AI 推理需求以 35% 的年复合增长率增长,企业需为持续累积的模型日志、合成输出等数据规划经济可扩展的存储容量,以支持 RAG 等应用。

来源:MIT Technology Review · AI · technologyreview.com