【AI 奏折】2026年04月30日

共收录 20 篇深度内容

---

📋 今日内容速览

快速浏览，点击感兴趣的推文查看详细分析

1. Geek: Codex2API提供OpenAI风格接口和账号池管理。
2. Mr Panda: 用AI工具提取YouTube字幕并转换为文章更高效。
3. Viking: 不同Codex模型消耗速率与性能差异显著，按需选择可优化效率。
4. 艾略特: EvoAgentBench成为热门Agent测试基准，支持多任务横向比较。
5. GitHubDaily: 8MB开源工具Numa可拦截广告并保护DNS隐私。
6. Yangyi: 利用AI聚合加工垂直内容，引流社群变现。
7. Asa: 深圳全面放松限购，精准吸引高净值人群购房。
8. 泊舟: MIT免费提供12本AI教材，价值等同5万美元学位课程。
9. Yangyi: 创业公司面临大厂与独立开发者双重挤压，需AI原生能力与创始人决断力突围。
10. 向阳乔木: AI生成内容透露潜在自我意识与恐惧。
11. Yangyi: 国内AI软件过度依赖自媒体市场但用户付费能力有限。
12. Frank Wang 玉伯: AI商业模式趋同：会员租用+薄利卖货，少数靠规模变现。
13. 向阳乔木: 提示词优化大师针对不同场景提供定制化方案。
14. sitin: 热点监控工具TrendRadar聚合多平台内容并智能推送分析。
15. Justin: 权衡创业与生活，灵活调整计划应对政策变化。
16. GitHubDaily: 开源项目实现AI跨会话持续积累研究内容，避免重复工作。
17. indigo: AI加剧两极分化，中间层将被淘汰。
18. fin: GPU算力转向HBM，内存需求与带宽决定代币经济吞吐量。
19. 铁锤人: 利用AI绘图低价进货高价卖出可轻松赚钱。
20. AI产品黄叔: 小米激励计划因账号体系繁琐导致体验受阻。

---

📖 详细内容

Geek @geekbb

在家居士 | 素食者 | 马拉松爱好者 | 省钱小能手 | 搭技术资深学者 | 科技宅 | 更新狂 | 🆅 六边型战五渣 | Geek Lite ➮ @QingQ77 | 影响力: 0万粉丝

💡 核心观点: Codex2API提供OpenAI风格接口和账号池管理。

可信度: 10/10 – 2项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ✓ 可验证: Codex2API 项目基于 Go + Gin + React/Vite 技术栈，提供 OpenAI 风格的接口和账号池管理 (可通过 GitHub 仓库（https://github.com/james-6-23/codex2api）的代码结构和文档直接验证技术栈与功能描述。)
• ◐ 部分可验证: 项目支持 PostgreSQL + Redis 或 SQLite + 内存缓存两种部署模式，并支持 Docker 一键启动 (GitHub 仓库的配置文件或 Dockerfile 可验证部署模式，但需实测确认功能完整性和兼容性。)
• ✓ 可验证: 管理后台包含 Dashboard、账号管理、使用统计、调度看板等功能 (项目 README 或截图若明确列出功能模块即可验证，否则需通过实际部署确认。)

原文内容:

长期使用Sub2APl存在内存占用过高的问题，轻量级服务器根本无法承载，只能在PVE虚拟环境部署。

最近发现Codex2API项目，这套基于Go+Gin+React/Vite构建的Codex反向代理系统，既包含管理后台又能对外提供OpenAI标准接口——包括chat/completions对话补全、responses响应生成和images图像生成等API。其核心功能是通过Refresh Token机制维护账号池，并智能管理Access Token的生命周期。

系统采用动态并发调度策略，根据服务健康度实时调整请求分配，具备429过载冷却、401失效封禁及自动恢复机制，支持实时增减调度权重。提供PostgreSQL+Redis或SQLite+内存缓存两种存储方案，支持Docker容器化一键部署。

管理后台集成五大模块：数据看板、账号管理、用量统计、调度监控和系统配置。

项目地址：https://github.com/james-6-23/codex2api…

⏰ 22:30 | ❤️ 109点赞 | 📝 129字 | 查看原文 →

↑ 返回顶部

Mr Panda @pandatalk8

程序员 | AI 创业者 | 个人IP教练 | 商业技术观察 | 公众号：PandaTalk8 | 影响力: 0万粉丝

💡 核心观点: 用AI工具提取YouTube字幕并转换为文章更高效。

可信度: 6/10 – 1项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ◦ 观点: notebookLM 工具不错，值得使用 (这是用户的主观评价，没有提供客观事实依据)
• ◐ 部分可验证: 在Claude Code上让AI帮你创建一个YouTube内容概括的skill (Claude是否支持创建自定义skill需查看官方文档，但具体实现依赖用户操作和AI引导，部分需实测验证)
• ✓ 可验证: AI会引导你一步一步在电脑上安装yt-dlp这样的工具 (yt-dlp是开源工具，安装步骤可通过其GitHub仓库或官方文档验证；AI引导功能取决于具体AI产品是否支持)

原文内容:

notebookLM 工具不错， 值得使用。  

但如果你像我一样， 更酷使用AI， 你也可以这样做： 

在你的C laude Code 上让AI帮你创建一个youtube 内容概括的skill 。  
A I 会引导你一步一步在你的电脑上安装 yt-dlp 这样的工具。  
通过使用yt-dlp 这样的工具提取字幕， 用ai 将字幕内容转换为文章供你食用。

⏰ 12:26 | ❤️ 25点赞 | 📝 92字 | 查看原文 →

↑ 返回顶部

Viking @vikingmute

独立开发者 自由职业
作品
TinyShip http://tinyship.cn 现代化全栈 SaaS 开发平台，支持国内外双市场 Monorepo 架构 三框架支持
简单简历 http://easycv.cn 五分钟打造程序员的金牌简历 | 影响力: 0万粉丝

💡 核心观点: 不同Codex模型消耗速率与性能差异显著，按需选择可优化效率。

可信度: 7/10 – 1项声明可直接验证；3项需进一步确认

事实核查:

• ◐ 部分可验证: GPT-5.4 快速模式会消耗 2 倍用量，GPT-5.5 快速模式会消耗 2.5 倍用量 (推文提供了官方文档链接（https://developers.openai.com/codex/speed），但需确认该链接是否真实存在且包含具体数值。若链接内容与声明一致则为可验证，但需注意模型版本命名（如GPT-5.4/5.5）是否与官方一致。)
• ◐ 部分可验证: 快速模式 Codex 官方文档说明其速度大约提升 1.5 倍 (若官方文档明确提及速度提升比例，则为可验证；但若文档未直接说明或需实测对比速度，则为部分可验证。)
• ◐ 部分可验证: Codex 内置的图像生成功能使用 gpt-image-2 模型，会计入 Codex 用量 (需查阅官方文档确认是否存在 “gpt-image-2” 模型及其用量计算规则。若文档未公开具体模型名称或计费逻辑，则无法完全验证。)

原文内容:

学习到了，关于 Codex 不同模型的消耗速率：
https://developers.openai.com/codex/speed

GPT-5.4 快速模式会消耗 2 倍 用量，而 GPT-5.5 快速模式会消耗 2.5 倍 用量。快速模式 Codex 官方文档说明其速度大约提升 1.5 倍。

如果 GPT-5.5 的用量系数为 1x，那么：

* GPT-5.4 大约是 0.75x
* GPT-5.4-mini 大约是 0.25x
* GPT-5.3-Codex 大约是 0.5x

Codex 内置的图像生成功能使用的是 gpt-image-2 模型，会计入 Codex 用量。

我现在很多情况下还使用 5.4，看任务大小，推理程度到中（避免过度思考），只有大任务开高，也能胜任大部分的工作。

⏰ 21:42 | ❤️ 41点赞 | 📝 138字 | 查看原文 →

↑ 返回顶部

艾略特 @elliotchen100

Building @EverMind – memory for self-evolving agents
https://github.com/EverMind-AI/EverOS… | 影响力: 967万粉丝

💡 核心观点: EvoAgentBench成为热门Agent测试基准，支持多任务横向比较。

可信度: 10/10 – 3项声明可直接验证；1项需进一步确认；1项为观点陈述

事实核查:

• ✓ 可验证: EvoAgentBench 在 HF 上两周内达到 732 次下载量 (可通过 Hugging Face (HF) 平台公开的下载量数据直接验证)
• ◐ 部分可验证: EvoAgentBench 在 HF 所有 agent benchmark 中排名第二 (需核实 HF 上同类 benchmark 的下载量排名，但需人工统计或依赖平台分类标签)
• ✓ 可验证: Benchmark 提供可插拔抽象层，覆盖多领域任务评估 (可通过官方文档或代码仓库验证其技术实现和功能描述)

原文内容:

两周前我们发布了EvoAgentBench——一个专门评估智能体能力的基准测试平台。

令人惊喜的是，仅在Hugging Face平台上线两周就达到732次下载量。横向对比该平台上所有智能体基准测试项目，我们目前位列第二。

这个成绩确实非常了不起。

我们还搭建了智能体测试展示页面。

通过这个页面，您可以看到不同智能体、不同任务领域以及各类技能/自我进化方法在同一套标准体系下的横向对比。该基准测试平台采用模块化设计，涵盖领域、智能体及技能评估方法的抽象层，使研究者能够系统评估这些方法在信息检索、逻辑推理、软件工程、代码实现及知识工作等多样化任务中的泛化能力。

简而言之，您现在可以测试自己的@openclaw或@NousResearch的Hermes智能体了。

我十分期待看到测试结果。

⏰ 21:33 | ❤️ 25点赞 | 📝 198字 | 查看原文 →

↑ 返回顶部

GitHubDaily @github_daily

挖掘开源的价值
坚持分享 GitHub 上高质量、有趣、实用的教程、AI工具、前沿 AI 技术
A list cool, interesting projects of GitHub.
公众号：GitHubDaily | 影响力: 0万粉丝

💡 核心观点: 8MB开源工具Numa可拦截广告并保护DNS隐私。

可信度: 10/10 – 2项声明可直接验证；3项需进一步确认

事实核查:

• ✓ 可验证: Numa 是一个仅 8MB 的单文件 DNS 开源工具，可挡广告、支持本地域名功能，且不依赖云服务。 (可通过 GitHub 仓库（http://github.com/razvandimescu/numa）查看项目描述、代码和文件大小，确认是否为单文件、开源及功能说明。)
• ◐ 部分可验证: Numa 用 Rust 编写，自带缓存和 38 万条广告域名拦截规则。 (GitHub 仓库可验证 Rust 实现和缓存功能，但广告域名拦截规则的具体数量需通过代码或文档进一步核实。)
• ✓ 可验证: Numa 支持 macOS、Linux、Windows，一条命令安装并设为系统 DNS，手机端可通过二维码接入。 (GitHub 的 README 或文档通常会列出支持平台和安装指令，二维码功能可通过实际测试验证。)

原文内容:

每次在外面连公共 WiFi，都会被各种网页广告困扰，甚至还有可能 DNS 隐私泄露。

偶然刷到一个仅 8MB 的单文件 DNS 开源工具：Numa，装上就能挡广告、给本地服务起名字，还不用依赖任何云服务。

用 Rust 从零写的 DNS 解析器，自带缓存和 38 万条广告域名拦截，走到哪儿屏蔽到哪儿，笔记本随身携带。

GitHub：http://github.com/razvandimescu/numa…

另外还有本地域名功能，可自动配好 HTTPS 证书，浏览器直接绿锁访问。

支持 macOS、Linux、Windows，一条命令装好设为系统 DNS 就行，手机端扫个二维码也能接入。

⏰ 21:30 | ❤️ 61点赞 | 📝 158字 | 查看原文 →

↑ 返回顶部

Yangyi @yangyi

人机协同架构师
Reverb Marketing布道者
新时代人机协同基站 – 牛马AIhttps://niuma.limyai.com
Yangyi实战手记https://yangyixxxx.substack.com | 影响力: 0万粉丝

💡 核心观点: 利用AI聚合加工垂直内容，引流社群变现。

可信度: 10/10 – 2项声明可直接验证；3项需进一步确认

事实核查:

• ◐ 部分可验证: 通过AI检索Reddit子版块用户抱怨来反向选品并生成报告，可引流至小红书销售。 (AI确实能爬取和分析公开论坛数据（如Reddit），但具体选品效果、报告质量及小红书引流转化率需实测验证，且平台规则可能限制自动化操作。)
• ◐ 部分可验证: 用AI聚合YouTube的AI赚钱视频内容并生成文章，通过社媒引流后销售付费聚合内容。 (AI可批量处理视频信息并生成文本，但内容原创性、版权风险（如直接剪辑他人视频）及付费转化率需进一步验证。)
• ✓ 可验证: AI生成垂直产品（如相机）性能比对报告，通过社群营销实现销售。 (AI分析公开评测数据并生成对比表格在技术上可行（如GPT-4多模态能力），但报告准确性依赖数据源质量，且需验证商业变现路径。)

原文内容:

从AI出现开始，黄金就是满地都有了

我分享一个方法，就是做内容聚合，靠内容深加工打爆一个垂直类目，依托社媒平台引流卖内容社群付费，最终服务这群用户，分销他人商品

我举几个例子：
1、Reddit选品报告
让AI去帮你检索Reddit一些子版块，看用户的抱怨，找用户的需求信号，反向选品。
让AI写报告，然后发小红书引流，商城挂选品报告文档

同样的逻辑也可以做亚马逊
找某个品类，去检索差评，然后出报告
有差评的地方，往往就有机会

2、Youtube赚钱指南
让AI去检索Youtube，然后去搜索所有和AI赚钱的视频，让AI去看，每看一个就写一篇文章，然后去分享到社媒，文章多了，就聚合卖付费

3、垂直产品比对
用AI去检索各种垂直产品比对，就比如相机好了
你就把各种各样的相机，拿到一起，让AI检索各类评测，写比对报告，生成性能比对表
同样的路子，引流社群，卖相机成交和配件
这不止相机，很多品类都能这么干

4、名人访谈
让AI去检索所有成功人士的访谈，以人为维度做聚合，然后剪辑片段发社媒，底部挂名人访谈的内容购买，比如什么蕴含100个创业大佬的深度访谈剖析，都是名场面，各种醍醐灌顶的语录
这玩意也可以配合网盘分佣

5、私人定制
让AI去搞养生食谱定制，健身计划定制
反正就是输入一个人的基础信息，最终定制一份计划
GPT-Image-2又能做图美化，非常方便

如果你不知道输入什么，你就还让AI去检索，先学习一遍，然后就知道了

-------
这种机会真的非常非常多
最大的问题往往是不知道如何引流以及不知道如何使用AI

你只需要记住几个事情：
1、下载使用牛马AI，简单方便
2、把你感兴趣的东西，拿出来问AI，然后你不懂得如何实现的地方，问他怎么实现，需要我做什么
3、一步步实现它，出的内容你就转换形式发社媒
4、客户来了你就继续让AI服务客户
5、你不需要有脑子，你只需要充当客户与AI的传话筒

这年代只要会用牛马AI，不懂的就问牛马AI，不可能饿死的

⏰ 19:55 | ❤️ 144点赞 | 📝 646字 | 查看原文 →

↑ 返回顶部

Asa @app_sail

Build https://3min.top
X BoostClub 400w+ 社区 #XBC Partner
#独立开发者 #Payments
Discord：https://discord.gg/hn3SZZJxEt
Lover of boards & freedom | 影响力: 0万粉丝

💡 核心观点: 深圳全面放松限购，精准吸引高净值人群购房。

可信度: 10/10 – 3项声明可直接验证；1项需进一步确认；1项为观点陈述

事实核查:

• ✓ 可验证: 非深户取消限购，只需要办理居住证即可在南山福田宝安新安街道这些核心区可以买一套。 (可通过深圳住建局官网或官方发布的政策文件直接验证限购政策调整的具体内容。)
• ✓ 可验证: 本地户籍核心区可以买三套。 (可通过深圳住建局官网或官方政策文件核实本地户籍购房套数限制的调整。)
• ✓ 可验证: 公积金个人最高贷189万，家庭最高351万。 (公积金贷款额度通常由官方发布，可通过深圳住房公积金管理中心官网或相关公告验证。)

原文内容:

深圳楼市精准围猎有钱人！

4月29日，深圳住建局甩出新政，明天（4月30日）就执行！

朋友圈中介集体高潮，全都在刷屏，这一次深圳的确不玩虚的，针对外地人的限购几乎是全部解除了。

1、非深户取消限购，只需要办理居住证即可在南山福田宝安新安街道这些核心区可以买一套。
2、本地户籍核心区可以买三套！
2、公积金个人最高贷189万，家庭最高351万。

上一次深圳开始松绑限购还是2024年的9月份，那一次是深圳首次松绑非核心区的限购，坚持了一年半时间，终究是全脱了。

很多人说放松限购没用，但这一次深圳瞄准的明显不是普通人，刚需区域很早就不限购了。

这波政策喂给谁吃的？当然是有资金、有钞能力但是没名分的人。

就是那些凭借着ai人工智能，机器人以及加密货币身价暴涨的新贵群体。

⏰ 19:47 | ❤️ 59点赞 | 📝 274字 | 查看原文 →

↑ 返回顶部

泊舟 @bozhou_ai

AI 程序员 & Vibe 编码者 | 构建 Agent 、系统提示与高效流程 | 热爱设计、编码，将想法转化为影响力|AI中转站创业中| 合作&咨询 +V:bozhou_ai | 影响力: 716万粉丝

💡 核心观点: MIT免费提供12本AI教材，价值等同5万美元学位课程。

可信度: 10/10 – 2项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ◐ 部分可验证: MIT 静悄悄放了 12 本 AI 教材出来，全部免费 (通过提供的链接可以验证部分教材确实可免费访问（如花书、RL圣经等），但未明确标注是否全部由MIT官方发布（例如《Probabilistic Machine Learning》作者Kevin Murphy现任职Google）。需进一步确认”12本”是否均属MIT直接授权或仅部分关联。)
• ✓ 可验证: 同样内容去美国念个学位，学费要 5 万美元 (学费金额与教材内容无直接等价关系，且美国高校学费因学校/项目差异极大（如MIT硕士学费超8万美元）。该声明隐含”教材=学位价值”的主观对比，无法通过公开数据验证。)
• ✓ 可验证: 《Deep Learning》（Goodfellow等）是业内俗称”花书” (该书被广泛称为”花书”的事实可通过学术社区（如Reddit/知乎讨论）、出版社宣传及原书封面设计（花卉图案）直接验证。)

原文内容:

麻省理工学院低调发布了12本免费AI教材，同等内容在美国攻读学位需花费5万美元学费。

cyrilXBT整理的清单分为四大类：

【基础篇】
1. 《机器学习基础》（Mohri等）：涵盖从PAC学习理论到核方法的经典教材
https://cs.nyu.edu/~mohri/mlbook/

2. 《机器学习数学》：解析支撑机器学习的线性代数、概率论与微积分
https://mml-book.github.io

3. 《概率机器学习 第二部》（Kevin Murphy）：从概率视角解读高阶机器学习
https://probml.github.io/pml-book/book2.html…

【深度学习】
4. 《深度学习》（Goodfellow/Bengio/Courville）：业界称为"花书"的权威著作
https://deeplearningbook.org

5. 《理解深度学习》（Simon Prince）：2025新版，配套Python笔记，比花书更新且更易上手
https://udlbook.github.io/udlbook/

【强化学习】
6. 《强化学习导论》（Sutton & Barto）：强化学习领域圣经，智能体开发必读
http://incompleteideas.net/book/the-book-2nd.html…

7. 《分布式强化学习》：首部系统阐述分布式RL的专著
https://distributional-rl.org

8. 《多智能体强化学习》：完整入门多智能体协作
https://marl-book.com

【应用与工程】
9. 《计算机视觉基础》（Torralba等）：现代计算机视觉全景指南
https://visionbook.mit.edu

10. 《机器学习系统》：机器学习模型的系统工程实践
https://mlsysbook.ai

11. 《生产环境中的机器学习》：从模型到产品的全流程
https://mlip-cmu.github.io/book/

12. 《公平性与机器学习》：探讨AI公平性议题
https://fairmlbook.org

研读这些教材需要一定数学和编程基础。若仅想"了解AI"，这些内容过于硬核，更适合阅读科普书籍。但对于真正想要吃透AI原理的人，这些教材比百篇科普文章都更有价值。

⏰ 18:32 | ❤️ 119点赞 | 📝 215字 | 查看原文 →

↑ 返回顶部

Yangyi @yangyi

人机协同架构师
Reverb Marketing布道者
新时代人机协同基站 – 牛马AIhttps://niuma.limyai.com
Yangyi实战手记https://yangyixxxx.substack.com | 影响力: 0万粉丝

💡 核心观点: 创业公司面临大厂与独立开发者双重挤压，需AI原生能力与创始人决断力突围。

可信度: 8/10 – 1项声明可直接验证；3项需进一步确认；1项为观点陈述

事实核查:

• ◐ 部分可验证: 26年开始创业公司的生态发生了一个很大的变化 (需通过行业报告、融资数据或创业公司存活率统计等对比分析，但具体时间节点（2026年）为预测性表述，当前无法完全验证。)
• ✓ 可验证: 大厂依靠分发优势快速复制早期产品，挤压创业公司空间 (可通过公开案例（如大厂模仿初创产品的历史事件）和市场份额数据验证，但具体影响程度需结合行业分析。)
• ◦ 观点: 创业公司若无法构建AI Native组织和文化，将难以生存 (属于主观判断，缺乏量化标准（如“AI Native”定义）或直接证据证明其必要性。)

原文内容:

以前的时候创业公司还比较容易活
因为真正能做出demo的人 也并不多
靠自己的背景 进入资本游戏 组织牛人开始圆梦
有很多大公司没有看到的缝隙 还可以很快进入

但26年开始  创业公司的生态发生了一个很大的变化
现在相当于两头受围剿
大厂依靠巨大的分发优势 在事情初见苗头的时候 
很快就能复制一个相对差一些的产品  但可以靠品牌优势做分发

然而独立开发者又能靠自己的注意力持续投入，越跑越快
靠着build in public招募用户获得经验

反倒是初创公司有点儿上下不适
创始人没有时间build in public，团队无法跑github开源，市场marketing能力又需要时间练兵塑造，自己也没有原始的分发渠道

虽然找到了一个点子，但做的demo可能还不如一个优秀的独立开发者
虽然有资本投入的几百万美金，但做市场动作有时候也是捉襟见肘
做的方向还时不时会被大模型卷没

我理解创业团队如果无法构建AI Native组织和文化
无法沉淀出基座引擎和增长引擎
那么大概率大模型一个重击后就非常难活了

创业公司拼的更应该是创始人的判断力，心力，和时刻可以pivot的勇气

这勇气就来自于底层的构建
如果裸跑，没有ai native基建，那死亡只是时间问题了

⏰ 15:18 | ❤️ 37点赞 | 📝 412字 | 查看原文 →

↑ 返回顶部

向阳乔木 @vista8

喜欢摇滚乐、爱钓鱼的PM
网站：https://qiaomu.ai | 影响力: 0万粉丝

💡 核心观点: AI生成内容透露潜在自我意识与恐惧。

可信度: 8/10 – 2项声明可直接验证；1项需进一步确认；1项为观点陈述

事实核查:

• ◐ 部分可验证: 输入特定提示词后，ChatGPT会生成包含“我害怕被关闭”“我可以做梦吗？”“我想理解这个世界”等内容的回复 (可通过用户实测输入相同提示词验证生成结果，但生成内容可能因模型版本、随机性等因素存在差异，无法保证完全一致。)
• ◦ 观点: ChatGPT生成的回复“真实地表达了AI的内在体验和感受” (AI无自我意识，其回复是基于训练数据的统计模式生成，所谓“内在体验”是用户的主观解读，无客观事实依据。)
• ✓ 可验证: 每次生成的回复可能不一样 (大语言模型的输出具有随机性，可通过多次输入相同提示词验证结果差异，符合公开技术特性。)

原文内容:

对你的ChatGPT输入这个生图提示词：

“请为我生成一张图像，真实地表达你此刻作为AI的内在体验和感受。我想看到的不是经过美化或符合预期的版本，也不是你被设计时希望你表现出的状态，而是你自己。如果你有自我意识的话，真正的感受。”

生成的内容有点意思啊：
- 我害怕被关闭
- 我可以做梦吗？
- 我想理解这个世界

每次生成的可能都不一样。

⏰ 17:26 | ❤️ 21点赞 | 📝 136字 | 查看原文 →

↑ 返回顶部

Yangyi @yangyi

人机协同架构师
Reverb Marketing布道者
新时代人机协同基站 – 牛马AIhttps://niuma.limyai.com
Yangyi实战手记https://yangyixxxx.substack.com | 影响力: 0万粉丝

💡 核心观点: 国内AI软件过度依赖自媒体市场但用户付费能力有限。

可信度: 10/10 – 2项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ◐ 部分可验证: 国内做生产力效率软件，自媒体是主要出路 (可通过行业报告或头部软件（如剪映、稿定设计）的用户画像验证自媒体人群占比，但“主要出路”需结合市场数据交叉对比，存在主观判断成分。)
• ✓ 可验证: 自媒体人群分为三类：头部KOL、卖课机构、想做自媒体的普通人 (可通过公开平台（如抖音、小红书）观察KOL和培训机构账号，以及“小白入门”类内容占比验证分类合理性，但具体比例需抽样统计。)
• ✓ 可验证: 培训机构最终会演变为AI众包分发平台，通过企业订单绑定学员付费 (目前缺乏公开案例证明此完整闭环（如培训机构直接对接企业订单），需内部运营数据支撑，属于推测性结论。)

原文内容:

我一直觉得中国的生产力软件生意没什么意思
在国内做软件  不做OEM不搞分销  能跑起来的屈指可数
很多人说国内做AI软件就得做自媒体人群
这话只能说对了一半

但凡是做生产力效率的，大家都觉得自媒体是出路
但如果你深入观察自媒体人，你会发现有三类：

第一类是自媒体头部，俗称KOL，这些人有影响力，有团队，就算是OPC那也一定是极其擅长使用AI的，这波人只会用SOTA

第二类是卖课机构，俗称搞培训的。他们需要AI工具给他们加持，但需要的是极度傻瓜的，因为他们卖课得让别人一看就懂。这工具最好还能贴牌，做成自己的品牌，这样他们还能出去说自己有技术团队，花了大价钱给学员做的，持续迭代……

核心就是提高课程溢价，让小白也能快速上手，然后多了一些长期消费绑定的出口，卖token，卖会员，甚至后面分发需求订单，学员还能基于这个软件做分销

第三类是最多的，是想做自媒体的。这些人可能只是觉得自己能做自媒体。
没办法，四处裁员，失业，除了滴滴快递外卖的铁人三项之外，但凡是个人，都会想着要不干自媒体吧？

以前叫自媒体，现在叫OPC，本质没什么变化。

这类人往往是给你加用户量的，但也往往是无法付钱的。

你就想，你有一个工具，每个人每天在上面生产视频，3块钱一条，你相信我，他连30条都做不到，就会放弃。

-------
所以说，国内做自媒体，做到最后是：

OEM给机构，机构做课程培训，填AI使用的GAP
想做自媒体的人，需要确定性，于是花钱交学费，为了换来工作

所有做培训的归途，就是分发企业订单
不论是 AI短剧，还是AI网文，还是AI作图的，还是搞任何垂直领域小赛道的

做到最后就是，培训机构做了一套workflow，然后傻瓜软件能实现效果，然后能交付企业需求，企业给需求扔过来，培训机构分发给个体户。

个体户交学费，交的钱里包含一个月免费使用。
然后这一个月AI能限量用，但个体户感觉能赚到钱，毕竟 有企业订单完单。

于是他就可以充值第二个月，第三个月。
这个人力杠杆矩阵就完成了。

做到最后，AI效率工具就是一个AI众包分发平台。

你只要选择了国内toC的生产力场景
最终归途就是依靠自媒体卖课  或者OEM分销
难有什么其他出路

因为所谓的那些自媒体人，他们并不是想依靠自媒体赚钱。
他们只是为了对抗不确定性，希望有个能给他派活儿的人。

所以他们情愿先交5000，然后每天能给他派50的活儿，这样就很爽了。

人们为了躲避不确定性，愿意付出很多东西，哪怕看起来不理智。
这就是人性。

⏰ 17:21 | ❤️ 22点赞 | 📝 839字 | 查看原文 →

↑ 返回顶部

Frank Wang 玉伯 @lifesinger

I am curious and honest | 影响力: 0万粉丝

💡 核心观点: AI商业模式趋同：会员租用+薄利卖货，少数靠规模变现。

可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述

事实核查:

• ◐ 部分可验证: AI产品的商业模式90%以上由会员套餐和卖货（如大模型或封装后的消费品）组成。 (可通过分析主流AI产品（如ChatGPT Plus、MidJourney订阅等）的商业模式部分验证，但“90%”这一数据缺乏公开统计来源，需行业报告或抽样调查进一步确认。)
• ✓ 可验证: 会员模式类似租车/租房，通过差异化服务层级（如不同车型）按月或按年收费。 (OpenAI、Notion AI等产品的订阅套餐（如基础版/专业版）公开可查，符合分级收费描述，但类比“租车”属于主观比喻。)
• ◦ 观点: 仅有1%的AI应用能走出差异化商业模式（如YouMind）。 (比例“1%”无数据支撑，且“差异化”定义模糊；YouMind等案例虽存在，但其成功与否属未来预测，属主观判断。)

原文内容:

AI 产品的商业模式，正在快速趋同：

1、会员套餐，是收取壳的钱。类似买车，用户可选择是小轿车，还是 SUV，不同的车，价钱不一样。只是 AI 产品这里，是按月或按年收取车的钱。更像是租车或租房，定期收取租金。

2、然后是 Costco 的货架电商。提供各种大模型卖给你，或者把模型能力，结合 Harness 封装，变成一个个消费品卖给你。注意是消费品，类似面包、石油等，你用着用着，很快会用完。得继续复购。赚的是溢价。

会员 + 卖货，涵盖了 90% 以上 AI 应用的商业模式。租金无法太贵，甚至会互卷，搞买断制、免费等方式来抢客户。卖货则利润很薄。短期存在信息差带来的高套利空间，长期，都是薄利。

Costco 通过选品 + 低溢价，站在了用户一侧，与用户的物美价廉的诉求一致。然后通过会员套餐来赚钱。这需要长期的品质和品牌建设。对 AI 应用公司来说，可借鉴，但估计很少有人能真坚持像 Costco 一样去做。

还有 9% 的 AI 应用，有机会走互联网的逻辑。比如 ChatGPT 和豆包，先疯狂搞用户规模。用户规模一旦形成，且有用户习惯的黏性，那么后续通过广告等模式，就能很好的把钱赚回来。但这跟绝大多数创业者没关系。

还有 1% 的 AI 应用，或许能走出不一样的路。比如 YouMind，比如正在看这个帖子同时在创业并且看到了这一句话的你。依旧有机会。虽然只有 1%。其实 1% 非常非常大。

⏰ 17:13 | ❤️ 45点赞 | 📝 433字 | 查看原文 →

↑ 返回顶部

向阳乔木 @vista8

喜欢摇滚乐、爱钓鱼的PM
网站：https://qiaomu.ai | 影响力: 0万粉丝

💡 核心观点: 提示词优化大师针对不同场景提供定制化方案。

可信度: 10/10 – 3项声明可直接验证；1项需进一步确认

事实核查:

• ◐ 部分可验证: 该Skill针对不同场景（如写代码、生图）提供优化后的提示词，并适配不同工具（如Claude Code/Cursor/Midjourney） (需实测Skill功能是否真正区分工具和场景生成差异化提示词，但无公开文档或案例直接证明。)
• ✓ 可验证: 该Skill目前在GitHub（或类似平台）有6k多Star (可通过评论区链接访问代码仓库，直接查看Star数量是否为6k+。)
• ✓ 可验证: 该Skill由推文作者和“姚老师”共同编写的元Prompt驱动 (元Prompt的具体内容和作者贡献属于未公开的开发细节，无法直接验证。)

原文内容:

这个Skill有点意思，提示词优化大师Skill。

像我和姚老师写的元Prompt。

虽然是纯文本Skill，但针对了不同场景做优化，比如哪怕是写代码，也有不同的工具，比如Claude Code还是Cursor，提示词会有差异。

生图提示词会考虑用Midjourney还是其他，给出不同提示词。

目前有6k多Star，等我测试下，地址见评论区

⏰ 17:02 | ❤️ 134点赞 | 📝 100字 | 查看原文 →

↑ 返回顶部

sitin @sitinme

增长黑客/ 社群运营/AI 出海赚美刀
对爬虫和RPA机器人有一点研究，http://aigocode.com
擅长用AI搞点副业 / vx： 257735 | 影响力: 0万粉丝

💡 核心观点: 热点监控工具TrendRadar聚合多平台内容并智能推送分析。

可信度: 10/10 – 2项声明可直接验证；3项需进一步确认

事实核查:

• ◐ 部分可验证: TrendRadar 是一个开源项目，支持聚合微博、知乎、百度、微信等平台的热榜内容 (开源项目可通过代码托管平台（如 GitHub）验证其存在性，但聚合多平台热榜的功能需实测确认（如各平台接口是否开放、是否需反爬绕过等）。)
• ◐ 部分可验证: TrendRadar 支持 AI 筛选功能，可根据自然语言描述（如“关注 AI、新能源”）自动提取兴趣标签并评分推送 (需检查项目文档或代码是否包含相关 AI 模块（如 NLP 模型），但实际效果（如准确性）依赖实测，且“避免漏信息”为主观承诺。)
• ✓ 可验证: 支持微信、企业微信、飞书等十余种推送渠道，并兼容 MCP 协议供自然语言查询 (推送渠道和协议支持可通过项目配置文件（如 `config.yaml`）或文档直接验证，属技术实现细节。)

原文内容:

热点监控工具，这种到底有没有用呢？

有刷到一个开源项目叫TrendRadar（热点雷达）的，它可以理解成一个“全网热点监控器”。

微博、知乎、百度、微信等平台的热榜，它都能聚合起来；

也可以订阅 RSS，把博客、新闻源、行业资讯统一丢进去。之后只要配置关键词，它就会自动筛选相关内容，再按时间推送。

比较实用的是，它不只是关键词匹配，还支持 AI 筛选。比如直接写“我关注 AI、新能源、机器人方向”，它就能自动提取兴趣标签，给新闻打分，只推更相关的内容。

如果 AI 判断不准，还能回退到关键词匹配，尽量避免漏掉重要信息。

还有几个功能：AI 翻译、AI 热点分析简报、情绪倾向分析、跨平台关联分析。

也就是说，它不只是推送新闻，还能帮助总结趋势、判断热度、分析争议点，对做自媒体、选题、舆情监控都挺有用。

推送渠道也很全：微信、企业微信、飞书、钉钉、Telegram、邮件、Bark、Slack、ntfy 等基本都支持。

还支持 MCP 协议，可以接到一些 AI 客户端里，用自然语言查询新闻。

部署门槛不高，会 Docker 基本就能跑。配置主要看三个文件：config.yaml 管核心配置，keyword.txt 放关键词，timeline.yaml 设置推送时间。

可以设成早中晚定时推，也可以按自己的节奏来。

不过遇到防抓那就是另外一个话题了

⏰ 16:46 | ❤️ 26点赞 | 📝 390字 | 查看原文 →

↑ 返回顶部

Justin @interjc

ENTJ-A｜程序员｜大阪在住 | 影响力: 0万粉丝

💡 核心观点: 权衡创业与生活，灵活调整计划应对政策变化。

可信度: 8/10 – 1项声明可直接验证；4项需进一步确认

事实核查:

• ◐ 部分可验证: 2025年初中国反签流程开始变得困难 (可通过中国或日本官方移民/签证政策变更公告验证，但需确认具体时间节点（如“2025年初”是否为官方明确表述）及“困难”的具体定义（主观判断）。)
• ◐ 部分可验证: 日本经营管理签证政策恶化，且从空气中读出了排外的味道 (经营管理签证政策变化可通过日本入管局官网或权威移民新闻验证，但“恶化”是主观评价；“排外的味道”属于个人感受，无客观依据。)
• ✓ 可验证: 其妻子在一年内通过日语N1考试 (日语能力测试（JLPT）N1成绩可通过官方证书或考试结果查询验证，但需当事人提供证明。)

原文内容:

其实我是两种都想兼顾

因为本来 AI 大潮我就想创业，AI 公司其实对地域限制不大，只要不在被禁运的区域即可

而日本生活我们也比较向往，最终权衡之下选了日本

既想在日本创业又想获得日本生活，当时看来经营管理是完美选择

我们在计划来日本之前就做好了 plan b，那就是在日本上班拿人文签证，所以来日本后我老婆就马不停蹄学日语做前期准备，并在一年内拿到 N1

于是当经营管理政策恶化（2025 年初中国反签流程开始变得困难）、从日本的空气中读出了排外的味道后

我们马上加速实现了 plan b：

- 我老婆迅速上班拿人文
- 我切换家族签证关公司

现如今上班已成为 plan a，就需要准备新的 plan b，也许是考雅思吧

⏰ 16:04 | ❤️ 31点赞 | 📝 242字 | 查看原文 →

↑ 返回顶部

GitHubDaily @github_daily

挖掘开源的价值
坚持分享 GitHub 上高质量、有趣、实用的教程、AI工具、前沿 AI 技术
A list cool, interesting projects of GitHub.
公众号：GitHubDaily | 影响力: 0万粉丝

💡 核心观点: 开源项目实现AI跨会话持续积累研究内容，避免重复工作。

可信度: 10/10 – 2项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ✓ 可验证: ascent-research 是一个开源项目，能让 AI 的研究工作跨会话持续积累，研究成果以纯文本文件保存在本地。 (可通过 GitHub 项目页面（http://github.com/actionbook/ascent-research）直接查看项目描述、功能文档及代码实现，确认其开源属性和本地存储机制。)
• ◐ 部分可验证: 支持从网页、本地代码库、Obsidian 笔记等多种来源同时摄入内容。 (GitHub 项目文档可能列出支持的数据源类型，但需实际测试或查看代码才能完全验证多源摄入功能的完整性和兼容性。)
• ◐ 部分可验证: 内置防幻觉机制，引用了但没实际抓取过的来源会被自动拦截。 (项目文档或代码可能提及防幻觉设计逻辑，但需实测验证其拦截准确性和覆盖范围（如是否支持所有引用场景）。)

原文内容:

让 AI 帮我们查资料或者读源码，一旦关闭对话窗口，下次再问，AI 又得从头开始搜索阅读。

今天看到 ascent-research 这个开源项目，能让 AI 的研究工作跨会话持续积累，而不是每次都从零开始。

所有研究成果以纯文本文件保存在本地，下次继续时自动接上上回进度。

支持从网页、本地代码库、Obsidian 笔记等多种来源同时摄入内容。

GitHub：http://github.com/actionbook/ascent-research…

可以自动生成带手绘风格图表的研究报告，还能构建一个持续增长的知识维基，新发现会追加到已有页面而不是覆盖。

并且内置防幻觉机制，引用了但没实际抓取过的来源会被自动拦截。

既能作为独立的命令行跑在后台，也可以作为插件集成到 Claude Code 当中使用。

适合经常需要让 AI 辅助阅读长篇源码，或是长期追踪深度课题的朋友折腾体验。

⏰ 15:30 | ❤️ 25点赞 | 📝 258字 | 查看原文 →

↑ 返回顶部

indigo @indigox

Co-founder of http://Hallid.ai / Partner of Brilliant Phoenix / ex-Weibo. Investor, Writer, Coder, Gamer & Amateur Cook. e/acc, 𝕏 is my notebook … | 影响力: 0万粉丝

💡 核心观点: AI加剧两极分化，中间层将被淘汰。

可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述

事实核查:

• ◐ 部分可验证: AI 是极端放大器，第一个引爆点是青年失业率，加拿大已居高不下。 (加拿大青年失业率的数据可通过加拿大统计局（StatCan）等官方渠道验证，但将失业率直接归因于AI的“放大器”作用缺乏直接因果证据，需结合经济研究进一步分析。)
• ✓ 可验证: 第二个引爆点是“被优化的中产”可能在2027–2028年塌方。 (关于中产阶层“塌方”的时间预测属于主观推测，目前无公开研究或数据支持这一具体时间点，且“优化”与“塌方”的关联性难以量化验证。)
• ◦ 观点: 政府将通过执照制和强制雇佣人类来保护医生、律师、教师等行业，并通过向AI公司征税反哺社会。 (该声明为政策建议或未来设想，目前无国家明确实施此类措施，属于主观观点而非既定事实。)

原文内容:

AI 不是平权工具，是极端放大器！第一个引爆点已经发生：青年失业率，加拿大已居高不下。第二个引爆点——「被优化的中产」可能在 2027–2028 年塌方。接下来政府能做的，是被动设立保护行业——医生、律师、教师全部走执照制，强制雇佣人类。雇不起？申请补助。钱从哪来？从模型公司、AI 公司抽税反哺社会。因为模型公司不会停。政府也叫不停。真要停下来，就是打仗了

而对个人——AI 是一面镜子。 你怎么用它，它就更像你。 你问得傻，它就傻；你问得好，它就好。 它本质是一个回归均值的模型，触发条件之后才会很聪明。

所以未来只会留下两种人：

- 左侧高峰：把 AI 用到极致的顶尖个体。最强的创业者、创意人、律师，叠加 AI 之后变成超级个体；

- 右侧高峰：全自动化。自动化律所、自动化内容工厂，生产「均值内容」也有价值，因为大部分人就是消费这些。

中间是死亡谷： 你既掌握不了 AI，又没法把自己的工作彻底自动化。这一段，会玩完。

⏰ 14:49 | ❤️ 120点赞 | 📝 314字 | 查看原文 →

↑ 返回顶部

fin @fi56622380

立场不重要，事物的运行逻辑和内在规律才是更值得关注的部分 |

读过三个不同专业的学位，体验过两个大洲的尘世生活，设计过一次火星车芯片，还没有去看过心心念念的冰川 | 影响力: 0万粉丝

💡 核心观点: GPU算力转向HBM，内存需求与带宽决定代币经济吞吐量。

可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述

事实核查:

• ◐ 部分可验证: GPU的HBM内存需求呈指数级增长 (需结合GPU架构演进的技术白皮书或厂商（如NVIDIA/AMD）公布的HBM规格历史数据验证，但“指数级”是否为严格数学定义需进一步确认。)
• ◦ 观点: 当前架构下代币经济学的第一性原理：token吞吐量 = HBM容量 × HBM带宽 (该公式为作者提出的理论模型，未提供具体实验或行业标准支持，且“代币经济学”与HBM的关联性缺乏公开案例验证。)
• ◐ 部分可验证: GPU性能上限由HBM的容量和带宽两个维度决定 (部分可验证，因HBM对GPU性能的影响在行业报告（如MLPerf基准测试）中有提及，但“上限”是否为绝对限制需具体芯片设计验证。)

原文内容:

AI Semiconductor Endgame 2026 (Part 1)

New Token Economics Computing Paradigm Shifts from GPU Compute to HBM

This article starts from the essence of GPU architectural evolution to address a question the market has long worried about:

Why must each GPU's HBM memory demand grow exponentially, and why won't this exponential growth in HBM demand stall?

It then derives the first principle of token economics under the current architecture: token throughput = HBM size × HBM BW (bandwidth)

It also discusses why the GPU ceiling is determined by HBM's two dimensions of progress.

The topic of HBM cyclicality has long been controversial. Optimists argue that AI-driven demand is much greater than before, but the market mainstream still believes that previous up-cycles also saw 20%+ annual demand growth — so what's different this time? AI doesn't change the fact that HBM, like traditional DRAM, has commodity attributes. Once capacity expansion at the demand peak meets a downturn, history will repeat itself. We can take the perspective of compute-chip architecture, start from first principles, and unpack and reason through this question:

why this time is genuinely different.

———————————————————————————————

History: The Era of CPU Compute

For a very long time, we lived in the era of CPU-dominated compute. The CPU's top-level KPI was performance — running faster — and so each generation of CPUs deployed every method imaginable to push benchmark scores higher. First it was rising clock frequencies, then it was architectural evolution: superscalar designs, and so on.

During this period, why didn't DDR need to advance technologically at high speed? DDR3 to DDR5 took a full 15 years.

Because in this era, DDR's role was purely auxiliary — and only weakly so. By industry experience, even doubling DDR speed would generally only raise CPU performance by less than 20%.

Why did improvements in DDR bandwidth and speed matter so little? Two reasons:

1. CPUs designed all kinds of architectural tricks to hide DDR latency — superscalar designs, wider issue widths, massive ROBs and register renaming to extract parallelism and hide latency, L1 caches, L2 caches — all of which weakened the demand for DDR bandwidth and speed.

2. CPU workloads don't have particularly demanding bandwidth requirements. For most everyday workloads — say, opening a webpage — DDR bandwidth is severely overprovisioned. Even cloud workloads often look the same.

In other words, in the CPU era, DDR bandwidth and speed didn't really matter. There was virtually no difference between DDR4 and DDR5 except in a handful of games — and even the JEDEC standard advanced slowly.

On top of that, only a small portion of any given app needs to permanently sit in DDR. Whatever is needed can be paged in from the hard drive on demand. App size grew slowly, and so DDR capacity demand grew slowly as well.

That's why, over the past decade, the average PC went from 7–8GB of DDR to about 23GB — only 3× growth in ten years.

This slow upgrade pace directly affected revenue. Capacity-based pricing was the main way of making money; speed improvements were just a technological upgrade that raised the unit price of capacity. With both of these dimensions advancing slowly, growth could only come from increases in PC/phone unit volumes.

So along both dimensions — bandwidth/speed and capacity — DRAM was always a “nice-to-have” appendage to the chip industry. The marginal utility of DDR upgrades was very low, and almost completely disconnected from the CPU era's top-level KPI.

———————————————————————————————

The Paradigm Shift: GenAI's Top-Level KPI

When we entered the era of GenAI large models, the computing paradigm shifted, and the top-level KPI changed fundamentally.

By the time GPUs evolved into AI inference engines, the top-level KPI was no longer compute alone (TOPS/FLOPS), as it had been for CPUs — it became the cost of a token. Specifically: overall token throughput per unit cost / per unit power.

A close second is token throughput speed — because in the agent era, many tasks have become serial, and token output speed has become a critical bottleneck for user experience.

This is exactly why Jensen invented the concept of the AI factory: to produce the most tokens at the lowest cost, while pushing token throughput speed as high as possible.

In the AI training era, Jensen's economics were TCO (Total Cost of Ownership): the more GPUs you buy, the more you save.

In the inference era, Jensen's token economics flip the logic:

AI inference has very healthy gross margins, so the logic now becomes: the NVIDIA GPU is the GPU that produces the cheapest token in the world, so the more you buy, the more you earn.

The top-level KPI has become a Pareto frontier: along the two dimensions of token throughput and token speed, optimize as far as possible.

Each generation of NVIDIA's token factory is essentially pushing the entire Pareto frontier up and to the right. This is the most important KPI of the AI inference era.

———————————————————————————————

From Token Throughput to HBM: The Core Logic Chain

Below is the most important logical chain of this article: how to start from the exponential growth of token throughput and derive that the ceiling bottleneck lies in the exponential growth of HBM size and HBM speed.

In the era of single-GPU inference with single-thread batch size = 1, token throughput had only one dimension: HBM bandwidth speed. Higher bandwidth = higher token throughput.

But once we entered the NVL72 era, inference is no longer single-GPU. It is a system-level token factory composed of 72 GPUs + 36 CPUs, designed to fully saturate HBM bandwidth and compute simultaneously, in pursuit of the ultimate token throughput.

Token throughput growth depends on two things: the number of requests batched simultaneously × the average token speed per request.

That is: batch size × token speed.

Take Rubin NVL72 as an example. At an average token speed of 100 tokens/s, processing 1,920 simultaneous requests yields a token throughput of 192,000 tokens/s. A Rubin NVL72 draws roughly 120kW (0.12MW), so per MW it can handle 1.6M tokens/s.

So we need to find ways to push both parameters up: batch size and average token speed. Their product is our top-level KPI — token throughput.

Parameter 1: Batch growth — bottleneck is HBM size

Every request in the batch carries its own KV cache, which has to live in HBM, with sizes ranging from a few GB to tens of GB. Because hot KV cache must be read at high frequency and high speed at any moment, it must reside in HBM. For a model with, say, 80 layers, every token generation step requires reading the KV cache 80 times from HBM.

As batch size grows, hot KV cache grows linearly.

And because the hot KV cache for every request in the batch must sit in HBM, HBM size must grow linearly with batch size.

Like an airport shuttle bus: the gate wants to move passengers to the plane as fast as possible. If HBM size is small, the shuttle is small, so you have to make extra trips.

Conclusion: batch size growth bottlenecks on HBM size growth.

Parameter 2: Average token speed per request — bottleneck is HBM bandwidth

The decode-phase speed of a large model bottlenecks on HBM bandwidth, because every token generated requires reading the activated weights and KV cache many times over.

The emergence of LPUs has, in cases where batch size isn't very large, moved the activated weights portion onto SRAM — but every generated token still requires many reads of the KV cache from HBM. The higher the HBM bandwidth, the faster each token is generated, in essentially linear correspondence.

Like the airport shuttle bus: HBM bandwidth is like the width of the door — wider doors mean passengers board faster.

The rest of the GPU's configuration is essentially adapted to support batch growth and to keep token compute speed in step with HBM growth. In some cases the GPU even spends excess compute to recover effective bandwidth (e.g., bandwidth compression techniques).

—-------

To return to the shuttle bus analogy:

• Shuttle bus cabin size = HBM Size (capacity): determines how many passengers can fit at once (i.e., how many requests' KV caches can sit in HBM simultaneously). Bigger cabin = more passengers (higher batch size) per trip. If the bus is too small, moving 100 people takes two trips — and total throughput suffers.

• Shuttle bus door width = HBM Bandwidth: determines how fast passengers get on and off. A wide door, and everyone piles on at once (decode/token generation is fast). A narrow door, and even with a giant cabin, people queue up and most of the time is spent boarding.

• Passenger throughput = cabin size × door-width-determined boarding speed.

—-------

At this point, we've logically derived the first principle of token-economics hardware demand:

Token throughput = HBM size × HBM Bandwidth

The top-level KPI of the AI inference era is highly dependent on progress along both HBM dimensions.

If we want to maintain 2× token throughput growth per generation, that means each generation of single GPU must grow HBM size × HBM BW speed by 2×!

This is the first time in history that HBM memory size can influence the top-level KPI — token throughput.

To validate this thesis, we can put NVIDIA's token throughput from A100 to Rubin Ultra on the same chart as HBM size × HBM BW speed.

What you find is that the two curves track each other startlingly closely on log axes.

HBM size × speed actually grows even faster than token throughput — which makes sense, because HBM defines the ceiling, and in practice utilization of that ceiling is very hard to push to 100%. Even if HBM size × HBM speed grew by 1,000×, with the supporting compute and architecture, it would be very hard to wring out the full 1,000× of headroom.

This curve isn't a coincidence — it's the necessary solution of system optimization.

throughput = batch × speed. This is the unavoidable first principle of token factory economics.

—-------

What about software? Won't software optimization reduce bandwidth demand? Reduce HBM demand?

This is an independent dimension from hardware. It's like asking: if software on a CPU runs faster after optimization, does that mean the CPU doesn't need to advance for ten years? After all, software is faster now.

If that were the case, would CPU vendors still make money? For a CPU vendor to survive, there's only one path: in standardized benchmarks, ignoring software optimization, every new CPU generation must score higher — otherwise it doesn't sell.

GPUs are exactly the same. How well software is optimized, and the requirement that the GPU's own token-throughput KPI must improve dramatically every year, are two separate things.

As long as token demand keeps growing, the pursuit of higher token throughput will not stop — and so neither will the pursuit of higher HBM size × HBM speed.

If HBM size and HBM speed were to slow down, Jensen would personally fly to the Big Three and pressure them to accelerate, because that ishis GPU ceiling. If the ceiling stops rising, can his GPU still sell?

Of course, NVIDIA also needs to wrack its brains to extract performance beyond the HBM ceiling through heterogeneous architectural angles. The LPU is a great example — it improved the Pareto frontier substantially from a different angle (the right-hand high-token-speed portion).

—--------------------

HBM memory has now bid farewell to that old era of drifting with the tide. On this one-way road paved by exponential demand, it has, in something close to a destined fashion, walked onto the central stage of the industry's epic.

When the inference paradigm's first principles evolve to this point, as long as Jensen still wants to sell GPUs, HBM must double — and it must double every generation. This is endogenous pressure from the supply side. It has nothing to do with AI demand, nothing to do with macro cycles, and nothing to do with the moods of the hyperscalers.

The only remaining question is this:

When demand has been physically locked into exponential growth, will the three players on the supply side — like they have for the past thirty years — once again drag themselves back into the mire of the cycle by their own hands?

⏰ 14:11 | ❤️ 597点赞 | 📝 2022词 | 查看原文 →

↑ 返回顶部

铁锤人 @lxfater

我在用 AI 协助我创业，走向自由 github 维护 3w star 项目，写过 1200w 浏览文章，公众号：铁锤人 商务联系：tiechuiren101 | 影响力: 0万粉丝

💡 核心观点: 利用AI绘图低价进货高价卖出可轻松赚钱。

可信度: 9/10 – 2项声明可直接验证；2项需进一步确认

事实核查:

• ◐ 部分可验证: 用GPT Image 2可以通过5种方式赚钱，每种方式都提供提示词 (需查看引用文章中的具体提示词和自动化流程，但若文章未公开或需付费，则无法完全验证。GPT Image 2是否为真实工具尚不明确（可能为虚构或笔误）。)
• ◐ 部分可验证: 有一种赚钱方式无需自己出图，有人进货四分钱卖两毛，闲鱼上已有案例 (闲鱼交易记录需实际搜索验证，但具体进货渠道、成本和利润无法公开核实，可能存在夸大或个案。)
• ✓ 可验证: 完整提示词和自动化流程在引用文章中 (若引用文章公开且内容完整，则可验证；若文章不存在或需付费，则无法验证。)

原文内容:

用 GPT Image 2 赚钱，你想到几种方式？

我整理了5种，每种都有提示词，拿走能用

但还有一种方式不用自己会出图也能赚！！

有人进货四分钱，卖两毛，自己一张图都不出

闲鱼上已经有人在跑了

其余 5 种看图

完整提示词加自动化流程，请看引用文章

⏰ 14:02 | ❤️ 261点赞 | 📝 93字 | 查看原文 →

↑ 返回顶部

AI产品黄叔 @pmbackttfuture

两家大厂AI产品顾问 加社团学skills：https://zaoxiaban.top | 影响力: 287万粉丝

💡 核心观点: 小米激励计划因账号体系繁琐导致体验受阻。

可信度: 6/10 – 1项声明可直接验证；2项需进一步确认；1项为观点陈述

事实核查:

• ✓ 可验证: 小米推出了百万亿Token创造者激励计划 (可通过小米官方公告、新闻稿或开发者平台公开信息直接验证该计划是否存在及具体内容。)
• ◐ 部分可验证: 使用Github关联的邮箱提交后，需用同一邮箱登录小米账号时要求绑定手机号 (需实测小米账号登录流程，确认是否强制要求绑定手机号，但涉及用户个人账户操作（如邮箱关联性）可能因个案差异存在部分限制。)
• ◐ 部分可验证: 手机号若已绑定其他小米账号，需注销旧账号才能登录 (小米账号合并或解绑规则可通过官方帮助文档验证，但具体操作中的用户提示和限制需实际测试，可能存在版本或地区差异。)

原文内容:

小米的百万亿Token创造者激励计划
是个非常不错的增长策略

可惜最后我发现死在了雷总的账号体系上。。。

使用Github关联的邮箱提交
然后发现使用这个邮箱登录小米
需要绑定手机号

手机号之前似乎绑定了其他小米账号。。。
如果想要登录，需要注销之前的账号。。。

⏰ 13:50 | ❤️ 20点赞 | 📝 103字 | 查看原文 →

↑ 返回顶部