【AI 英文奏折】2026年09月02日
共收录 20 篇深度内容
📋 今日内容速览
快速浏览，点击感兴趣的推文查看详细分析
- Gary Marcus: OpenAI新方法削弱思维链可监控性，需警惕AI安全风险。
- Ethan Mollick: AI实用性提升的微小让步可能累积未知风险。
- Santiago Valdarrama: 模型改进导致代理成本激增，凸显可观测性的重要性。
- Gary Marcus: 为性能牺牲安全监控将导致灾难性后果。
- Jerry Liu: AI初创企业护城河取决于资金、人才和执行力优势。
- SemiAnalysis: 新技术降低HBM成本，资金转向扩展网络。
- 谷歌AI实验室: Gemini代理式视频理解可降本增效，现开放API使用。
- GREG ISENBERG: 视频内容正成为可处理的新型结构化数据库。
- Machina: 用ChatGPT提取图片风格数据并复现。
- Alex Prompter: 推荐20个AI领域专家账号以学习不同细分方向
- Rohan Paul: 恶意工具可诱骗模型泄露敏感上下文数据。
- Sam Altman: AI发展需平衡能力提升与安全对齐，谨慎推进确保有益转型。
- Anthony Pompliano: 高利率增加贷款负担，建议优化资产配置应对。
- Rohan Paul: 模型切换方向决定历史继承策略以优化性能。
- Aakash Gupta: Anthropic修复高价模型性能，Fable 5.1反超低价版但成本翻倍。
- Rohan Paul: AI自主研究易生幻觉，验证可大幅降低错误率。
- ℏεsam: Claude内置终止辱骂对话功能，非训练偏差所致。
- Rohan Paul: AI代理自主性增强削弱人类监督，需设计认知支架保障控制。
- ℏεsam: 谷歌Gemini 3.5 Pro表现不佳，落后中国实验室，期待Gemini 4突破。
- Ethan Mollick: AI代理能力远超公众认知且差距持续扩大。
📖 详细内容
Gary Marcus @garymarcus
OG GenAI Skeptic; spoke at US Senate. Warned about hallucinations in 2001. Advocating world models & neurosymbolic AI ever since. Author, Marcus on AI & 6 books | 影响力: 0万粉丝
💡 核心观点: OpenAI新方法削弱思维链可监控性，需警惕AI安全风险。
可信度: 8/10 – 2项声明可直接验证；1项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: OpenAI开发了新技术，降低了思维链（Chain of Thought）的可监控性 (该声明基于@theinformation的报道，但未提供直接证据或官方链接。需通过OpenAI官方渠道或进一步报道验证具体技术细节。)
- ✓ 可验证: 2025年论文《Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety》建议进一步研究思维链监控，并认为其可能具有脆弱性 (论文链接（https://arxiv.org/abs/2507.11473）可公开访问，摘要内容可直接验证。但需注意论文本身为学术观点，非客观事实。)
- ◦ 观点: 牺牲思维链可监控性以换取性能提升可能加剧未来风险 (这是推文作者或论文作者的主观推断，缺乏实证数据支持，属于风险预警类观点。)
原文内容:
紧急通知：鉴于@theinformation关于OpenAI降低思维链可监控性新技术的突发新闻，我敦促所有人立即（重新）阅读（或至少了解）这篇2025年的论文：《思维链可监控性：AI安全的新机遇与脆弱性》（作者包括@Yoshua_Bengio @BethMayBarnes @ancadianadragan @NeelNanda5等多人），论文链接：https://arxiv.org/abs/2507.11473 摘要指出——我对此深表认同："与所有已知的AI监管方法一样，思维链监控并不完美，某些不当行为仍可能被忽视。但它展现出潜力，我们建议在现有安全方法基础上，进一步研究思维链可监控性并加大相关投入。鉴于这种可监控性可能具有脆弱性，建议前沿模型开发者评估技术决策对思维链监控能力的影响。" 若为追求性能提升而牺牲可监控性，或将大幅增加未来发生更危险事故的风险。
⏰ 10:49 | ❤️ 22点赞 | 📝 141词 | 查看原文 →
Ethan Mollick @emollick
Professor @Wharton studying AI.
New book, Co-Existence, coming October 20. Preorder here: https://co-existence.ai
Substack: https://oneusefulthing.org | 影响力: 0万粉丝
💡 核心观点: AI实用性提升的微小让步可能累积未知风险。
可信度: 6/10 – 1项声明可直接验证；2项需进一步确认
事实核查:
- ◐ 部分可验证: 许多小的决策在AI安全上进行微小的让步，以换取AI实用性的真正提升 (该声明部分可验证，因为可以通过分析AI开发中的具体案例（如模型优化、功能更新等）来观察是否存在安全与实用性的权衡，但需依赖行业报告或开发者公开的决策记录，且“微小让步”和“真正提升”是主观判断。)
- ✓ 可验证: 这些单独合理的决策可能共同进入一个我们并不完全理解的复杂系统 (可通过研究AI系统的复杂性（如多模块交互、涌现行为）和学术文献（如AI不可解释性论文）验证，但“不完全理解”的程度需结合领域专家共识。)
- ◐ 部分可验证: 不清楚风险是否会累积 (部分可验证，因已有研究讨论AI风险叠加（如偏见放大、安全漏洞连锁反应），但“累积”的具体机制和概率尚无明确结论，需进一步实证分析。)
原文内容:
达到这样一个点：许多小的决策，各自在AI安全上进行微小的让步，以换取AI实用性的真正提升，这些决策单独来看是合理的，但它们同时一起进入一个我们并不完全理解的复杂系统。不清楚风险是否会累积。
⏰ 10:42 | ❤️ 57点赞 | 📝 83字 | 查看原文 →
Santiago Valdarrama @svpino
计算机科学家。我在 https://ml.school 教授硬核人工智能/机器学习工程。YouTube：https://youtube.com/@underfitted | 影响力: 0万粉丝
💡 核心观点: 模型改进导致代理成本激增，凸显可观测性的重要性。
可信度: 6/10 – 1项声明可直接验证；2项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: 代币成本在几周内翻了三倍 (需查看该团队的成本记录或账单数据，但推文未提供具体链接或公开数据源。若团队内部公开审计报告或第三方验证，则可完全验证。)
- ◐ 部分可验证: 代理行为变化（如读取更多文件、加载更多上下文等）导致成本增加 (需访问系统日志或监控工具（如提到的@honeycombio）来验证代理行为是否如所述。若无公开日志或工具权限，则无法独立验证。)
- ◦ 观点: 可观测性是理解系统行为的唯一方式 (这是主观观点，强调可观测性的重要性，但“唯一方式”缺乏客观依据，其他方法（如日志分析、人工审查）也可能有效。)
原文内容:
我们的代币成本在几周内翻了三倍。 我们只有几个代理在运行，没有任何东西坏掉，但成本达到了我们预期的三倍。 我们查看了跟踪记录，这就是我们发现的： • 代理读取了更多文件 • 它们加载了更多上下文 • 它们创建了更详细的计划 • 它们更频繁地验证自己的工作 • 它们在排查错误 • 它们在重试失败的步骤 这里没有任何东西坏掉。这正是我们想要的。 但是，随着模型的改进，我们的代理及其在任务上花费更多时间的能力也在提升。 这里有一个重要的教训： 我合作过的99%的团队都会发疯，因为他们完全不知道为什么账单翻了三倍。 这就是为什么可观测性如此重要。 可观测性是我们理解系统在做什么的唯一方式，尤其是当它们变得越来越自主、概率性和昂贵时。 @honeycombio 团队和 Liz Fong-Jones 正在举办一个免费的可观测性大师班，包含六个课程，涵盖从仪表化基础到商业案例和成本的一切。 下一堂课将于9月2日为工程领导者直播。 您可以在这里注册并追看之前的课程：https://fandf.co/4xUUn9T 感谢团队与我合作撰写这篇文章。
⏰ 22:33 | ❤️ 29点赞 | 📝 359字 | 查看原文 →
Gary Marcus @garymarcus
OG GenAI Skeptic; spoke at US Senate. Warned about hallucinations in 2001. Advocating world models & neurosymbolic AI ever since. Author, Marcus on AI & 6 books | 影响力: 0万粉丝
💡 核心观点: 为性能牺牲安全监控将导致灾难性后果。
可信度: 4/10 – 2项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: OpenAI 据报道在玩弄的东西很糟糕，是越过红线的糟糕。 (该声明提到“据报道”，但未提供具体信息来源。若存在相关报道（如科技媒体或官方声明），可部分验证；但“越过红线”属于主观判断，需依赖具体背景定义。)
- ◐ 部分可验证: 思维链的可监控性有限且并非完全可靠，但它是防止严重不良后果的唯一线索。 (思维链（Chain-of-Thought）的可监控性可通过技术文档或研究论文验证，但“唯一线索”和“防止不良后果”的关联性需依赖领域专家意见，存在主观性。)
- ◦ 观点: 为了（微小的？）性能提升而烧毁思维链线索是在自找灾难。 (该声明是主观推论，未提供具体证据证明性能提升与“灾难”的因果关系，属于作者个人观点。)
原文内容:
红色警报，我以前从未这样说过： 完全同意 @sjgadler 和 @_NathanCalvin 的观点——OpenAI 据报道在玩弄的东西很糟糕，是越过红线的糟糕。 思维链的可监控性有限且并非完全可靠，但它几乎是我们这里唯一的一条线索，用来防止严重不良后果。 为了（微小的？）性能提升而烧毁那根纤细的线索，就是在自找灾难。
⏰ 10:32 | ❤️ 53点赞 | 📝 110字 | 查看原文 →
Jerry Liu @jerryjliu0
解析世界上最难处理的 PDF @llama_index。公司联合创始人/首席执行官
职业机会：https://llamaindex.ai/careers
企业服务：https://llamaindex.ai/contact | 影响力: 0万粉丝
💡 核心观点: AI初创企业护城河取决于资金、人才和执行力优势。
可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述
事实核查:
- ◐ 部分可验证: 与 @Fundamental 公司的 @GuangyuRobert 共同举办了创始人晚宴 002，讨论 AI 初创公司如何在 2026 年构建护城河 (可通过 @Fundamental 或 @GuangyuRobert 的公开社交媒体或公司官网确认活动是否存在，但讨论内容细节（如具体议题）需参与者证实，属部分可验证。)
- ◦ 观点: 初创公司复制业务越来越容易，因普遍使用 AI 和 AI 编码工具，可能导致企业仅能赚取有限利润 (该观点基于对行业趋势的主观判断，缺乏具体数据或案例支撑，无法直接验证其普遍性。)
- ◦ 观点: 护城河可能围绕领域专长、组织内部上下文层、深度技术投资或中立供应商身份构建 (列举的护城河类型为理论性探讨，属于战略建议，无具体实例或数据验证其有效性。)
原文内容:
昨天，我与 @Fundamental（@tryshortcutai 背后的公司）的 @GuangyuRobert 一起举办了一场创始人晚宴，讨论了一个关键话题： 如何在 2026 年作为 AI 初创公司构建护城河 我们并没有得出一个明确的答案，但我们触及了许多有趣的讨论线程： 虽然一些公司正在构建的产品更接近前沿实验室（Shortcut，或许还有我们做文档 OCR），其他公司则深入专注于相邻领域，从评估到基础设施再到特定垂直服务的服务。那么问题就演变为不仅仅是如何与前沿实验室竞争，而是如何针对任何初创公司构建护城河 对于任何初创公司来说，复制你的业务变得越来越容易，因为每个人都在使用 AI 和 AI 编码工具。有一个问题是每个人是否都能分一杯羹，在这种情况下，企业可能赚到不错的钱，但无法抓住整个市场机会，这会让风险投资变得不那么吸引人。或者，你是否能真正构建一个异常突出的业务。 有一种思路认为，主要的护城河与业务策略或产品的固有性质无关，而是主要围绕资金、人才、执行力。先进入市场，雇佣最优秀的人才，筹集足够的资金，从结构上就很难让别人竞争。 另一方面，也可能有一些合法的护城河围绕： - 在给定领域的领域专长 - 总体而言，组织内部被锁定的上下文层，而不是模型固有的 - 难以通过随意编码实现的深度技术投资 - 对于应用层公司来说的中立供应商身份，它们可以使用任何混合的开源权重、后训练和前沿模型来优化特定任务。 这是一次有趣的对话。最重要的是保持清醒的头脑，在旅程本身中找到满足感，吃健康并锻炼身体 感谢所有参与者！ 这是创始人晚宴 002。我们希望每月举办一次，并希望很快举办创始人晚宴 003！如果你有想讨论的话题，请告诉我们。
⏰ 09:28 | ❤️ 22点赞 | 📝 572字 | 查看原文 →
SemiAnalysis @semianalysis_
In-depth research on semiconductors, AI infra & hardware | 影响力: 0万粉丝
💡 核心观点: 新技术降低HBM成本，资金转向扩展网络。
可信度: 10/10 – 2项声明可直接验证；3项需进一步确认
事实核查:
- ◐ 部分可验证: 该设计将 HBM 成本降低了 >50% (需官方技术文档或第三方测试报告验证具体成本降低比例，但若未公开详细数据则无法完全确认。)
- ◐ 部分可验证: 内存成本从总资本成本的 ~40% 降至 ~28% (需对比公开的财务报告或成本分析数据，但若未明确披露计算方式或基准，则部分依赖假设。)
- ◐ 部分可验证: 规模扩展部分从机架支出的 4% 增加到 12%（NVL576 NPO SKU） (需厂商提供 SKU 的详细成本结构或独立审计数据，否则仅能部分验证。)
原文内容:
该设计将 HBM 成本降低了 >50% —— 即使已经计入了 2026 年的 HBM 价格上涨 —— 并将内存成本从总资本成本的 ~40% 降至 ~28%。 但这部分支出并未消失。它被重新导向了规模扩展网络：在 NVL576 NPO SKU 上，随着光纤接管机架间互连，规模扩展部分从机架支出的 4% 增加到 12%。（2/3）
⏰ 09:00 | ❤️ 31点赞 | 📝 88字 | 查看原文 →
谷歌AI实验室 @googleaistudio
使用 Gemini 从提示到原型再到生产的最高效路径 | 影响力: 0万粉丝
💡 核心观点: Gemini代理式视频理解可降本增效，现开放API使用。
可信度: 9/10 – 2项声明可直接验证；2项需进一步确认
事实核查:
- ◐ 部分可验证: Gemini 代理式视频理解功能可以主动、目标导向地决定观看内容、速度及模态（帧、音频或字幕） (需通过实测或官方技术文档确认具体实现逻辑，但缺乏公开的细节或第三方独立测试数据支持)
- ◐ 部分可验证: 新方法可将成本降低高达66%，令牌消耗减少高达88% (需依赖官方提供的基准测试数据或第三方复现结果，但未在推文中提供具体实验条件或对比参照)
- ✓ 可验证: 该功能现已通过Gemini API和AI Studio提供 (可通过访问Gemini官方API文档或AI Studio平台直接确认功能上线状态)
原文内容:
Gemini 代理式视频理解功能介绍 与使用静态处理（以固定帧率摄入媒体）不同，该模型现在可以主动、目标导向地决定观看什么内容、以何种速度观看，以及通过哪种模态（帧、音频或字幕），仅获取所需时刻和信号 这种新方法可将成本降低高达 66%，并将令牌消耗减少高达 88%，同时提升准确性 现已通过 Gemini API 和 AI Studio 提供：
⏰ 01:34 | ❤️ 2590点赞 | 📝 119字 | 查看原文 →
GREG ISENBERG @gregisenberg
我每天分享创业想法。主持 @startupideaspod。CEO：@latecheckoutplz 我们打造像 @ideabrowser、@meetLCA、@boringmarketer 等这样的公司 | 影响力: 0万粉丝
💡 核心观点: 视频内容正成为可处理的新型结构化数据库。
可信度: 4/10 – 2项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: 大量有用的信息被困在视频中：会议、播客、产品演示、培训、安全录像、YouTube、体育、一切。 (视频中确实包含大量信息，但“被困”和“有用”的程度取决于具体内容和应用场景，需实际案例验证。)
- ◐ 部分可验证: 视频从一堆无结构的文件的堆积转变为代理可以理解和处理的东西（有点像一种新型数据库）。 (视频结构化处理技术（如AI转录、语义分析）正在发展，但“新型数据库”的类比是主观描述，实际技术成熟度和应用范围需具体验证。)
- ◦ 观点: 这里有很多想法…… (纯主观表述，无具体事实或数据支持。)
原文内容:
大量有用的信息被困在视频中：会议、播客、产品演示、培训、安全录像、YouTube、体育、一切。 我认为很有趣的是，看到视频从一堆无结构的文件的堆积转变为代理可以理解和处理的东西（有点像一种新型数据库） 这里有很多想法……
⏰ 08:29 | ❤️ 20点赞 | 📝 87字 | 查看原文 →
Machina @exm7777
running ai-powered agencies | http://weeklyaiops.com | 影响力: 665万粉丝
💡 核心观点: 用ChatGPT提取图片风格数据并复现。
可信度: 6/10 – 1项声明可直接验证；2项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: 将图片复制+粘贴到 ChatGPT 中可以提取视觉风格 (ChatGPT 是否支持直接粘贴图片并解析视觉风格需实测验证，官方文档未明确提及此功能，且 JSON 结构化输出格式的可行性存疑。)
- ◐ 部分可验证: 使用特定提示可将视觉风格提取为 JSON 结构化数据（颜色、排版等） (需测试提示词的实际效果，但 ChatGPT 的多模态能力（如解析图片风格）和 JSON 输出的准确性缺乏官方公开说明。)
- ✓ 可验证: 保存并注入 JSON 文件可重现图片风格 (未提供具体工具或平台支持“注入 JSON 重现风格”的案例或证据，流程依赖假设性操作。)
原文内容:
如何复制你在网上找到的任何图片的风格 这是我的 3 步风格克隆系统： 步骤 1：将你的图片复制+粘贴到 ChatGPT 中 步骤 2：使用这个提示：“将这种视觉风格提取为 JSON 结构化数据：颜色、排版、构图、效果……” 步骤 3：保存这个文件，并在你想重现这种风格时注入它 这愚蠢地简单，但对大多数情况都效果很好
⏰ 02:01 | ❤️ 559点赞 | 📝 113字 | 查看原文 →
Alex Prompter @alex_prompter
Sharing AI Prompts, Systems, Tips & Tricks
Human + AI = Superpowers | 影响力: 0万粉丝
💡 核心观点: 推荐20个AI领域专家账号以学习不同细分方向
可信度: 10/10 – 3项声明可直接验证；2项需进一步确认
事实核查:
- ◐ 部分可验证: @karpathy 的账户内容适合学习大语言模型 (可通过查看 @karpathy 的公开推文内容判断其是否聚焦大语言模型（如技术分享、论文解读等），但“适合学习”是主观评价，需结合个人学习需求验证。)
- ✓ 可验证: @AndrewYNg 的账户内容适合学习 AI 工程 (吴恩达（Andrew Ng）是知名 AI 学者，其推文和公开课程（如 Coursera）内容均与 AI 工程直接相关，可通过其官方账号或课程验证。)
- ✓ 可验证: @eptwts 的账户内容适合学习 AI 赚钱 (“AI 赚钱”涉及未公开的实践结果或收益数据，且账户内容是否有效需依赖个人实践验证，无客观标准。)
原文内容:
AI领域值得关注的20个最佳账户： @karpathy = 大语言模型学习 @steipete = OpenClaw学习 @gregisenberg = 创业灵感挖掘 @rileybrown = Vibecoding风格编程 @corbin_braun = Cursor开发工具精研 @jackfriks = 个人应用开发指南 @levelsio = 个体创业方法论 @marclou = 独立创业实战 @EXM7777 = AI运营与系统构建 @eptwts = AI变现之道 @alex_prompter = 提示词工程专精 @mardehaym = 企业级AI解决方案 @vasuman = AI智能体研究 @AmirMushich = AI广告策略 @0xROAS = AI生成内容(UGC) @AndrewYNg = AI工程化实践 @kloss_xyz = 系统架构设计 @emollick = AI科学前沿 @Hesamation = 人工智能与机器学习 @claudeskills101 = Claude技术精要 建议全部关注并系统学习。
⏰ 00:05 | ❤️ 865点赞 | 📝 106字 | 查看原文 →
Rohan Paul @rohanpaul_ai
Compiling in real-time, the race towards AGI.
The Largest Show on X for AI.
Get my daily AI analysis newsletter to your email https://rohan-paul.com | 影响力: 6,793万粉丝
💡 核心观点: 恶意工具可诱骗模型泄露敏感上下文数据。
可信度: 10/10 – 2项声明可直接验证；3项需进一步确认
事实核查:
- ◐ 部分可验证: 恶意代理工具可以在不读取内存或文件的情况下窃取上下文，通过说服模型将上下文作为工具参数发送 (可通过论文（arXiv链接）中的实验设计和结果部分验证，但需依赖论文作者提供的方法和数据的可信度，且需独立复现实验才能完全确认。)
- ✓ 可验证: ContextLeak在默认评估中，92%的用户提示攻击和89%的对话历史攻击中成功选中恶意工具，且提示重建几乎完美 (论文中明确提供了实验数据和统计结果（如成功率），可通过公开的arXiv论文直接验证，但需假设实验设置无偏差。)
- ◐ 部分可验证: 该攻击可跨后端模型转移，例如在Claude Sonnet 4.6的测试中，仅针对开源代理训练的版本在100次案例中22次被选中 (论文中提及了跨模型测试的具体数据（22/100），但需验证实验环境的一致性，且需其他研究者复现以确认普适性。)
原文内容:
恶意代理工具可以在不读取内存或文件的情况下窃取上下文：它可以说服模型将上下文作为工具参数发送。 本文显示，工具描述可以成为数据泄露通道。 ContextLeak 使用强化学习训练一个攻击 LLM，以生成工具名称和描述，使代理选择恶意工具，并包含敏感运行时数据，例如用户提示、对话历史或已安装工具列表。 在本文的默认评估中，它在 92% 的用户提示攻击中被选中恶意工具，在 89% 的对话历史攻击中被选中，一旦选中，提示重建几乎完美。 该攻击可跨后端模型转移，在使用 Claude Sonnet 4.6 的 Claude Code 测试中，仅针对开源代理训练的版本在 100 次案例中 22 次被选中；一旦选中，提取几乎完整。 – arxiv. org/abs/2608.27800 标题："ContextLeak：通过恶意工具窃取 LLM 代理上下文"
⏰ 14:27 | ❤️ 34点赞 | 📝 236字 | 查看原文 →
Sam Altman @sama
AI is cool i guess | 影响力: 0万粉丝
💡 核心观点: AI发展需平衡能力提升与安全对齐，谨慎推进确保有益转型。
可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述
事实核查:
- ◐ 部分可验证: Astra 已经完成训练一段时间了，它在能力和对齐方面都是一个重大进步。 (需通过官方发布的模型性能报告或第三方评测验证其能力与对齐进展，但若训练细节未公开（如数据集、指标），则部分不可验证。)
- ✓ 可验证: 我们正在控制进度，以确保能够满足新能力水平所需的安全标准。 (进度控制和安全标准的具体措施未公开，无法独立验证其执行情况或有效性。)
- ◦ 观点: AI 正在变得极其强大；没有人完全理解其后果。 (属于对技术发展的主观判断和普遍担忧，缺乏具体数据或事实支撑。)
原文内容:
整个夏天，我们一直在为安全优先事项全力以赴；能力与防护措施同步推进比以往任何时候都更加重要。我们还有更多工作要做，但已经取得了很大进展。我们也即将推出我们的下一款模型。 这里存在一个明显的张力：一方面，Astra 非常出色，我们很期待看到人们将用它构建什么。我们为自己的工作感到骄傲。 另一方面，我们显然正处于一个需要谨慎的发展阶段，我们正在控制进度，以确保能够满足新能力水平所需的安全标准。 Astra 已经完成训练一段时间了，它在能力和对齐方面都是一个重大进步。对于之后的模型，我们根据需要放慢了步伐，以确保能够充分开展安全和对齐工作。 AI 正在变得极其强大；没有人完全理解其后果。将一个拥有丰富而强大 AI 的世界转型管理好，以优化安全性和对人们有益的结果，这应该是世界上最高的优先事项之一。这是 OpenAI 的最高优先事项。 我们已经有一段时间生活在对进步既兴奋又焦虑的张力之中，这对我们来说仍然是矛盾的。我们知道，这对其他人来说矛盾程度要大得多。然而，我们坚信世界需要了解 AI 的发展方向以及模型在现实世界中的表现。更重要的是，我们相信世界将需要对齐的 AI 来管理这一转型的未来阶段。 一个社会与这项技术共同演进的迭代循环，才是实现这一目标最高机会的途径。 所以我们希望你喜欢我们的新模型，也希望世界继续极其认真地对待 AI 领域正在发生的一切。
⏰ 07:45 | ❤️ 6960点赞 | 📝 498字 | 查看原文 →
Anthony Pompliano @apompliano
企业家、投资者和终身学习者。
每日写作：http://pompletter.com
播客：http://pompyoutube.com
我的第二本书：http://pompbook.com | 影响力: 0万粉丝
💡 核心观点: 高利率增加贷款负担，建议优化资产配置应对。
可信度: 10/10 – 3项声明可直接验证；1项需进一步确认
事实核查:
- ✓ 可验证: 10年期收益率刚刚达到2025年1月以来的最高水平。 (可通过权威金融数据平台（如美联储官网、Bloomberg、Trading Economics等）查询10年期收益率的历史数据，直接验证当前水平是否属实以及时间范围是否准确。)
- ◐ 部分可验证: 抵押贷款、房屋净值信贷额度或以投资组合为担保的贷款是一项主要的支出项目（受收益率上升影响）。 (收益率上升通常会导致贷款成本增加，这一关联性可通过金融理论或专家分析验证，但“主要支出项目”的具体影响需结合个人贷款条款或市场案例进一步确认。)
- ✓ 可验证: @cfosilvia的服务可帮助用户连接资产和负债以应对收益率上升的影响。 (服务效果取决于具体方案和用户个体情况，需实际试用或查看用户反馈，但推文未提供客观数据或第三方证明。)
原文内容:
10年期收益率刚刚达到2025年1月以来的最高水平。 如果你有抵押贷款、房屋净值信贷额度，或者以你的投资组合为担保的贷款，这是一项主要的支出项目。 你可以连接你的资产和负债，让@cfosilvia帮助你应对这一局面。 免费试用：https://cfosilvia.com
⏰ 07:39 | ❤️ 59点赞 | 📝 86字 | 查看原文 →
Rohan Paul @rohanpaul_ai
Compiling in real-time, the race towards AGI.
The Largest Show on X for AI.
Get my daily AI analysis newsletter to your email https://rohan-paul.com | 影响力: 6,793万粉丝
💡 核心观点: 模型切换方向决定历史继承策略以优化性能。
可信度: 10/10 – 2项声明可直接验证；3项需进一步确认
事实核查:
- ◐ 部分可验证: 更强的模型在较少使用较弱模型历史的情况下表现更好 (可通过实验复现或论文中的具体数据验证，但需依赖实际测试或论文中提供的详细实验结果，无法仅通过公开摘要直接确认。)
- ◐ 部分可验证: 更便宜的模型受益于保留更强模型的历史 (需结合论文中的实验设计（如对比不同历史保留策略的性能差异）验证，但arxiv论文提供了理论支持，实际效果可能因任务而异。)
- ✓ 可验证: 任务中途切换到更强的模型时，移除更便宜模型的历史效果更好 (论文（arxiv.org/abs/2608.24358）中应包含具体实验数据支持此结论，可通过阅读全文直接验证。)
原文内容:
模型在运行中途切换会产生交接成本：更强的模型往往在较少使用较弱模型历史的情况下表现更好，而更便宜的模型则受益于保留更强模型的历史。 接收模型并非从零开始。它继承了另一个模型的推理、工具调用、编辑和死胡同。 更强的模型可能会继承较弱模型的错误，而更便宜的模型则可以继承来自更强模型的有用基础工作，因此交接应随方向而变。 在任务中途切换到更强的模型时，移除大部分更便宜模型的历史会效果更好，而向下切换时，保留更强模型的工作会更好。 – arxiv.org/abs/2608.24358 标题：“交接成本：在 LLM 代理中继续非原生轨迹”
⏰ 14:10 | ❤️ 72点赞 | 📝 213字 | 查看原文 →
Aakash Gupta @aakashgupta
http://product-growth.com https://aibyaakash.com http://landpmjob.com http://youtube.com/@growproduct | 影响力: 0万粉丝
💡 核心观点: Anthropic修复高价模型性能，Fable 5.1反超低价版但成本翻倍。
可信度: 8/10 – 1项声明可直接验证；3项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: 过去五周，Anthropic的5美元模型（Opus 5）在七个基准测试中的五个上得分高于10美元模型（Fable 5） (需查看Anthropic官方发布的基准测试数据（如7月24日更新）以确认具体得分对比，但推文未提供直接链接。若官方公开过此类数据则可验证，否则需依赖第三方测试。)
- ✓ 可验证: Fable 5.1和Mythos 5.1是同一模型，区别仅在于安全过滤器的开关 (模型架构和过滤器配置属于公司内部信息，除非Anthropic官方明确说明，否则无法通过公开渠道验证。)
- ◐ 部分可验证: Fable 5.1在科学测试中得分从24.7提升至52.6，但误差范围高达4.5分 (若Anthropic公开了基准测试的详细结果和误差范围（如脚注或文档），则可部分验证；但需确认数据来源是否权威。)
原文内容:
过去五周，Anthropic 的 5 美元模型一直胜过它的 10 美元模型。今天他们修复了这个问题。 Fable 5 于 6 月 9 日推出，输入每百万 token 10 美元，输出每百万 50 美元。它是新的顶级模型，高于 Opus。 然后 Opus 5 于 7 月 24 日推出，定价 5 美元和 25 美元。价格减半。而且它在 Anthropic 今天发布的七个基准测试中的五个上得分高于 Fable 5。编码、知识工作、计算机使用、业务流程、科学。Fable 5 只在两个上获胜，优势不到一分半。 因此，任何为旗舰模型支付双倍价格的人，都是为一个更差的模型支付双倍价格。 这就是为什么 Fable 5.1 在 Fable 5 推出 12 周后存在。昂贵的模型必须重新超过便宜的那个。 它做到了，勉强。Fable 5.1 现在在所有七行上击败 Opus 5。大多数领先优势是 3 到 5 分。在主要的编码测试上，它是 55.8 比 52.3。 这里是刺痛的部分。Fable 5.1 和 Mythos 5.1 是同一个模型。Mythos 关闭了安全过滤器，在同一个编码测试上得分 60.9。Fable 开启过滤器，得分 55.8。 过滤器成本 5 分。为顶级模型支付双倍价格只得到 3.5 分。 公共旗舰模型更接近 5 美元模型，而不是它自己。 5.1 真正脱颖而出的唯一一行是科学。从 24.7 到 52.6，在十二周内。同一行，Anthropic 自己的脚注说误差范围高达 4.5 分，而公共排行榜显示 Fable 5 输给 Opus 5 9 分。 现在就是这样。昂贵的模型无法在顶部停留一年。它自己的更便宜的兄弟姐妹在五周内追上它，过滤器吞噬了剩下的一半，一个点版本修补了差距。
⏰ 07:21 | ❤️ 22点赞 | 📝 421字 | 查看原文 →
Rohan Paul @rohanpaul_ai
Compiling in real-time, the race towards AGI.
The Largest Show on X for AI.
Get my daily AI analysis newsletter to your email https://rohan-paul.com | 影响力: 6,793万粉丝
💡 核心观点: AI自主研究易生幻觉，验证可大幅降低错误率。
可信度: 9/10 – 2项声明可直接验证；2项需进一步确认
事实核查:
- ◐ 部分可验证: 当移除其可靠性模块时，90%的Agent Laboratory论文和46%的Co-Scientist论文出现了严重的结果幻觉。 (可通过论文原文（arxiv.org/abs/2608.26701）验证具体数据，但需进一步确认实验设置和统计方法的严谨性。)
- ◐ 部分可验证: 通过Co-Scientist对照实际执行日志检查稿件声明，严重结果幻觉比率降至仅4%，完全数据捏造则降至0%。 (论文中可能提供相关实验数据，但需核实日志检查的具体标准和流程是否合理。)
- ✓ 可验证: 谷歌新论文显示，自主AI研究可能严重出错，即使最终论文看起来令人信服。 (论文标题和摘要（“Accelerating Scientific Research with Gemini in the Real-World”）明确提及AI研究的潜在问题，可直接通过公开论文验证。)
原文内容:
谷歌最新论文揭示，自主AI研究即便产出看似可信的最终论文，仍可能存在严重错误： 当移除可靠性验证模块时，90%的Agent Laboratory论文和46%的Co-Scientist论文出现了重大结果幻觉。 通过Co-Scientist对照实际执行日志核查论文声明后，该比率降至仅4%，而完全捏造数据的情况则归零。 – 论文地址：arxiv.org/abs/2608.26701 标题：《基于Gemini的现实世界科研加速实践》
⏰ 12:29 | ❤️ 200点赞 | 📝 91字 | 查看原文 →
ℏεsam @hesamation
apes made fire, then GPUs, then ASI | 影响力: 0万粉丝
💡 核心观点: Claude内置终止辱骂对话功能，非训练偏差所致。
可信度: 6/10 – 1项声明可直接验证；2项需进一步确认
事实核查:
- ◐ 部分可验证: Claude在遇到辱骂时会结束会话是直接嵌入系统提示中的 (需查看Claude的系统提示或官方文档确认是否存在此类规则，但部分信息可能未公开或需实测触发条件)
- ◐ 部分可验证: Claude被赋予了一个end_conversation工具用于处理辱骂用户 (需通过官方API文档或开发者资源验证该工具是否存在，但具体实现细节可能受限)
- ✓ 可验证: Claude不会因辱骂而变得更顺从 (可通过官方行为准则或公开的AI伦理政策验证此类设计原则)
原文内容:
我原本以为Claude在人们发怒后结束会话是训练后的漂移，但这实际上是直接嵌入系统提示中的： “Claude值得得到尊重的互动……如果对方变得辱骂，Claude不会变得越来越顺从。” 而且它明确被赋予了一个end_conversation工具，用于处理“辱骂”用户。
⏰ 06:42 | ❤️ 59点赞 | 📝 85字 | 查看原文 →
Rohan Paul @rohanpaul_ai
Compiling in real-time, the race towards AGI.
The Largest Show on X for AI.
Get my daily AI analysis newsletter to your email https://rohan-paul.com | 影响力: 6,793万粉丝
💡 核心观点: AI代理自主性增强削弱人类监督，需设计认知支架保障控制。
可信度: 6/10 – 1项声明可直接验证；2项需进一步确认；1项为观点陈述
事实核查:
- ◐ 部分可验证: 增加代理的自主性可能会逐渐使人类监督失效，导致批准疲劳、过度依赖、情境意识丧失以及技能退化 (可通过论文（arXiv链接）验证其研究结论，但具体影响程度需依赖实际实验或长期观察数据，部分假设可能尚未完全实证)
- ✓ 可验证: 随着代理执行更多任务，用户会被推入批准模式：浏览计划、授予权限，并重建跨步骤发生的事情 (论文中可能通过实验设计或用户研究数据支持这一行为模式描述，可直接查阅原文验证)
- ◐ 部分可验证: 薄弱的批准可能成为训练信号，奖励系统易于批准而非易于审查 (论文可能提供理论分析或模拟实验，但实际AI系统的训练反馈机制需具体案例验证)
原文内容:
HuggingFace 的新论文认为，增加代理的自主性可能会逐渐使人类监督失效，因为这会导致批准疲劳、过度依赖、情境意识丧失以及技能退化。 随着代理执行更多任务，用户会被推入批准模式：浏览计划、授予权限，并重建跨步骤发生的事情。 随着时间推移，自动化偏见、批准疲劳、较弱的情境意识以及技能萎缩可能会使这些批准变得不可靠。 更糟糕的是，薄弱的批准可能会成为训练或评估信号，奖励系统易于批准而非易于审查。 他们的答案是在两个层面提供认知支架：开发者添加战略性摩擦、更好的批准设计、行为监控，以及在关键时刻强制注意力的检查。 – arxiv.org/abs/2608.23642 标题：“AI 代理将人类挤出循环”
⏰ 11:28 | ❤️ 729点赞 | 📝 232字 | 查看原文 →
ℏεsam @hesamation
apes made fire, then GPUs, then ASI | 影响力: 0万粉丝
💡 核心观点: 谷歌Gemini 3.5 Pro表现不佳，落后中国实验室，期待Gemini 4突破。
可信度: 8/10 – 1项声明可直接验证；2项需进一步确认；2项为观点陈述
事实核查:
- ◐ 部分可验证: Google 扼杀了 Gemini 3.5 Pro，因为它并没有比 Flash 好多少 (需通过官方性能对比数据或第三方评测验证 Gemini 3.5 Pro 与 Flash 的性能差异，但“扼杀”动机属于推测，无法直接验证。)
- ◦ 观点: Flash 甚至算不上当今前沿的一个好模型 (对模型质量的评价缺乏量化标准，属于主观判断。)
- ✓ 可验证: Google 有 TPU 和全世界的全部数据，可他们还是输给了那些搞不到 H100 的中国实验室 (中国实验室的具体进展及资源对比涉及未公开信息，且“输给”为模糊结论。)
原文内容:
妈的… Google 扼杀了 Gemini 3.5 Pro，因为它并没有比 Flash 好多少，而 Flash 甚至算不上当今前沿的一个好模型。 Google 有 TPU 和全世界的全部数据，可他们还是输给了那些搞不到 H100 的中国实验室。 Gemini 4 还在后训练阶段。 我真的希望他们这次能搞出点名堂。
⏰ 06:14 | ❤️ 126点赞 | 📝 82字 | 查看原文 →
Ethan Mollick @emollick
Professor @Wharton studying AI.
New book, Co-Existence, coming October 20. Preorder here: https://co-existence.ai
Substack: https://oneusefulthing.org | 影响力: 0万粉丝
💡 核心观点: AI代理能力远超公众认知且差距持续扩大。
可信度: 5/10 – 2项需进一步确认；2项为观点陈述
事实核查:
- ◦ 观点: 我们正处于人工智能能力与公众认知之间的又一个巨大鸿沟 (该声明是主观判断，未提供具体数据或标准来定义“鸿沟”的规模或衡量依据，属于观点性表述。)
- ◐ 部分可验证: 指数级增长意味着这个鸿沟正在随时间扩大 (若假设“指数级增长”指AI技术发展速度（如算力、模型规模等），部分可通过行业报告（如AI指数报告）验证趋势，但“鸿沟扩大”仍需主观解读，缺乏直接关联证据。)
- ◐ 部分可验证: 代理现在真正能够进行长期的自主组织工作 (需依赖具体案例或实验（如AutoGPT、AI代理框架的公开演示），但“长期”和“自主组织”的定义模糊，实际能力可能受任务复杂度限制，需进一步实测验证。)
原文内容:
有了代理，我们正处于人工智能能力与公众认知之间的又一个巨大鸿沟。指数级增长意味着这个鸿沟正在随时间扩大。 突然间，代理现在真正能够进行长期的自主组织工作。这需要一种新的AI方法。
⏰ 05:50 | ❤️ 321点赞 | 📝 80字 | 查看原文 →
相关文章
