概率系统为什么总被看成确定答案
导读
加拿大航空的聊天机器人向乘客承诺并不存在的退款政策。模型给出概率性猜测，服务界面却把它写成可执行事实。
文章借此讨论“概率设计”：怎样让产品显示不确定性，并持续用现实校准输出。## 背景 Qwen 3.8 27B 的默认推理强度过高。
想得更多，为什么不等于看得更准
导读
今天的问题由一个很小、却很具体的设置打开：Qwen 3.8 27B 很强，但默认推理强度高得离谱。关掉一部分思考，它反而更快，也更像一个可用的工具。直觉会把这理解成模型调参；
八篇材料却把问题推向判断链的不同位置。加拿大航空的聊天机器人先让风险现形：概率性的猜测被界面写成确定的退款承诺。随后，海洋气球提醒我们，模型不能凭推理补出世界里从未采到的观测；
数学协作和 Gemini 的组织变动则说明，参与者越多，分工与复核越重要。皮尔斯把问题再往下挖：认知本来就没有可靠来源的内置标记。
人类专家同样会预测失败，开源透明性也只能创造纠错条件，不能替人完成判断。于是答案不再是让 AI 少想一点，而是把推理放回一条能接触现实、暴露不确定性、接受复核并有人承担后果的链里。
最后，夏笳留下更难的一问：当问题本身还没有被定义，机器能够增加答案，谁来形成问题？
更多推理只能增加可能的答案，不能自行提供判断的尺度。判断质量取决于系统是否持续接触现实、是否暴露不确定性、能否把复杂工作拆成可复核的部分，以及错误发生后有没有人承担后果。
材料也反驳了‘人来把关就好’的轻松答案：人类专家同样会失准，组织也会失去协调。可行的不是寻找不会犯错的主体，而是建立允许错误被看见和纠正的关系。
模型想不出的东西，要去海上测量
导读
WindBorne 维持着约六百只长航时气球，让它们飞过海洋、极地和热带气旋。部分气球完成高空任务后还能落海，转成漂浮的气象浮标。
WeatherMesh 的能力增长，首先来自传感器抵达了缺少数据的地方。## 背景 概率界面能提醒人答案可能出错，却无法消除世界本身的观测缺口。
陶哲轩相信 AI，但更相信可验证的协作
导读
陶哲轩多年推动开放数学协作，也积极试用 AI 与形式证明工具。博学项目显示，许多人并行工作能够加速突破；
博客平台、错误累积和主持人复核，也让协作的代价变得可见。## 背景 Anthropic 的多智能体漏洞研究显示，协调式系统发现了 266 个漏洞，独立并行方式只发现 21 个。
模型竞争背后，是一场组织协调
导读
Google DeepMind 的日常经营权发生交接，多位资深科学家离开。接任者 Koray Kavukcuoglu 既有研究履历，也长期处理预算、算力和团队冲突。
Gemini 下一阶段的压力同时落在模型与组织上。## 背景 数学协作可以把成果落到证明，公司里的成败却鲜少拥有完整验证器。
为什么流畅的推理不能替自己作证
导读
皮尔斯质疑无需推理、直接把对象交给心灵的“直观知识”。认知没有内在标记，可以证明自身来自可靠源头。
人对自我和世界的认识也经过可错的推断，连贯感无法成为正确凭证。## 背景 组织可以安排复核，但复核为何从起点就不可省？
别把最后一道防线想象成人类专家
导读
这期夏季阅读对谈谈到专家预测研究，其中专业身份与预测准确率并不总是同行。节目同时讨论 AI 的经济影响，把机器输出与人的预测放进同组不确定事件。
## 背景 皮尔斯说明认知没有自证标记，专家预测则把问题带回公共生活。许多 AI 治理方案把人工审核放在末端，这项安排有必要，却不会自动终止错误。
开放不会消灭错误，但能让错误被看见
导读
文章反对以安全之名禁止开源 AI。作者援引开源软件的历史，认为透明的代码与模型能让更多工程师检查缺陷、共同修复，并限制少数公司的控制。
可靠性由此被放进更大的纠错共同体。## 背景 机器和专家都可能出错，问题便从“相信谁”转向“什么关系能更早暴露错误”。
答案可以计算，问题由谁形成
导读
夏笳从截稿压力、疫情中的孤独与《三体》的“人列计算机”写起。她区分能处理定义清晰问题的智能，与问题尚未成形时所需的智慧。
故事末尾，变化来自回复邮件、恢复通信，重新进入关系。## 背景 开放可以扩大纠错，纠错却仍发生在已经形成的问题里。本期最后回到问题诞生之前。