小狸逛学

Anthropic 与 Theorem 公布了一项实验：让 Claude 为 123 个 OSS-Fuzz 开源库、239 个入口点生成形式化证明，目标是在 RISC-V 编译后的机器码层面证明特定输入范围内不会崩溃；项目产生约 1.8 亿行 Rocq 证明，并发现和修复了多类长期未被模糊测试抓到的越界读写、计数器下溢等问题。证明由 Rocq 内核检查，减少了“模型说自己正确”的信任问题。（Anthropic）

重要性在于：AI 编程的瓶颈可能不再只是生成代码，而是让代码进入可审计、可复用的证明链。若证明成本继续下降，安全关键库、压缩算法和协议实现会出现新的工程分层。

但这不是“AI 已证明软件没有漏洞”。实验的结论受限于既定规格、单线程静态二进制、RISC-V、Linux 语义和不超过 64MB 的输入范围；规格本身若没有覆盖真正想要的行为，证明也不会替人补上需求。Hacker News 讨论还指出，当前证明往往非常冗长，复杂项目可能会撞上抽象和模块化的规模墙。可信度：实验结果已公开，外部复核仍是关键下一步。

NVIDIA 的 OpenShell 定位为自主 AI 代理集群的安全、私有运行时。其设计包括隔离沙箱、内核级文件与系统调用控制、网络连接策略，以及在策略变更生效前用形式化验证检查新增权限；凭据不直接暴露给代理，而是在访问获准端点时由系统注入。项目采用 Apache-2.0，GitHub 页面显示仓库已获超过 1.7 万星。（GitHub/NVIDIA OpenShell）

这说明代理基础设施的竞争点正在从“能不能调用工具”转为“调用工具时能否把边界说清并强制执行”。对企业而言，文件权限、出网域名、凭据范围和人工审批，比一条更长的系统提示词更接近可操作的安全控制。

反方也很具体：Hacker News 用户担心代理即使只能访问白名单域名，也可能通过请求频率、公开仓库、论坛阅读量等侧信道慢慢外传数据；沙箱、网络代理、凭据替换并不自动解决“允许的通道被滥用”。因此 OpenShell 更像一层重要防线，而不是代理安全的终点。可信度：仓库和文档可直接查看；实际隔离强度仍应以独立审计和攻击测试为准。

哈佛—史密松天体物理中心研究者 P. K. G. Williams 在 arXiv 发表论文《AI 与科学共同体的圈地》，把科学文献视为一种“信息公地”，并提出一种值得警惕的变化：模型可以大规模生成看似有信息、实际低价值的“slop spam”，挤压检索、同行交流和知识维护的时间；与此同时，模型公司可能把公共文献转化为私有能力，收益集中在少数平台，维护公共知识的社会机制却被削弱。（arXiv:2610.27251）

这篇论文是概念和政治经济学框架，不是对 AI 已造成损失的因果测量，不能直接当成定量结论。但它提出了一个现实问题：当内容生产成本接近零，稀缺的就不再是文章，而是可信筛选、作者责任、出处和可复核性。未来科研平台的竞争，可能不仅是“谁能搜到论文”，也是“谁能证明这条信息值得被保留”。

• Hacker News 今日热帖：Quad9 宣布将退出法国，讨论焦点集中在监管、司法管辖和公共 DNS 的运营风险。（Quad9）
• GitHub 今日趋势出现 `anthropics/knowledge-work-plugins`，定位是面向知识工作者的开源插件集合。（GitHub Trending）
• GitHub 趋势项目 `Acelogic/Snapintosh` 试图在 Snapdragon X2 Elite 设备上启动 macOS，并提供 Adreno 图形栈；项目仍属实验性硬件软件栈。（GitHub）
• Hacker News 热帖讨论“AI 算力是新石油，需要新市场”，核心争论是算力供给、资本投入与价格发现机制，而非单纯模型能力。（Hacker News）
• `modelcompare.ai` 上线多模型并排比较与 MCP 接入，页面称其模型评分引用 Artificial Analysis；这是产品方展示，不能等同于独立基准测试。（ModelCompare）
• Hacker News 另一个高讨论度主题是“每个 AI 模型对人类都有相似的争议性判断”，可作为模型偏好、训练语料和提示设计的观察样本，不宜当作心理学结论。（ModelCompare）

本文只把已发生、可打开核对的内容写成事实；对于仍需独立验证的性能与安全承诺，保留厂商自述和讨论中的限制。