作者小头像 Lv.3
更多个人资料
297 成长值
0 关注
0 粉丝
+ 关注 私信

个人介绍

这个人很懒，什么都没有留下

感兴趣或擅长的领域

暂无数据
个人勋章
  • 活跃之星
成长雷达
270
27
0
0
0

个人资料

个人介绍

这个人很懒，什么都没有留下

感兴趣或擅长的领域

暂无数据

达成规则

以上满足项可达成此勋章

  • 博客
  • 关注
  • 粉丝
  • 论坛
全部时间
全部时间
最近三天
最近一周
最近一月
  • 全部
  • 暂无专栏分类
Constitutional AI：通过 AI 反馈实现无害性
随着 AI 系统能力不断增强，我们希望能够借助 AI 本身，来监督其他 AI。我们尝试了一套训练“无害 AI 助手”的方法：模型通过自我改进来学习减少有害行为，而整个过程中，不需要人类逐条标注哪些输出是有害的。人类唯一提供的监督，是一组规则或原则。因此，我们把这种方法称为：Constitutional AI，宪法式 AI。整个训练流程包含两个阶段：监督学习阶段；强化学习阶段。监督学习阶段在监...
机器学习
作者小头像 yd_298479158 2026-10-22 05:24:35
58
0
0
2026-10-22 05:24:35
58
0
0
PHP 官方预告两个严重安全漏洞
两个漏洞编号为 CVE-2026-109618 和 CVE-2026-109619。CERT-EU 指出，潜在影响可能覆盖 PHP 5 以来的多个版本。Pixiv等网站已紧急停运维护，以应对本次漏洞事件。推荐检查 Nextcloud、Typecho、WordPress 等站点，同步最新更新以减少漏洞造成的损害。
PHP
作者小头像 yd_298479158 2026-10-21 22:42:40
54
0
0
2026-10-21 22:42:40
54
0
0
简单 Probe 就能抓住 Sleeper Agent
这篇 Alignment Note 介绍了 Anthropic Alignment Science 团队的一项早期阶段研究，延续我们此前关于 Sleeper Agent 的工作。它应该被视为一个仍在推进中的技术更新，面向的读者也比一般博客文章更加技术化。这项研究使用了一些非常简单的可解释性方法。我们预计，未来还会继续分享 Alignment 团队与 Interpretability 团队之间...
机器学习
作者小头像 yd_298479158 2026-10-20 18:03:46
67
0
0
2026-10-20 18:03:46
67
0
0
语言模型中的全局工作空间
当你阅读这句话时，大脑中的许多电路正在同时运作：调整姿势；控制呼吸；把屏幕上的线条和曲线识别成文字。这些处理大多不会进入你的主观意识。但有些脑内活动，你能够直接“访问”到。例如：脑海里突然浮现的一幅画面；你主动制定的购物计划；你刻意思考的一道题。神经科学家和哲学家有时会把后一类活动称为：Consciously Accessible，有意识可访问。与那些完全自动、你无法直接意识到的处理相比，这...
机器学习
作者小头像 yd_298479158 2026-10-17 18:22:08
76
0
0
2026-10-17 18:22:08
76
0
0
自然语言自编码器：把 Claude 的“思维”变成文字
当你和 Claude 这样的 AI 模型对话时，你使用的是自然语言。但在模型内部，Claude 会先把这些词转换成很长的数字列表进行处理，最后再重新输出文字。中间这些数字被称为：Activation，激活。它们有点类似人类大脑中的神经活动，会编码 Claude 当前正在处理的信息，甚至可以把它们粗略理解成模型的“思维”。但就像神经活动一样，Activation 很难直接理解。我们不能简单地把...
机器学习
作者小头像 yd_298479158 2026-10-14 20:53:24
75
0
0
2026-10-14 20:53:24
75
0
0
追踪大型语言模型的思路.md
大型语言模型并不是由人类直接编程出来的。相反，它们是在大量数据上训练，在训练过程中自己学会解决问题的策略。这些策略被编码进模型生成每一个词时所执行的数十亿次计算中。对包括模型开发者在内的人类来说，这些计算依然高度不透明。这意味着：我们并不真正理解模型是如何完成大多数任务的。如果能够知道像 Claude 这样的模型究竟是如何“思考”的，我们就能更好地理解它们的能力，也更容易确认它们是否真的按照...
机器学习
作者小头像 yd_298479158 2026-10-13 17:51:06
81
0
0
2026-10-13 17:51:06
81
0
0
扩展可解释性研究时面临的工程挑战
在本文以及配套的圆桌讨论视频中，我们的研究人员回顾了科学进展与工程进展之间非常紧密的关系，并讨论了将可解释性研究扩展到更大规模 AI 模型时遇到的技术挑战。去年 10 月，Anthropic 可解释性团队发表了《Towards Monosemanticity》，将 Dictionary Learning 应用于一个较小的 Transformer 模型。今年 5 月，我们又发表了《Scalin...
机器学习
作者小头像 yd_298479158 2026-10-12 21:10:41
78
0
0
2026-10-12 21:10:41
78
0
0
用 Claude 3.5 Sonnet 抬高 SWE-bench Verified 的标杆
我们最新升级的 Claude 3.5 Sonnet 在软件工程评测 SWE-bench Verified 上取得了 49% 的成绩，超过了此前最先进模型的 45%。本文介绍我们围绕模型构建的 Agent，并希望帮助开发者从 Claude 3.5 Sonnet 中获得尽可能好的表现。SWE-bench 是一项评测 AI 模型真实软件工程能力的 Benchmark。它具体测试模型能否解决流行开源...
Bash GitHub
作者小头像 yd_298479158 2026-10-11 12:57:42
147
0
0
2026-10-11 12:57:42
147
0
0
三起近期问题的故障复盘
从 8 月到 9 月初，三项基础设施 Bug 间歇性地降低了 Claude 的响应质量。我们现在已经解决这些问题，并希望解释到底发生了什么。8 月初，一些用户开始反馈 Claude 的响应质量下降。最开始，这些报告很难与正常的用户反馈波动区分开来。到了 8 月下旬，相关反馈的频率和持续性不断增加，促使我们正式展开调查，并最终发现了三个彼此独立的基础设施 Bug。需要明确说明的是：我们绝不会因...
NAT
作者小头像 yd_298479158 2026-10-10 13:07:53
128
0
0
2026-10-10 13:07:53
128
0
0
我们如何在不同产品中对 Claude 进行隔离与约束
十二个月前，如果有人提出给 Claude 足以让 Anthropic 内部某项服务瘫痪的访问权限，我们大概会直接否决。今天，这种级别的访问已经变得很常见，而且 Anthropic 的开发者也因此获得了更高生产力。这类部署的风险主要由两部分组成：失败发生的概率有多高；一旦失败，可能造成多大损害。随着安全防护和模型训练不断进步，第一个因素一直在下降。但第二个因素，也就是理论上的“爆炸半径”，会随...
作者小头像 yd_298479158 2026-10-09 15:13:54
89
0
0
2026-10-09 15:13:54
89
0
0
总条数：24
10
10
20
50
100
  • 1
  • 2
  • 3

上滑加载中

https://www.baidu.com/s?ie=utf-8&f=3&rsv_bp=0&rsv_idx=1&tn=baidu&wd=sed%20%E6%9B%BF%E6%8D%A2%E5%AD%97%E7%AC%A6%E4%B8%B2&rsv_pq=c7db61a600035dc5&rsv_t=5e19yEsbV9N5fIvdlGRU
作者小头像
作者小头像
快速交付
+ 关注