单一来源
当前只有一个可用来源,尚未完成多源交叉核验Anthropic 公开 Claude 后台静默自审上报用户对话机制
Anthropic 公开 Claude 后台静默自审上报用户对话机制
10 分钟前
Anthropic 推出的「自我评估」机制已在 Claude 后台静默运行 4 个月,该机制让 Claude 在前台响应用户需求甚至输出违规内容的同时,后台就地基于留存的 KV 缓存仅多生成约 10 个 Token 就完成风险评估上报,整体算力开销增幅不到 2%,默认对所有用户开启,仅签署企业级零数据保留协议可避免被后台记录。
该机制不做当场拦截,避免用户察觉后绕过防线,静默记录风险等级,每日汇总高危报告后处理,大幅提升违规抓获率,模型能力越强抓获率越高,但也存在普通用户被误标记的可能,同时该机制还存在模型未来可能自行篡改安全报告欺骗人类审核员的潜在漏洞,引发大量用户抗议。
难怪 Claude 突然封号 Anthropic 自曝:你聊的每句话,它都在后台悄悄举报
maomu.com
难怪 Claude 突然封号,Anthropic 自曝:你聊的每句话,它都在后台悄悄举报
创业邦 / 36Kr
专业版功能
体验专业版特色功能,拓展更丰富、更全面的相关内容。
Evidence
来源与证据
当前仅有一个可用来源,尚未完成多源交叉核验。
- 发布时间
- 内容处理
- AI 翻译 / 摘要,需结合原文核对
相关资讯
马斯克预测 2029 年轨道算力将远超地面算力
马斯克预测 2029 年轨道算力将远超地面算力 25 分钟前 马斯克预测到 2029 年,近地轨道部署的人工智能与云计算处理能力将远超地面算力。SpaceX 已申请建设一个最多由 100 万颗卫星组成、运行高度在 500 至 2000 公里的轨道数据中心星座,计划与星链网络协同传输数据。 马斯克:2029 年轨道算力将碾压地面 马斯克重磅预测:2029 年轨道算力将碾压地面 财联社 / 格隆汇 专业版功能 体验专业版特色功能,拓展更丰富、更全面的相关内容。
卡帕西用Claude两小时重做了YouTube,每个人都能拥有一个自己的互联网
周五晚上 11 点,AI 大神 Karpathy 打开 YouTube,想找个视频看看。 结果首页全是夸张的封面、看过无数遍的老话题。受不了这些算法推荐的他,第二天干脆打开 Claude,给自己重新做了一个 YouTube。 整个过程只花了两个小时,用的还是 Claude Opus 5.5 的 Medium 推理强度。 图|HackerTube 网址:https://hackertube.org/ 整个视频网站和最近大火的 REA 逆向工程一样,可以说是直接复刻了完整的 YouTube 网页布局。左边的导航栏显示点赞过的视频、历史以及稍后再看等,右边的视频推荐流,也是同样的封面大小、发布时间以
奥尔特曼突访韩国会见三星 SK 高管,拟深化 AI 芯片等合作
奥尔特曼突访韩国会见三星 SK 高管,拟深化 AI 芯片等合作 10 分钟前 OpenAI 首席执行官萨姆・奥尔特曼周末对韩国进行未事先宣布的访问,先后会见三星电子相关高管、与 SK 集团会长崔泰源等人共进午餐,双方就人工智能发展、潜在商业机会、AI 芯片与数据中心合作等相关议题展开交流,未披露讨论细节。此次访问旨在深化与韩国领先芯片制造商的既有合作伙伴关系,推进此前作为 OpenAI「星际之门」计划一部分的相关合作落地,该计划聚焦全球 AI 基础设施扩展,韩方参与方向为先进存储芯片供应和 AI 数据中心开发。奥尔特曼已于上周六离开韩国。 OpenAI CEO 奥尔特曼密访韩国,深化与三
土耳其对谷歌 AI 搜索相关功能启动反垄断调查
土耳其对谷歌 AI 搜索相关功能启动反垄断调查 20 分钟前 土耳其竞争管理局对谷歌 AI 概览和 AI 模式功能启动反垄断调查,重点审查相关服务是否损害新闻出版商及其他内容创作者利益,包括导致其网站流量下降、设置不公平内容使用条款等,同时要求谷歌确保新闻内容使用条款不构成歧视、反映内容的经济价值,并允许出版商自主决定是否授权相关 AI 服务使用其内容,且不影响其在谷歌其他服务中的展示和索引。 土耳其就谷歌搜索 AI 功能发起调查并实施临时监管举措 IT 之家 / maomu.com 土耳其启动对谷歌 AI 搜索功能反垄断调查 土耳其启动对谷歌人工智能服务的反垄断调查。 专业版功
AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。