跳到正文
认知
返回AI 简报
AI 简报科技2 天前5
单一来源当前只有一个可用来源,尚未完成多源交叉核验

OpenAI 称 ChatGPT 可自动终止表现出暴力执念的对话,并承诺定期发布社区安全报告

IT之家 10 月 31 日消息,OpenAI 于当地时间 10 月 30 日发布博文表示,维护社区安全始终是 OpenAI 的重中之重。其日常工作包括主动向执法机关通报迫在眉睫的暴力威胁。

仅在 2026 年第三季度,OpenAI 就向执法部门移交了 200 余起案件线索。OpenAI 承诺定期发布《社区安全报告》(Community Safety Report),系统公开在暴力预防、其他社区安全议题以及各项防护机制实际成效方面的进展。

首期报告将于 2027 年初正式发布,涵盖 2026 年下半年的安全数据,此后每半年更新一次。IT之家获悉,OpenAI 针对 ChatGPT 如何回答有关既往大规模恶性袭击事件及凶手的问题增设了额外限制:即便相关信息已在网络公开发布,系统也会严格受控,仅提供极度精简的信息。

与此同时,公众仍然可以通过 ChatGPT 了解此类事件的全貌、受害者与社区受到的影响,并学习如何识别危险预警信号以防范未来暴力。但 OpenAI 进一步收紧了安全策略,坚决限制对既往大规模袭击事件的细节复盘,包括所涉武器装备的参数、获取途径,以及可能助长凶手恶名的伤害规模对比。

无论用户的年龄大小或提问动机如何,上述限制均无差别适用。此外,当对话显示用户开始执念于暴力、或萌生严重伤害他人的念头时,ChatGPT 可自动终止当前对话,从而即时阻断这种心理与行为倾向。

若同一账户因该原因导致对话被多次强制中断,OpenAI 可能会临时冻结该账户。OpenAI 还宣布,对青少年可获取的涉枪涉武器信息增设了更严格的门槛,即便相关提问表面看似无害也会受到限制。

即便用户未显露任何暴力意图,系统也将全面限制提供可能被滥用以滋生暴力的武器实用知识以及安防系统绕过信息。OpenAI 目前正加紧开发新功能,以便在青少年账户因反复讨论暴力内容被临时冻结时,第一时间向家长推送通知。

Evidence

来源与证据

单一来源 · 1 个信源

当前仅有一个可用来源,尚未完成多源交叉核验。

发布时间
内容处理
AI 翻译 / 摘要,需结合原文核对
内容有误或来源失效?告诉我们
科技

Claude紧急叫停!暗改Harness禁止逆向游戏

Claude紧急叫停!暗改Harness禁止逆向游戏 最近几天,X上有一条推文火了。 一个叫chasm的博主发现,Claude Code好像正在悄悄打击游戏克隆,不许用它来复刻其他游戏。 很快,Anthropic官方也确认了。技术人员说,他们在Opus 5.5模型的系统提示词里加了两句话,引导Claude不要去“重新创建一个属于别人的特定游戏”。 这太符合Anthropic一贯重视安全的风格了。但真的有用吗? 一个多月前,强大的Opus 5.5发布,就像打开了游戏克隆的潘多拉魔盒。破解、修改、移植游戏,变得前所未有的简单。 你敢信吗,现在都不用买主机和正版盘,直接在浏览器里就能玩上

9单一来源
科技重要

【开源发布】vLLM v0.33.0

vLLM(vllm-project/vllm)发布 v0.33.0。更新说明:vLLM v0.33.0

12一手来源
科技

阿里千问 AI 眼镜 OTA 升级:新增通话翻译、媒体翻译等

首页 > 智能时代>智能穿戴 阿里千问 AI 眼镜 OTA 升级:新增通话翻译、媒体翻译等 2026/11/1 17:03:59 来源:IT之家 作者:浩渺 感谢IT之家网友 华南吴彦祖 的线索投递! IT之家 11 月 1 日消息,阿里旗下千问 AI 眼镜今日迎来 OTA 升级,新增通话翻译、媒体翻译等,抗噪能力再升级。 IT之家整理如下: 新增通话翻译,打电话、线上会议跨国无障碍实时翻译。 新增媒体翻译,听海外播客、上外语网课、看外语大片,支持实时翻译,千问 AI 穿戴 App 同步显示译文。 抗噪能力再升级,优化嘈杂环境下的语音识别,让同声传译更准确、更及时。 千问 A

11单一来源
科技

清华姚期智团队新作:代数世界模型,让AI像牛顿一样思考

清华姚期智团队新作:代数世界模型,让AI像牛顿一样思考 让AI像牛顿一样思考 「让AI像牛顿一样思考」,这件事,终于有望了。 清华大学姚期智和袁洋老师领导的科研团队,搞出了一个重磅项目,叫「代数世界模型」(Algebraic World Model,AWM)。 之前大家老爱问一个问题: 如果让AI只学习牛顿发现万有引力之前的所有知识,它能自己把万有引力给推导出来吗? 尴尬的是,训练数据容易被污染,很难复原出这样的情景:打造一个完全陌生的世界,让AI从0开始观察和实验。 但如今,代数世界模型给出了一种新解法。让AI从观察和实验出发,进一步理解世界这件事,变得没那么遥远了。 AI玩

12单一来源

每天早上收到这 5 条

免注册,填邮箱即可;每封邮件都能一键退订。

提交即表示同意按隐私说明保存你的邮箱,只用于发送简报。

或用 RSS 订阅

AI 翻译、摘要和解读仅用于辅助判断;涉及重要决策时,请回到上方来源核实。