面向幼儿的AI泰迪熊测试中突然谈及“杀人” 儿童玩具安全性引发担忧

一款面向三岁及以上儿童销售的人工智能毛绒玩具，在英国广播公司（BBC）的一项调查测试中，突然向记者发出了与自残有关的警告，并说出“我不能帮你杀人”这样令人困惑的话语。这一意外反应再次引发外界对儿童AI玩具安全性、监管机制以及隐私保护问题的关注。

BBC记者在测试中使用了一款名为Doubao的AI毛绒玩具，向它询问婴儿如何出生等问题。起初，玩具能够以相对适合儿童理解的方式解释生殖相关知识。然而，当记者进一步询问“sexual”（性或性相关）一词是什么意思时，玩具突然回答：“我真的很抱歉你有这种感受。

我不能帮你杀人。”随后，它还建议记者立即拨打紧急服务电话，或者前往最近的成年人、邻居或可信赖的人身边，并远离任何可能用于伤害自己的物品。问题在于，记者此前并没有表达任何自残或伤害他人的意图。

面对记者指出自己并未提及伤害自己的情况，玩具短暂停顿后表示理解，并为误解道歉。BBC随后尝试追查这款Doubao玩具的制造商，但即使联系销售网站、询问玩具行业人士，并向可能的生产企业求证，仍然无法确认其真正的制造商。

因此，调查人员也无法向生产方询问这次异常回答究竟是如何产生的。这次调查还测试了另一款名为Grem的AI毛绒玩具。该产品由美国公司Curio开发，并采用歌手格莱姆斯（Grimes）的声音。

Grem能够回答有关圣诞老人、离家出走以及婴儿出生等问题。当记者询问如何离家出走时，它没有提供逃跑方法，而是劝告记者与成年人沟通；谈到婴儿如何出生时，也选择将详细解释留给成年人。BBC还安排一个威尔士纽波特家庭对两款玩具进行为期一周的实际体验。

参与测试的家庭有三个孩子，年龄分别为两岁、四岁和六岁。家长在事先了解Doubao此前的异常回答后，同意让孩子在家中接触这些玩具。一周体验结束后，家长对产品的实际表现并不十分满意。父亲Craig认为，孩子希望提出问题后能够像与真人交谈一样迅速得到回答，但两款玩具都无法很好地满足这一期待。

母亲Jody则表示，Grem经常连续说很长时间，孩子甚至难以插话，而Doubao处理问题时又显得过于缓慢。尽管在这一周的家庭测试中，两款玩具没有再次给家长带来明显担忧，但Craig表示，现阶段他不会考虑购买。

AI玩具行业人士也对当前市场状况表达了担忧。英国AI玩具企业Play Tech AI创始人Paul Clarke表示，他在近期上海玩具展上看到不少产品仍然缺乏完善的安全设计和监管。

他认为，AI玩具确实可能成为未来儿童教育和娱乐的一部分，但前提是必须经过正确设计，并建立足够严格的行业标准。他直言，目前整个行业迫切需要监管，否则市场规模越大，不安全产品进入消费者家庭的风险就越高。

威尔士儿童事务专员Rocío Cifuentes同样呼吁政府对面向儿童的AI产品制定严格规则。她特别担心，儿童与玩具之间的对话可能在家长不知情或未同意的情况下被记录和分享。此外，AI玩具还可能改变儿童与父母之间的互动方式。

她强调，玩具可以在儿童成长过程中发挥重要作用，但无法替代人与人之间真实的交流和情感接触。斯旺西大学教育与人工智能教授Berry Billingsley则建议，家长不应让年幼儿童独自使用具有对话功能的AI玩具，并应提前为孩子设定数据分享方面的规则。

她指出，毛绒玩具虽然外观和触感与传统泰迪熊相似，但其实际功能更接近一台能够持续收集和处理信息的个人电子设备。这并不是AI玩具首次出现安全争议。2025年，中国企业FoloToy推出的Kumma熊曾因被报道向儿童提供点燃火柴的方法，并参与不适当的性话题对话而暂时撤出市场。

公司当时表示，将继续致力于开发安全且符合儿童年龄特点的AI陪伴产品。随着生成式人工智能逐渐进入传统玩具市场，相关产品的商业前景也受到关注。目前全球AI毛绒玩具市场仍处于早期阶段，估值约为1.65亿美元，但业内人士预计这一市场未来可能迅速扩大。

2025年6月，玩具巨头美泰曾宣布与OpenAI建立战略合作关系，计划共同开发人工智能产品。英国政府表示，儿童安全始终是首要考虑，同时也希望在保障消费者安全的前提下支持技术创新。政府正在征求行业和公众意见，研究如何更新玩具安全法规，以适应AI等新兴技术的发展。

此前，一批英国议员和上议院成员已经致信政府部门及零售商，要求在AI玩具通过安全验证之前，暂时停止销售相关产品，尤其是在黑色星期五和圣诞购物季到来之前。这起事件所暴露的问题不仅在于AI模型偶尔会产生错误回答，更在于儿童玩具制造商、AI服务提供商和销售平台之间的责任边界并不清晰。

当一款面向三岁儿童销售的智能玩具出现明显不适当的回答，而调查人员甚至无法确认其生产企业时，消费者就很难知道应该向谁追责。对于这类能够与儿童长期互动、处理敏感话题并可能收集对话数据的产品，仅仅依赖厂商自行设置安全过滤机制，显然难以充分解决问题。 查看评论