简体 - 正體 - 手机版 - 电子报

人民报 
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
 
 
 

先「诋毁」毛泽东、再侮辱中国人智商 中国国产AI机器人管不住了?
 
【人民报消息】中国一款面向儿童的「智能」手表最近给出涉嫌侮辱中国人智商、诋毁中国「四大发明」的答案,引发中国网民讨伐。此前,中国一款AI学习机「创作」出一篇公然批评中共前领导人毛泽东的作文,引起轩然大波。尽管中国政府试图全方位对AI内容进行审查和监管,但分析认为,AI训练基于民间言论中的多种声音,即便是中国国产AI产品也难免与官方口径不一致。 儿童「智能」手表辱华? 中国AI监管疏失引热议 据美国之音报导,一名中国河南的家长8月22日反映,两年前买的一块「360儿童手表」在回答「中国人是世界上最聪明的人吗」的问题时,竟然给出基于人种长相的回答,并称中国人中「笨的」「是世界上最笨的」。 网上流传的手表使用视频显示,在被问及这一问题,手表发出的语音回答说:「以下内容来自360搜索」--「因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大,其实中国聪明的人是有,但笨的我承认是世界最笨的。」 这款手表还公然「诋毁」中国古代四大发明的答案。手表给出的「智能」答案还质疑道:「什么四大发明,你看见了吗?历史是可以捏造的,而现在的手机、电脑、高楼大厦、公路等等所有高科技都是西方人发明的」。 一时间,360儿童手表搜索功能出现「不良答案」的消息登上中国社交媒体热搜。网名为「久久思尔」的微博用户评论道:「没想到连手表问答都这么离谱,这个问题要重视啊!小孩子什么都不懂很容易被带偏的……你们接入第三方数据都不审核吗」。 博主「京畿道小骂」说:「好可怕,是被外部渗透了把。」 博主「惊奇数码」说:「360能不能好好做产品,整天别做那么多营销了。」 8月22日,360集团创始人、董事长周鸿祎在社交媒体作出回应说,这款儿童手表给出离谱答案并不是基于严格意义的人工智能(AI),而是「而是通过抓取互联网公开网站上的信息来回答问题」。他说:「目前我们已经快速完成了整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。」 「奇虎360」(全称「三六零安全科技股份有限公司」)是中国大陆的一家以网络安全产品起家的的互联网公司。在人工智能概念的市场驱动下,360也开始进军AI电子消费品市场。 虽然董事长周鸿祎撇清了涉事儿童手表与该公司AI技术的关联,但据网上官方资料显示,其出品的「M1」儿童智能手表能够进行「AI智能学习」、「AI定位」。今年7月,360公司高调宣称,推出「全球首款接入360智脑大模型的AI儿童手表」、「A9红衣版」。 中国智能产品AI「幻觉」现象层出不穷 360等科技企业在蹭AI热度、抢占生成式人工智能市场时,必须遵守中国当局对内容监管的束缚。但AI「失控」口出狂言,成为这些科技公司面临的一个难题。 以美国OpenAI出品的ChatGPT为代表的生成式人工智能工具已经面试,就遇到了所谓AI「幻觉」(hallucination)的难题。AI「幻觉」指的是AI问答工具常常在一些问题上信口开河,以貌似客观权威的文风给出具有误导性的答案,甚至是严重的不实信息。科技公司在测试和操作时难以控制。 计算机科学家将这一现象形容为「一本正经的胡说八道」。在回应中,周鸿祎也提到了AI「幻觉」。他说:「目前人工智能存在一个全世界公认的难题就是它会产生幻觉,也就是它有的时候会胡说八道。这是大模型本身固有的特性。」 他表示360一直在试图通过与搜索的内容做对比来减少「幻觉」、做好「知识对齐」。 科技博主、微软公司前公关事务主管罗伯特·斯科布尔(Robert Scoble)说,生成式人工智能质量已经有了极大的改善,但「偶尔仍然会出现『幻觉』」。而中国当局为应对AI「胡言乱语」,必须在训练AI模型前就要对训练语料库(corpus)进行大清洗。 斯科布尔通过短信对美国之音说:「(中国)会受到某些内容的困扰,因此在训练前就要把这些内容删除,例如『天安门』问题。」 中国被认为是在规范AI立法和建立行政规定方面走在各国前沿的国家。网信办等部门2023年7月已经通过管理办法,试图对生成式人工智能(generative AI)的信息舆论导向进行管制。 暂行办法规定,具有舆论属性或者社会动员能力的生成式人工智能服务商,必须开展安全评估,并对算法备案等级。 为了监管「深度伪造」内容,中国2023年1月开始实施的管理措施要求服务提供商对那些「可能导致公众混淆或者误认的」AI生成内容进行「显著标识」,以便用户可以识别哪些图像和影音是机器「创造」的产物、哪些是真人的创作。 国产学习机曾「诋毁」毛泽东 不过,即便中国对科技企业训练AI时的内容审查提出了很高的要求,但即使是基于经过「漂白」的语料库训练出的AI大语言模型,仍然让出现让当局甚为恼火的「反动」内容。 去年有中国网民在社交媒体爆料说,中国IT企业科大讯飞生产的儿童学习机中发现了有辱毛泽东的内容。 据报道,这款AI学习机「原创」了一篇作文,称毛泽东是「没有气量,不为大局著想的人」,并指出毛泽东应为「文化大革命」负责。文章说:「文革中一些随著毛主席打下这片江山的人,都被毛主席整得苦不堪言。」 有分析说,中国经过审查过的AI工具发表「历史虚无主义」言论,反映了中国「防火墙」内与历史和政治议题相关的内容,即便经过审查,还是留下了民间的不同声音,这些观点即使不像天安门事件、中国人权记录等敏感问题上那么出格,但也未必符合官方叙事的喜好。 研究中国审查制度的「中国数字时代」编辑刘力朋美国之音说: 「监管对生成式人工智能看得非常、非常狠,但是,生成式人工智能很多时候也并不符合官方的叙事,它总有想不到的地方。」 他举例说:「如果用的是墙内『红歌网』、『毛左』网站上面(内容)训练出来的,其实上面的回答根本就跟官方不一致。那肯定会狂骂邓小平、否定所有所谓改革开放成果。这样它就会把跟官方叙事相比、错的离谱的答案给你。」
文章网址: http://www.renminbao.com/rmb/articles/2024/8/30/84808.html
打印机版

如果您喜欢本文章,欢迎捐款和支持!

 
              


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印机版
 
 

 
 
相关文章
人民报视频
中国民怨沸腾  社会火山一触即发! 整个社会戾气越来越重!|
中国民怨沸腾 社会火山一触即发! 整个社会戾气越来越重!|
辽宁建昌洪灾惨重 二百余村受灾 灾民:我们被抛弃了| #人民报
辽宁建昌洪灾惨重 二百余村受灾 灾民:我们被抛弃了| #人民报
大爷大妈占领星巴克 !下围棋、嗑瓜子 主打占座休闲不消费!
大爷大妈占领星巴克 !下围棋、嗑瓜子 主打占座休闲不消费!
辽宁葫芦岛灾后现状!志愿者:现场比视频还惨 看完现场没有不哭的!|
辽宁葫芦岛灾后现状!志愿者:现场比视频还惨 看完现场没有不哭的!|
经济大萧条下 小中产穷游 底层民众苦熬| #人民报
经济大萧条下 小中产穷游 底层民众苦熬| #人民报
毕业即失业! 大学生绝望透顶!中国青年失业率飙升 催生「烂尾娃」!|
毕业即失业! 大学生绝望透顶!中国青年失业率飙升 催生「烂尾娃」!|
 
更多文章导读
 
 
 
 
 
 
 

1. 传北戴河元老责成习做检讨 达成8点共识 (32,501次)

习近平不见踪影 出事传闻并非空穴来风(多图)
2. 习近平不见踪影 出事传闻并非空穴来风(多图) (31,031次)

传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图)
3. 传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图) (23,095次)

越共书记访华 异常一个接一个 习近平怎么了?(图)
4. 越共书记访华 异常一个接一个 习近平怎么了?(图) (21,341次)

意境搭建是个技术活(图)
5. 意境搭建是个技术活(图) (21,286次)

6. 分析:习近平权威确实受到挑战 但很快会露面 (20,367次)

李强露面再有异常(图)
7. 李强露面再有异常(图) (19,903次)

中共的威胁明朗化 以色列视中共为「不受欢迎者」(图/视频)
8. 中共的威胁明朗化 以色列视中共为「不受欢迎者」(图/视频) (19,601次)

李嘉诚用脚投票 长江基建到伦敦二次上市(图)
9. 李嘉诚用脚投票 长江基建到伦敦二次上市(图) (18,806次)

「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 )
10. 「掼蛋」变「炮蛋」 红二代的目标是这俩常委(图 ) (18,805次)

美国经济强劲 美银不再预测经济衰退(图)
11. 美国经济强劲 美银不再预测经济衰退(图) (18,713次)

中共海外诋毁法轮功新计划曝光 专家解读
12. 中共海外诋毁法轮功新计划曝光 专家解读 (18,687次)

不得了!中学生反内卷联盟触动中共高压线(图)
13. 不得了!中学生反内卷联盟触动中共高压线(图) (18,143次)

海外华人:清算共产党罪行是全人类的责任(多图)
14. 海外华人:清算共产党罪行是全人类的责任(多图) (17,810次)

正国级老同志提议恢复集体决策制度 习能听吗?(图)
15. 正国级老同志提议恢复集体决策制度 习能听吗?(图) (17,733次)

沙利文访华与「双主席会见」 很蹊跷?很反常?(图)
16. 沙利文访华与「双主席会见」 很蹊跷?很反常?(图) (17,641次)

17. 捧邓救习 习邓政治混装车能走多远? (17,304次)

王小洪张又侠发文挺习 京城政局吊诡(图)
18. 王小洪张又侠发文挺习 京城政局吊诡(图) (17,072次)

致癌物超标229倍!韩国检测SHEIN和Temu商品结果吓人(图)
19. 致癌物超标229倍!韩国检测SHEIN和Temu商品结果吓人(图) (16,919次)

分析:中共在中缅边境实弹演习图什么?(图)
20. 分析:中共在中缅边境实弹演习图什么?(图) (16,600次)

为何美国半导体巨头“英特尔”陷入了困境(图)
21. 为何美国半导体巨头“英特尔”陷入了困境(图) (16,310次)

纽约华裔专业人士:法西斯与受害者之间不存在立场中立(多图)
22. 纽约华裔专业人士:法西斯与受害者之间不存在立场中立(多图) (16,224次)

网友被感动 大赞林郁婷和教练「有格局有智慧」(多图)
23. 网友被感动 大赞林郁婷和教练「有格局有智慧」(多图) (16,194次)

从军报官媒近期异常再说北京内部有事发生(图)
24. 从军报官媒近期异常再说北京内部有事发生(图) (16,132次)

最近北京诡异动作频繁 2442消失了(图)
25. 最近北京诡异动作频繁 2442消失了(图) (15,741次)

巴黎长荣酒店拒挂中共国旗 续集来了(图)
26. 巴黎长荣酒店拒挂中共国旗 续集来了(图) (15,088次)

北戴河传真:胡锦涛望习改正错误 不搞终身制(图)
27. 北戴河传真:胡锦涛望习改正错误 不搞终身制(图) (14,969次)

写一字知事功知生死(图)
28. 写一字知事功知生死(图) (14,914次)

苏林访华 党媒再现诡异(图)
29. 苏林访华 党媒再现诡异(图) (14,739次)

北京传真:北戴河八共识大闹京城 胡被架出20大内幕(图)
30. 北京传真:北戴河八共识大闹京城 胡被架出20大内幕(图) (14,662次)

习给老邓戴高帽揭示了一个公开的秘密(图)
31. 习给老邓戴高帽揭示了一个公开的秘密(图) (14,650次)

被北京激怒 以色列宣布向菲律宾提供2架海上巡逻机(图)
32. 被北京激怒 以色列宣布向菲律宾提供2架海上巡逻机(图) (14,504次)

33. 遍地水灾 洪水淹了大半个中国!(视频) (14,420次)

中共施压帕劳与台断交 网友:吸取洪都拉斯教训(图)
34. 中共施压帕劳与台断交 网友:吸取洪都拉斯教训(图) (14,314次)

35. 北戴河传真:朱镕基痛批狗不理包子 温家宝王岐山齐上阵 (14,264次)

 
本报记者
 
 
专栏作者
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
Copyright© renminbao.com. All Rights Reserved