当前位置:首页 > 电竞资讯 > 正文内容

中国版ChatGPT三月底开源,中国发展NLP有两大困难

杏彩体育2年前 (2023-03-18)电竞资讯243

中国版的ChatGPT要来了。

日前复旦大学计算机科学技术学院教授邱锡鹏教授透露,国内第一个对话式大型语言模型MOSS将有可能在3月底开源,在不少媒体的介绍中,复旦大学的MOSS被看作是中国版的ChatGPT。

只不过尴尬的是,从网上透露出来的内测信息来看,就算是中国顶尖大学推出的NLP模型,它回答英文问题的水平却高于中文问题,说白了,中国人做的大型语言模型,更擅长英文,而不是中文。

针对这个问题,邱锡鹏教授坦言:英文作为科研主流语言,在学术界和工业界中得到广泛应用,积累了大量高质量的语料数据,这为英文自然语言处理的研究提供了极大的优势。根据相关数据,MOSS学习的英文单词数量是中文的十倍。

必须承认,这也是国内发展NLP不得不重视的问题之一。

正如上文所说,英语作为科研主流语言,在全球范围内有着大量的学术期刊、网页、书籍,可以作为ChatGPT的训练数据来源,比如说英国人创办的《自然》杂志、《柳叶刀》等等,在ChatGPT的训练数据来源总量中,类似的杂志、期刊排名第三,尤其是专业的学术期刊,这些数据会帮助ChatGPT的写作更清晰、有条理。

除此之外,英文网站占全球网站总量近60%,而中文网站目前仍不足2%。

另外,除了中文对比英文天然存在的训练数据差距之外,还有一个很大的困难,还是计算芯片硬件上的差距。

去年8月,美国限制高性能GPU芯片出口,所有行业人士都直接指出,这是为了限制国内AI技术的发展。当时,有些人觉得这件事没那么重要,可等到OpenAI在去年年底推出ChatGPT之后,国内不少人终于认识到老美釜底抽薪的招数,有多狠辣。

我们必须要承认,高性能GPU是人工智能的基石

据称未来的ChatGPT5将会在25000个英伟达GPU上进行训练,但如果算上为了满足全球用户的计算量,谷歌、微软等搜索行业巨头可能会需要总共几十万、甚至百万台的英伟达GPU。

底层硬件的局限和差距,已经成为国内发展ChatGPT不得不重视的问题。

最后,在ChatGPT发布之前,很多人觉得中美两国在AI领域的技术积累不分伯仲、平分秋色,甚至是中国小优,可ChatGPT推出之后,不少人瞬间感觉被“打脸”,原来差距如此明显。

不得不说,我们仍要谦虚地看待国内AI技术产业的发展仍然落后国外顶尖水平。

扫描二维码推送至手机访问。

版权声明:本文由杏彩体育-专注全球体育资讯发布,如需转载请注明出处。

本文链接:http://www.redirected.net/?id=14442

分享给朋友:

“中国版ChatGPT三月底开源,中国发展NLP有两大困难” 的相关文章

2胜1平3负!亚洲6队首轮结束:闪耀卡塔尔世界杯,压制非洲5队

2胜1平3负!亚洲6队首轮结束:闪耀卡塔尔世界杯,压制非洲5队

#2022卡塔尔世界杯#6支亚洲球队已经全部亮相,取得2胜1平3负的战绩,包括沙特和日本赢球,韩国平局,澳大利亚、卡塔尔、伊朗三队输球,也是压制5支非洲球队,非洲球队不仅4支球队一球未进,而且1平4负集体不胜。...

出走成必然!欧宝体育资讯:先签后换施罗德,湖人或有大动作

出走成必然!欧宝体育资讯:先签后换施罗德,湖人或有大动作

在今年的夏天,湖人队身为上个赛季的夺冠球队,在保留了核心球员的情况下,肯定是要有一番动作的。而因为当年罗尔邓的合同,他们在休赛期很难有太大的动作。因此,用现有的资产去换得更好的球员,才是比较现实的。而他们球队当中,最具交易价值的球员,其实来来回回也就是三四个。施罗德,则是他们之中最受关注的...

原创
            梅西一传一射 阿根廷2-0取胜晋级 梅西世界杯第七次当选最佳球员

原创 梅西一传一射 阿根廷2-0取胜晋级 梅西世界杯第七次当选最佳球员

原标题:梅西一传一射 阿根廷2-0取胜晋级 梅西世界杯第七次当选最佳球员 想每天都接收到这样的体育资讯和评论解说吗?请点击本文右上角的“关注”,感谢您的支持。 北京时间11月27日凌晨三点,本届世界杯赛事迎来了C组第二轮阿根廷男足对阵墨西哥队的比赛。阿根廷男足在梅西领衔的...

实时体育资讯采集,网站自动更新体育资讯工具

实时体育资讯采集,网站自动更新体育资讯工具

体育资讯网站每天会更新大量的体育赛事资讯,恰逢世界杯年和最近如火如荼的NBA季后赛,对于体育迷来说,在家看比赛和体育资讯是非常享受的一件事,作为体育资讯博客网站,为我们用户提供实时体育资讯是一个能黏住用户的绝佳技巧 体...

指数累涨已超27%!世界杯比赛盛况空前,体彩概念股持续飙涨

指数累涨已超27%!世界杯比赛盛况空前,体彩概念股持续飙涨

原标题:指数累涨已超27%!世界杯比赛盛况空前,体彩概念股持续飙涨 近日,万众瞩目卡塔尔世界杯终于拉开了帷幕,除了精彩绝伦的大赛外,二级市场的投资热情也是相当火热。 据同花顺数据显示,截至11月22日A股收盘,近31个交易日内,A股互联网彩票概念指数已涨超27%,大幅跑赢...

MAU过亿,新浪新闻app正在成为资讯领域的“新三极”?

MAU过亿,新浪新闻app正在成为资讯领域的“新三极”?

随着移动互联网渗透率不断提升,手机新闻客户端逐渐成为网民获取资讯的主要途径,预计2019年我国手机新 随着移动互联网渗...