科技圈中X大未解之谜之一:谷歌BERT和百度ERNIE是什么关系
2021-10-01 13:35:15 来源:
娱乐圈有八卦、科技圈也有不少瓜,比如今天想和大家探讨的这对科技圈CP。
说到美国动漫《芝麻街》中的BERT,很多人就会自然而然想到他的好朋友ERNIE,在科技圈中的BERT和ERNIE也经常被同时cue到……
有趣的是,昔日的好朋友竟然来自中美两家科技巨头,这个关系可以说是相当的微妙。
谷歌BERT,对于混迹于科技圈的程序猿肯定不陌生,如果你的研究领域刚好是NLP,可能会对BERT有更深入的了解,它是去年由谷歌发布的预训练模型,曾在机器阅读理解顶级水平测试SQuAD1。1中表现优异。
今年3月,百度推出知识增强的语义表示模型ERNIE,来自英文Enhanced Representation from kNowledge IntEgration的缩写,在自然语言推断、语义相似度、命名实体识别、情感分析、问答匹配等自然语言处理(NLP)各类中文任务上全面超越 BERT。
现在ERNIE再次重大升级,发布了持续学习的语义理解框架ERNIE 2。0,及基于此框架的ERNIE 2。0预训练模型。继1。0后,ERNIE又在英文任务方面取得全新突破,在共计16个中英文任务上超越了BERT和XLNet, 取得了SOTA效果,可谓纵横中外、国货之光了。
BERT和ERNIE就在这种状况下相遇了,只要其中一个被媒体提及,那另一个绝对是如影随形。夸张的说一句BERT和ERNIE就像有天然的绯闻体质。
BERT和ERNIE的原理,和小朋友通过做语文练习题来学习语言非常类似,BERT通过做海量的完型填空练习题学习人类语言,而ERNIE是通过做更多样、更复杂的练习题来加强语言的学习,例如,给打乱的句子排序,判断两个句子具有何种逻辑关系,判断两个句子是否表达同一个意思等。
BERT和ERNIE不仅是各大科技媒体的宠儿,还在今年的中美两大科技盛会中被点名。
在上个月的百度AI开发者大会中,百度CTO王海峰博士也在会上详细解读了ERNIE。作为一名实打实的中国开发者,一方面对于中国AI进展感到十分自豪,另一方也觉得BERT和ERNIE还能以这样的方式组CP简直愈来愈有趣。
2019百度AI开发者大会 百度CTO王海峰讲解ERNIE
在更早的5月份谷歌I/O大会中,谷歌宣布推出全新的BERT语言学习模型,谷歌AI大牛Jeff Dean 似乎也在为BERT的新进展站台。
2019谷歌I/O大会 谷歌大神Jeff Dean讲解BERT
开扒这么多BERT和ERNIE的爱恨纠葛。不过说真的,百度ERNIE的表现也的确惊艳,更新速度也快,看论文也能了解不少技术细节,百度在NLP领域还是相当有具备国际竞争力了。
不得不说,中国AI发展的速度相当迅速,百度作为中国AI代表企业之一,在ERNIE推出之时就可以与谷歌BERT抗衡,并在多项中英文任务上超越BERT。相信ERNIE和BERT将持续在NLP领域为我们带来更多的惊喜,除了嗑不完的瓜,也有用不完的便捷。燃烧吧,新时代人工智能!
蚂蚁庄园今日答案:在哪个星球上能看到太阳“西升东落”?
11月5日蚂蚁庄园今日答案更新。。在哪个星球上能看到太阳西升东落?这个问题答对即可获得一份180g小鸡宝宝饲料作为奖励。下面,让我们一起
2022-11-05 10:37
iphone14plus屏幕亮度怎么设置息屏显示开关在哪
iphone14plus搭载iOS16系统,我们可以开启常亮的息屏显示功能,这样就可以直接在手机屏幕上看到各种消息。那么iphone14plus息屏显示开关在
2022-11-04 12:39
中国空间站“T”字基本构型组装完成
据中国载人航天工程办公室消息,北京时间2022年11月3日9时32分,空间站梦天实验舱顺利完成转位。转位期间,梦天实验舱先完成相关状态设置
2022-11-04 11:56
电信研究院余晓晖:通信业正在重复IT发展规律
网易科技讯 10月22日消息,在2008中国国际通信展举行的ICT中国高层论坛上,信息产业部电信研究院 副总工程师余晓辉总结了国内电信业正在经历
2022-11-04 09:11
淘宝双十一拍照锦鲤怎么玩拍照锦鲤开奖时间玩法攻略
11月3-11日,淘宝拍照推出的锦鲤活动,每天有9万人中奖,预计共有双十一将诞生100万拍照锦鲤哦,还不赶快参与起来。那么双十一拍照锦鲤玩
2022-11-03 17:21
微信电脑版3.8.0更新内容新增3项十分实用的功能
根据腾讯2022年第二季度财报,截止今年6月30日,微信及WeChat合并月活跃账户数12。991亿。截稿前应该已经破13亿了。 作为社交、工作、
2022-11-03 16:40