WAP手机版 RSS订阅 加入收藏  设为首页
澳门葡京官方注册网址

澳门葡京官方注册网址:传统的自动评测指标通常是基于符号进行计算的

时间:2020/10/15 12:59:55  作者:  来源:  浏览:0  评论:0
内容摘要:传统的自动评价指标通常是基于符号计算的。现在,深度学习等人工智能技术越来越多地用于评估工具。”熊德义介绍,通过深度学习,可以将语言符号映射到真实密集向量的语义空间,利用语义向量计算相似度。即使说出来的词与计算机最初学到的不一样,只要语义一致,机器就能做出准确的评估。因此,基于深度...
传统的自动评价指标通常是基于符号计算的。现在,深度学习等人工智能技术越来越多地用于评估工具。”熊德义介绍,通过深度学习,可以将语言符号映射到真实密集向量的语义空间,利用语义向量计算相似度。即使说出来的词与计算机最初学到的不一样,只要语义一致,机器就能做出准确的评估。因此,基于深度学习的自动评价可以在一定程度上迎接语言多样性的挑战。然而,深度学习也有一个问题,那就是它需要大量的数据来让机器学习。

近年来,基于自监督学习的预训练语言模型在语言表征学习方面取得了突破性进展。OpenAI的预训练语言模型GPT-3已经在包含5000亿个单词的庞大语料库上训练了一个包含1750亿个参数的神经网络。通过在网络上学习大量的各种语言文本,GPT-3已经形成了一种强大的语言。表示能力,可以执行多种任务,如自动翻译、故事生成、常识推理、问答等,甚至可以执行加减法操作,如其两位数的加减法精度达到100。但熊德毅介绍说,这样一个庞大的神经网络如果用单精度浮点数存储,需要700G的存储空间,一次模型训练花费460万美元。因此,尽管GPT-3在零样本和小样本的情况下具有良好的学习能力,但其高昂的代价使其远未普及。

相关评论

本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下 (澳门永利赌场网站)