前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？

前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
起原：雷锋网
科技巨头们时不时就声明在 AI 领域取得了打破性进展，对此我们已经见惯不惊了。
内陆时间 2020 年 1 月 28 日，Google 在一篇博客中介绍了一款开放领域聊天机械人 Meena，号称“史上最强”，那么这一新打破会让人眼前一亮吗？
前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
图片起原：Google Blog  所有者：Google Blog

开放领域聊天机械人斥地难度大 [转载出处：www.11jj.com]

实际上，设计智能聊天机械人是为了应对信息爆炸时代存在的信息过载问题。最初，人们把聊天机械人算作搜刮引擎的最终形态进行设计和斥地。不合于现有的搜刮引擎，聊天机械人可针对用户的问题自然又通顺地给出精准的谜底，节约了多少时间，从而带来更好的用户体验。
凭证使用场景划分，聊天机械人（chatbot）首要有开放域型（Open-Domain）和义务导向型（Task-Oriented）两种。
个中，义务导向型首要有问答系统、对话系统聊天机械人，拜别指基于用户的问题给出一个回覆（常用于智能搜刮、智能家居中的家电把握等场景）和与用户进行多轮对话的聊天机械人（如客服机械人，发卖机械人等）。
而开放领域聊天机械人（也称闲聊式机械人）顾名思义针对开放域的对话场景，主题、内容不限，比如微软小冰和苹果 Siri。Google 在上述博客中透露：
开放领域聊天机械人的研究不单具有学术价钱，还可激发多少有趣的应用，如更深层次的人机交互、提升外语演习究竟，以及建造交互式片子和游戏角色。
值得一提的是，开放领域聊天机械人更相符人们心中对「人工智能」的定位，斥地难度自然也很大——当前开放领域聊天机械人面临的一个严重问题在于它们表达的内容往往没有意义，无法与用户的问题连贯起来，而且因为缺乏根本的常识和认知，不克给出针对性的复原。
而 Google 斥地的 Meena 恰是一款开放领域聊天机械人，那么对比现有的聊天机械人，事实有何打破？
前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
 Meena 和人类的对话内容 图片起原：Google Blog

26 亿参数的端到端神经对话模型

[好文分享：www.11jj.com]

Google 在博客中介绍称，Meena 是个 26 亿参数的端到端演习的神经会话模型，是 GPT-2 模型最大版本（15 亿参数）的 1.7 倍。据称，Google 行使 400 亿字的数据集，经由 2048 个张量处理单元（即 Tensor Processing Unit，Google 专用 AI 芯片）演习了 30 天，获得了最佳版本。实验表明，比起聊天机械人 SOTA，Meena 能更好地完成对话，内容也更具体、清楚。
据悉，Meena 由 1 个 Evolved Transformer 编码器和 13 个 Evolved Transformer 解码器组成：编码器用于处理对话语境，有助于 Meena 懂得对方的话；而解码器则会行使信息生成复原。而在这一过程中，Google 透露：
研究人员发现，超参数调整后，实现高质量对话的关键在于机能更强的解码器。
前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
图片起原：Google Blog  所有者：Google Blog
雷锋网熟悉到，Google 从公众领域社交媒体对话上过滤获得了 341GB 的文本，并以树状脉络形式组织文本进行「多轮对话」演习。研究者将每轮对话作为演习样本，同时每轮之前的 7 轮对话为语境信息，合营构成一组数据。据悉，选择 7 轮对话作为语境，既能保证演习过程获得充足长的语境信息，同时模型也能不跨越内存限制。事实文本越长，占用的内存也越多。

新提出的人类评价指标 SSA

凭证博客，上述这些示意是由 Google 凭证新提出的人类评价指标「Sensibleness and Specificity Average (SSA)」得出的，而此次提出新的指标是因为，今朝聊天机械人的人类评价指标颇为复杂，而且也很难形成一致的评价指标。Google 透露，SSA 能捕获根本的、但对人类对话来说很首要的属性。
为角力这一指标，研究者测试了 Meena、Mitsuku、Cleverbot、DialoGPT 及小冰等常见的聊天机械人。在测试中，对于每一款聊天机械人，研究者都在 100 个对话中收集了 1600 到 2400 轮，各聊天机械人的复原都由人类评价者评分（首要依据对话的畅通性和回覆的准确性），其各自机能示意如下图。
前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
图片起原：Google Blog  所有者：Google Blog


不难看出，Meena 对比于现有的 SOTA 聊天机械人，有着更高的 SSA 分数，甚至接近于人类的示意。

狐疑度与 SSA 强相关

毫无疑问，人类评价或多或少存在一些问题，是以多少研究者都进展找到一个能够自动角力的评价指标，而且这个指标要能和人类评价准确对应。

雷锋网熟悉到，狐疑度（perplexity，指一种任何神经会话模型都能随意获得的角力指标）是 seq2seq 模型（雷锋网注：一种轮回神经收集的变种，包括编码器和解码器两部门，是自然说话处理中的一种首要模型，可用于机械翻译、对话系统、自动文摘）中的一个常见指标，用于评价说话模型的不确定性。
而值得一提的是，Google 证实了狐疑度与 SSA 高度相关。
实际上，演习 Meena 恰是为了最洪水平地削减狐疑度，以及瞻望下一个标记（雷锋网(公家号：雷锋网)注：指对话中的下一个单词）的不确定性——据博客称，这是因为 Meena 的核心为 Evolved Transformer seq2seq 架构，即一种经由进化神经架构搜刮发现的 Transformer 系统组织，能够改善狐疑度。
在博客中 Google 透露，研究者依据层数、留意力数量、演习步数、编码器、演习体式等成分，共测试了 8 种不合的模型，发现狐疑度越低，SSA 分数越高，同时两者的相关系数很高（R^2 = 0.93）。
前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？
图片起原：Google Blog  所有者：Google Blog
同时 Google 透露：
研究者将持续经由改善算法、架构、数据和角力量等，降低这一神经会话模型的狐疑度。

Meena 意义大吗？

凭证博客中展示的数据，我们相信 Meena 切实机能出众，不过 Meena 事实什么时候能推出、真正推出后示意若何，或许都要打问号。博客中提到，今朝研究团队正在就这一研究的风险及益处做进一步的评估，并或许在未来几个月内推出 Meena，旨在鼓动该领域的成长。
对此，VentureBeat 记者 Ronald Ashri 在其报道中透露：
首先我们要意识到，尽量 Google 开源所有代码，也很少有人能..相同 Meena 的模型。Meena 应该还在实验室里，把握起来也非常复杂，还不克将其整合到一个对象中，而且 Google 也弗成能很快就将其作为一项处事向用户供给。是以，生怕短期内 Meena 难以推出。
此外，在实用性方面，诚然 Meena 作为一款开放领域聊天机械人，能够实现多轮对话。不过 Meena 并不克协助用户完成某项义务、进修某项新名堂，或为身处困境的用户给予情绪或心理撑持，和用户的聊天没有明确的目的。而花消时间进行无意义的交谈，在我们所处的时代大背景下似乎并非幻想产品。
与此同时，记者 Ronald Ashri 也对 Meena 提出了进一步质疑。正如上文所述，Google 从公众领域社交媒体对话上过滤获得了 341GB 的文本，以此进行进一步的演习。那么，数百万的公众领域社交媒体对话会是这一所谓的「史上最强聊天机械人」的正确数据集吗？Meena 是否会讲出不适合的话，或许也是一个我们要关注的点。
近年来，跟着越来越多的 AI 聊天解决方案进入生活，我们需要关注最有价钱的器材——定义相同人类的对话，并探究这类对话在聊天机械人领域中的角色。
正如 Ronald Ashri 所说：
Meena 让我们更接近方针，但尚未让我们达到方针。
参考：
https://venturebeat.com/2020/02/01/just-how-big-a-deal-is-googles-new-meena-chatbot-model/
https://ai.googleblog.com/2020/01/towards-conversational-agent-that-can.html

前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？


未来智能实验室是人工智能学家与科学院相关机构连系成立的人工智能，互联网和脑科学交叉研究机构。


未来智能实验室的首要工作包括：竖立AI智能系统智商评测系统，开展世界人工智能智商评测；开展互联网（城市）云脑研究规划，构建互联网（城市）云脑手艺和企业图谱，为提升企业，行业与城市的智能水平处事。


  若是您对实验室的研究感情趣，迎接参预未来智能实验室线上..。扫描以下..或点击本文左下角“阅读原文”

前沿|26 亿参数量，水平接近人类，Google 的开放领域聊天机器人意义何在？

标签：何在 机器人 接近 意义 人类 水平 参数 领域 开放 聊天 Google
  1. 上一篇：拿疫情做饵！印度黑客组织对中国趁火打劫
  2. 下一篇：戴口罩的日子里，iPhone怎么完成人脸识别？

热门文章

  1. 星形线积分怎么算（星形线的积分区间）2024-04-20
  2. 沧州住房公积金查询（沧州住房公积金查询入口官网网址）2024-04-20
  3. 董奉（董奉堂中医门诊部）2024-04-20
  4. 央广新闻网（央广新闻网手机客户端）2024-04-19
  5. 平潭岛旅游攻略大全（平潭岛游玩攻略）2024-04-19
  6. @袁州老表，来和本土网红一起为平安袁州喝彩2024-04-19
  7. 懒羊羊头像冷酷帅气（懒羊羊头像冷酷帅气的头像）2024-04-19
  8. 【北疆关注】王莉霞在巴彦淖尔调研2024-04-19
自媒体 微信号：11jj 扫描二维码关注公众号
爱八卦，爱爆料。

小编推荐

  1. 1

    老师您好ppt（老师您好手抄报）

    大家好，小豪今天来为大家解答老师您好ppt以下问题，老师您好手抄报很多人还不知道，现在让我们一起来看看吧！1、老师像大树,头顶蓝天,脚踩大

  2. 2

    经线和纬线特征（经线纬线特征列表）

    大家好，小娟今天来为大家解答经线和纬线特征以下问题，经线纬线特征列表很多人还不知道，现在让我们一起来看看吧！1、经线形状为半圆,指示南

  3. 3

    【帮忙有一套】孩子沉迷于游戏，家长如何应对？

    点击上方 存眷我们 订阅 出色资讯帮忙有一套调整进行时孩子陷溺于游戏家长若何应对？

  4. 4

    最新！2024江西省考面试名单公布！

    江西省2024年度测验录用公务员面试及调剂有关事项通知江西省2024年度测验录用公务员面试时间为4月27日至28日。现将有关事项通知如下：一、笔试及

  5. 5

    哗啦啦收银系统下载（哗啦啦收银系统下载）

    大家好，小丽今天来为大家解答哗啦啦收银系统下载以下问题，哗啦啦收银系统下载很多人还不知道，现在让我们一起来看看吧！1、打开浏览器，在

  6. 6

    注意！！！积极防范 4 月 12～14 日可能出现的风沙、霜冻等灾害

    一、主要天色过程预告 据自治区景象台预告，估计12日白日至夜间，北疆大部、天山山区、南疆西部山区和哈密市有细雨或雨夹雪（山区为雨夹雪或

  7. 7

    「献血指引」——4月13日-14 日 阜康市

    献血指引4月13日-14日 阜康市阜康市的爱心市民：献血车来阜康了！迎接您贡献爱心，小小勾当，拯救生命，伸出手臂，拯救病患！# 献血放置 # ✿

  8. 8

    证明三角形全等的五种方法的视频（证明三角形全等视频讲解）

    大家好，小乐今天来为大家解答证明三角形全等的五种方法的视频以下问题，证明三角形全等视频讲解很多人还不知道，现在让我们一起来看看吧！

Copyright 2024.依依自媒体，让大家了解更多图文资讯！