玩手机游戏,享快乐生活!
应用
二级造价工程师考试1.0官方下载_最新二级造价工程师考试app免费下载 Goins2.1.4官方下载_最新Goinsapp免费下载 讯享淘1.1.1官方下载_最新讯享淘app免费下载 V聊客聊天交友2.1.3官方下载_最新V聊客聊天交友app免费下载 安卓清理大师1.0.1官方下载_最新安卓清理大师app免费下载 GirlsCam2.4.6官方下载_最新GirlsCamapp免费下载 Alphachat by Helen Doron0.18官方下载_最新Alphachat by Helen Doronapp免费下载 云钱包5.3.1官方下载_最新云钱包app免费下载 医视屏1.1.6官方下载_最新医视屏app免费下载 周末游1.0.0.0.0官方下载_最新周末游app免费下载 微商视频去水印1.4.4官方下载_最新微商视频去水印app免费下载 番茄社区直播1.5.6官方下载_最新番茄社区直播app免费下载 小学语文一年级下2.2.0官方下载_最新小学语文一年级下app免费下载 每日一看3.4.0官方下载_最新每日一看app免费下载 趣哆公益1.0.0官方下载_最新趣哆公益app免费下载 猎鹰阅读1.1.1官方下载_最新猎鹰阅读app免费下载 安兔兔评测8.0.1-OB官方下载_最新安兔兔评测app免费下载 懒人英语听力1.3.1官方下载_最新懒人英语听力app免费下载 水象优品2.5.1官方下载_最新水象优品app免费下载 当老师教师备考3.3.0官方下载_最新当老师教师备考app免费下载 自动·辅助阅读V2.0.1官方下载_最新自动·辅助阅读app免费下载 蜜管家V1.4.0官方下载_最新蜜管家app免费下载 自动抢红包-扫雷红包外挂3.7官方下载_最新自动抢红包-扫雷红包外挂app免费下载 更多
游戏
天下-汉服季1.1.12官方下载_最新天下-汉服季app免费下载 御剑飞飞4.0.0官方下载_最新御剑飞飞app免费下载 流星群侠传1.0.395065官方下载_最新流星群侠传app免费下载 密室逃脱17守护公寓666.19.04官方下载_最新密室逃脱17守护公寓app免费下载 塔防之光1.0.04官方下载_最新塔防之光app免费下载 密室逃脱18移动迷城666.19.04官方下载_最新密室逃脱18移动迷城app免费下载 密室逃脱20巨人追踪666.19.18官方下载_最新密室逃脱20巨人追踪app免费下载 英雄三国志1.2.301官方下载_最新英雄三国志app免费下载 烈焰横空1.0.17675官方下载_最新烈焰横空app免费下载 密室逃脱24末日?;?66.24.92官方下载_最新密室逃脱24末日?;鷄pp免费下载 合金机兵1.6.4官方下载_最新合金机兵app免费下载 密室逃脱1逃离地牢666.19.05官方下载_最新密室逃脱1逃离地牢app免费下载 遇见逆水寒1.5.18900官方下载_最新遇见逆水寒app免费下载 火炬之光3.03官方下载_最新火炬之光app免费下载 超级飞侠之机甲战神3.5.0官方下载_最新超级飞侠之机甲战神app免费下载 王牌战争2.1官方下载_最新王牌战争app免费下载 全民奇迹13.0.0官方下载_最新全民奇迹app免费下载 JJ斗地主5.07.07官方下载_最新JJ斗地主app免费下载 奥特曼酷跑之王4.2.0官方下载_最新奥特曼酷跑之王app免费下载 超级飞侠大冒险4.1.0官方下载_最新超级飞侠大冒险app免费下载 猫和老鼠5.1.1官方下载_最新猫和老鼠app免费下载 疯狂动物园1.23.0官方下载_最新疯狂动物园app免费下载 开心消消乐?1.71官方下载_最新开心消消乐?app免费下载 更多
资讯
黄海海域首个5G基站江苏南通阳光岛开通 安徽芜湖因长江涨水有鱼上岸?为娱乐所表演鳄鱼 刷脸取纸,冲厕用水 一大批新型公投入使用 浙江丽水15岁女孩失8天 原计划去西班牙与父团聚 不存在犯罪 广西男子“抓贼”致其亡检方撤诉 河北州一临街商铺发生气罐爆炸 导两受伤 中国营养学会倡导家庭、社会使用公用餐具和分餐制 闽海上客运半年运送120万旅客再创新高 江苏:7276名“事孤儿全部纳入基本生活保障 海南上年服务贸顺差5.5亿元 实际利用外资快速增长 安徽省亳市政府秘书长吴火权严重违纪违法双开 一位农党支部书记守候大山深处 让荒山变为农民致聚宝盆 精准制导 大数介入改善学生体质健康 走出迷雾,6个AI体系取得FDA同意,将应用于医疗健康范畴 教育机器人商场的「冰与火之歌」| 深度 百度大脑敞开日NLP专场,感触技能怎么让机器更「懂」人类 ACM班×姚班,计算机「黄金一代」跨进巅峰之门 2019国际人工智能大会进入30天倒计时,官方宣传片发布抢先看 图神经网络之动态图 让科学成为一种生活方式,科学复兴节首秀冷艳广州 百度正式发布ERNIE 2.0,16项中英文使命逾越BERT、XLNet,改写SOTA 第一次,脑机接口能够实时读取人类言语了 阿里文娱资深算法专家:视频物体切割算法的三个方向与最新使用 更多
联系我们
版权说明
Welcome-牛牛游戏平台
当前位置: Welcome-牛牛游戏平台 > 资讯 > 科技

11选5中奖规则:AAAI 2019 运用循环条件注意力结构探究答复态度检测使命

来源:Welcome-牛牛游戏平台 发布时间:2019-04-27 10:12:33 点击数:

1. 导言

Welcome-牛牛游戏平台 www.nrxeeee.com.cn 社区问答渠道是社会媒体的重要组成部分,其间包括很多与人们日子休戚相关的发问及答复文本。从这些社区问答QA对中提取人们对问题的观念态度倾向性是一个有意思的问题,用自动化办法开掘某一问题下一切答复针对该问题的态度倾向性,能为人们供给合理、全体的参阅信息。

在现有的研讨态度剖析的大部分作业中,态度表达针对的目标(target)要么是实体(entity),要么是声明(claim)。不同于以往的态度剖析使命,在咱们研讨的答案态度剖析使命中,态度针对的目标是整个问题,需求先了解问题中发问者关怀的内容的语义。比较之前的研讨问题,更难去建模依靠问题的(target-dependent)答复句表明。

图1 两类答复态度检测使命示例

为此,咱们提出一种循环条件留意力结构(Recurrent Conditional Attention, RCA)。它包括:

  1. 问题句、答复句的建模网络,咱们运用依据GRU结构的循环神经网络别离建模问题句和答复句的语义信息;

  2. 依靠于问题句信息的答复句表明网络,咱们运用留意力机制(Attention)从答复句中提纯与问题句有关的表明,下降不相关词的权重;

  3. 经过循环阅览问答对迭代更新实在态度倾向性表明的琢磨网络。在循环阅览问题对的进程中,RCA模型交织提炼问题句、答复句语义表明,开掘问题句-答复句之间的彼此依靠联系,逐渐推理获得答复关于问题实在的观念倾向状况。

咱们人工搜集标示了一个13000多条的社区问答态度倾向性数据集。在该数据集上,咱们将RCA与多个功能优异的现有态度剖析模型进行比照。比较四个强基线模型,咱们的RCA模型在macro-f1值均匀进步2.90%,在micro-f1值上均匀进步2.66%,在Accuracy目标上也明显优于一切基线模型,证明了咱们的模型循环阅览和交织更新结构的有效性。

2. 问题界说

这儿,咱们给出AnswerStance classification(答复态度分类)的使命界说,咱们把它作为一个target-dependent使命来处理。

给定含N个词的问题句和含M个词的答复句,AnswerStance使命旨在判别答复句关于问题句的态度标签。例如,在图1的第2个比如中,答复句经过必定“iPad 2018的定价”来表达favor态度。

在之前的态度分类作业中,一般将形如Donald Trump的实体或许整个tweet文本界说为target,判别谈论关于target的态度倾向性。在AnswerStance使命上,咱们并未给定这种方式的target,取而代之的是整个问题句。事实上,咱们也能够类比之前作业,把问题句中触及的实体或许观念声明作为target。由于把整个问题句作为target不会带来语义的歧义,也省去了人工标示问题句实体、观念片段的环节,因而鄙人文中,咱们把整个问题句作为target。

3. 模型

模型首要包括3个???,与模型图对应联系如下:

  1. 问题句和答复建模网络

  2. 依靠于问题句信息的答复句表明网络

  3. 态度倾向性表明迭代更新网络

图2 RCA全体架构

3.1 问题句和答复句建模

给定一个问题句和一个答复句,咱们首要将其间每一个词转为低维稠密的词嵌入表明,详细地咱们运用了一个在百科语料上运用word2vec练习得到的100维词向量。然后咱们运用GRU(Gated Recurrent Unit)循环神经网络别离建模问题句和答复句,得到问题句和答复句中每个词在上下文中的特征表明。关于给定的一句话 ,在时间t,GRU按如下公式更新其状况:

咱们运用双向GRU统筹上下文,关于语句中的第 i 个词,咱们将双向GRU的隐层输出进行拼接,用表明问题句中的词的双向隐层表明,用表明答复句中的词的双向隐层表明。

3.2 条件留意力网络

清楚明了,判别终究的态度应该一起考虑答复句和问题句的内容,需求运用二者的彼此联系,开掘文本中与态度倾向相关的语义内容。下面介绍怎么从问题句和答复句的表明中,构建态度倾向性的特征表明。

咱们假定,模型在阅览问答对前不持有态度,即初始态度特征表明为0。

3.2.1 问题句留意力网络

首要,CA??樵睦牢侍饩淠谌?。由于问题句中不同词关于了解问题句的语义重要性不同,像“了”、“的”、“呢”、“怎样”就不如“德国队”、“牛奶”这些词在本使命中来得重要,所以CA??樵擞昧粢饣评刺粞∥侍饩涔赜谔绕饰霰冉现匾拇?,得到态度相关的问题句表明向量。详细地,咱们运用现已累积的态度特征向量去attend问题句,得到问题句:

其间是本次阅览问题句得到的第 i 个词的权重归一化成果。问题句的表明是问题句一切词隐层向量的加权均匀。

3.2.2 答复句留意力网络

同样地,答复句中不同词关于判别其态度倾向的奉献也存在差异。咱们用相似的办法有偏重地学习答复句的表明。这儿,CA??橄仍擞眯碌奈侍饩湫畔⒏绿茸纯鱿蛄?,得到暂时的态度表明:

由于中交融了最新获取的问题句语义,接着CA??榫鼳ttention机制来构建考虑问题句信息的答复句表明。

其间是本次阅览答复句得到的第 i 个词的权重归一化成果。答复句的表明是答复句一切词隐层向量的加权均匀。

3.3 态度表明迭代更新网络

明显,终究的态度类别直接依靠于最新的答复句内容,咱们需求将融入咱们的态度状况。为此,咱们运用另一步GRU更新:

到此为止,咱们完成了RCA模型对问答对的一次阅览进程。留意,这儿的一次阅览进程对应两个GRU时间更新。

但关于语义较为杂乱的问题对,只对问答对进行一次阅览往往难以正确揣度其态度倾向性。学习前人的作业,咱们重复上述阅览进程k次。这儿,咱们依据试验成果将k设为3。

在多步阅览进程中,态度状况向量  作为桥梁,构建了直接依靠于答复句的问题句表明和直接依靠问题句的答复句表明,开掘了态度分类时问答对之间的依靠联系,这样的交互形式使得RCA模型能从问答对中逐渐推理出实在态度倾向状况。

4. 试验设置

4.1 数据集

咱们从百度知道、搜狗问问、明医等网站爬取、清洗并标示数据,终究得到的13591条问答对语料,语料首要触及怀孕、食物、安全、疾病等论题。语料的核算信息如下表:

表1 社区问答中带标示的答复态度数据核算

4.2 点评办法

参阅SemEval2016上的态度剖析使命,咱们不考虑neutral类别的成果。咱们选用favoragainst两类的宏均匀和微均匀F1值作为点评目标。别的咱们也供给了一切标签的accuracy作为各模型比照的参阅目标。

4.3 比照模型

试验中,咱们比照了根底的词袋模型、双向LSTM模型、CNN模型,以及近年来在态度分类和QA等使命上获得较好成果的TAN(IJCAI2017)、BiCond(EMNLP2016)、AoA(ACL2017)和RAM(EMNLP2017)模型。

5. 试验成果

从试验成果来看,咱们的RCA模型在宏均匀、微均匀以及Accuracy等目标上,获得了优于一切基线模型的作用,证明了RCA模型的有效性。

表2 测验集上不同态度检测模型的功能比较

别的经过对Attention权重的可视化,咱们能够看到不同模型在提取问题句和答复句语义的不同。这个比如中,只要RCA模型在判别态度类别时,能一起给问题句和答复句词适宜的权重。

图3 四个模型的留意力权重的可视化图。留意,只要RCA和AoA会在问题上发生留意力,并且咱们只会在RAM和RCA模型的终究读取过程中表明留意力。更深的色彩意味着更大的概率。

为了剖析RCA模型各部分结构关于模型功能的影响,咱们做了结构抹除测验。从表格中咱们能够看出,问题句的表明关于模型功能影响很大;运用问题句信息从答复句中寻觅重要的语义信息比用答复句从问题句提取信息来得更重要。

表3 RCA模型在测验集上的融化测验。出现微观和微观均匀F1分数。

鄙人面的两个比如中,咱们发现RCA模型确实能在屡次阅览进程中,逐渐调整问题句和答复句中词的权重,改动其对应的特征表明,并终究做出正确的态度倾向性判别。

图4 经过softmax分类器和针对示例的每个问题和答案词的留意权重在每个读取过程中的态度状况的可视化。更深的色彩意味着更大的概率。具有3个读取过程的RCA模型用于阐明。

6. 定论

在本文中,咱们针对社区问答中的态度剖析使命(AnswerStance),开发了RCA模型,它经过建模问题句和答复句之间的彼此表明,在屡次阅览进程中不断提炼问答对的语义表明,逐渐更新态度状况,并终究做出更精确的态度判别。

在未来的作业中,RCA模型既能够运用到句对作为输入的使命上,如文本包括、语句匹配等使命;也能够结合强化学习办法,依据句对输入的语义杂乱程度,动态决议阅览次数。

哈工大SCIR

哈尔滨工业大学社会核算与信息检索研讨中心

应用 | 游戏 | 资讯 | 联系我们 | Welcome-牛牛游戏平台 | 八卦 |

浙公网安备 33060202000544号
Copyright?十八楼 All Rights Reserved.

排列三预测_排列三预测官网 | 韩国快乐8官方网站 | 赛迪网 | 扫码赚钱平台app 麻将来了哪个模式分最多 想去youtobe赚钱求带 一个纯粹为赚钱而工作的人 金游南京麻将下载 开拼多多店群赚不赚钱 陕西单机麻将下载安装 股票中签后一定赚钱么 gta5酒吧赚不赚钱 转发推广能赚钱