具擷取及萃取能力的摘要模型

NCU Institutional Repository > 管理學院 > 資訊管理研究所 > 博碩士論文 > Item 987654321/81285

jsp.display-item.identifier=請使用永久網址來引用或連結此文件: http://ir.lib.ncu.edu.tw/handle/987654321/81285

题名:	具擷取及萃取能力的摘要模型
作者:	陳俞琇;Chen, Yu-Xiu
贡献者:	資訊管理學系
关键词:	自然語言處理;萃取式摘要;注意力機制;Transformer;複製機制
日期:	2019-07-19
上传时间:	2019-09-03 15:42:40 (UTC+8)
出版者:	國立中央大學
摘要:	自然語言處理的模型由於需要準備字典給模型做挑選，因此衍生出 Out Of Vocabulary(OOV) 這個問題，是指句子裡面有不存在於字典的用詞，過往有人嘗試在 Recurrent Neural Networks(RNN) 上加入複製機制，以改善這個問題。但 Transformer 是自然語言處理的新模型，不若過往的 RNN 或 Convolutional Neural Networks(CNN) 已經有許多改善機制，因此本研究將針對 Transformer 進行改良，添加額外的輸入和輸出的相互注意力，來完成複製機制的概念，讓 Transformer 能有更佳的表現。;In natural language processing, Out of Vocabulary(OOV) has always been a issue. It limits the performance of summarization model. Past study resolve this problem by adding copy mechanism to Recurrent Neural Networks(RNN). However, resent study discover a new model – Transformer which outperforms RNN in many categories. So, this work will improve Transformer model by adding copy mechanism in order to enhance the relation of model’s input and output result..
显示于类别:	[資訊管理研究所] 博碩士論文

文件中的档案:

档案	描述	大小	格式	浏览次数
index.html		0Kb	HTML	249	检视/开启

在NCUIR中所有的数据项都受到原著作权保护.

社群 sharing