当前位置: 首页 > article >正文

InstructABSA基于指示学习的情感分析方法

这篇文章还没有正式发出,只是罗列了大概内容。文章主要应用指示学习的思想,首先介绍下指示学习。指示学习是谷歌Deepmind的Quoc V.Le团队在2021年的一篇名为《Finetuned Language Models Are Zero-Shot Learners》文章中提出的思想。指示学习的目的是去挖掘语言模型本身具备的知识。Instruct是激发语言模型的理解能力,它通过给出更明显的指令,让模型去做出正确的行动。指示学习的优点是它经过多任务的微调后,也能够在其他任务上做zero-shot。

论文题目(Title):InstructABSA: Instruction Learning for Aspect Based Sentiment Analysis

研究问题(Question):ATE方面术语提取,ATSC方面术语情感分类,Joint Task联合任务

 

主要贡献(Contribution):

1. 引入了指示性学习。

2. 参数量200M,相比于其他效果相当的模型参数量有了数量级的减少。

3. 评估性能时用了跨域评估,即用一个数据集进行训练,另一个不同的数据集进行测试,证明了跨域评估具有局限性。

研究思路(Idea):通过给训练样本添加指示性的指令,让模型做出正确的判断。

研究方法(Method):为每个训练样本引入了积极的、消极的和中性的例子,并为每个ABSA子任务指导调整模型(tk - instruction Base),产生了显著的性能改进。

研究过程(Process):

        1.数据集(Dataset):​​​​​​​Sem Eval 2014 dataset

        2.评估指标(Evaluation):F1,accuracy

        3.实验结果(Result):

​​​​​​​​​​​​​​ATE:F1 laptops 4.37%
             restaurants 7.31%
ATSC:acc laptops 2.16%
          restaurants -0.57%
JT:F1 laptops 8.63%
             restaurants 1.4%

​​​​​​​​​​​​​​ 

​​​​​​​ 

总结(Conclusion):大部分结果时优于其他的,只有一个略低,证明了指示学习的有效性。可以考虑应用,还有提示学习,后续可以参考使用。文中实验结果表明,Instruct1,Instruct2带来的结果有正向有反向,两者结合提升了总体效果,其中解释还未给出。


http://www.kler.cn/a/7107.html

相关文章:

  • PG-DERN 解读:少样本学习、 双视角编码器、 关系图学习网络
  • PostgreSQL高可用Patroni安装(超详细)
  • MySQL技巧之跨服务器数据查询:基础篇-A数据库与B数据库查询合并--封装到存储过程中
  • 模糊神经网络学习方法探讨
  • 编写一个生成凯撒密码的程序
  • 如何用python将pdf转换为json格式
  • 内存优化小结
  • 【新2023Q2押题JAVA】华为OD机试 - 字母消消乐
  • 【C++】string类的模拟实现
  • 免费且好用的ssh工具FinalShell的下载与安装
  • iPhone14升级iOS16.4正式版后无法连接WiFi怎么办?
  • Echars数据可视化
  • java设计模式之代理模式
  • 华为“捅破天”,P60扛大旗
  • 【设计模式】创建型-原型模式
  • Git常用命令汇总
  • 天猫食品饮料数据分析:2月份茶饮料品牌销量TOP10排行榜!
  • 学习提高:Idea 使用docker 部署SpringBoot应用并指定JVM参数,jdk8版本
  • Bidding模型训练新范式:阿里妈妈生成式出价模型(AIGB)详解
  • spring5(六):JdbcTemplate
  • gpt3官网中文版-人工智能软件chat gpt安装
  • springboot 配置兼容 https和http 访问
  • 你真的会用mybatis-plus的条件构造器吗?你真的明白mybatis-plus是怎么拼接sql的吗?
  • Docker快速入门,学习工作利器。
  • git 本地回退到某个版本
  • GPT对SaaS领域有什么影响?