当前位置: 首页 > article >正文

动态图推理问答算法

基线QAGNN思路:1.命名实体识别,识别出问题中的实体,从知识库中获取k跳邻居节点作为推理子图。2.将问题和答案候选项进行拼接作为QA上下文节点,将QA上下文节点与问题实体和答案候选进行连接。3.使用LM对QA上下文节点和知识库节点进行嵌入表示。4.使用GAT对推理子图进行表示更新。5.推理子图池化、QA上下文节点嵌入、QA上下文节点最后一层GAT表示三者送入MLP,获取一个分数。6.将一个问题中候选项中所有分数送入softmax,使用交叉熵损失函数进行训练。

存在的问题:1.推理子图静态不变,不能获取实时信息。2.问题和推理子图的相关性缺少交互。

我的改进:1.在每一层GAT更新过后,未被mask的实体节点向量更新到初始推理子图,使用多头注意力机制算法计算初始推理子图实体节点与QA上下文节点的注意力分数,将注意力分数较低的节点进行mask。2.将最后一层的推理子图的实体节点与QA上下文节点的相关性作为损失。


http://www.kler.cn/a/533687.html

相关文章:

  • WebSocket——环境搭建与多环境配置
  • 【缴纳过路费——并查集】
  • 「全网最细 + 实战源码案例」设计模式——策略模式
  • CSS布局(一)flex一篇搞定
  • 渗透笔记2
  • 登录认证(5):过滤器:Filter
  • 动态规划练习八(01背包问题)
  • 用 Python 绘制爱心形状的简单教程
  • 企业百科和品牌百科创建技巧
  • 【CSS】谈谈你对BFC的理解
  • 开源数据分析工具 RapidMiner
  • YK人工智能(五)——万字长文学会torch模型微调
  • 不同数据库与 WebGL 集成
  • ES6中的map和原生的对象有什么区别?
  • 信息学奥赛一本通 2089:【22CSPJ普及组】上升点列(point) | 洛谷 P8816 [CSP-J 2022] 上升点列
  • 题解:洛谷 P1608 路径统计
  • 2.5寒假作业
  • springboot校园数字化图书馆系统设计与实现
  • 数据结构【链式队列】
  • DeepSeek本地部署及其他应用接入
  • 【TensorFlow】T1:实现mnist手写数字识别
  • 基于springboot校园点歌系统
  • 15.<Spring Boot 日志>
  • 全流程安装DeepSeek开源模型
  • 深度学习|表示学习|卷积神经网络|Batch Normalization在干什么?|19
  • 【lua编程实操(一)】函数和闭包