基于概率稀疏自注意力的航空发动机剩余寿命预测

作者： 王欣     黄佳琪     许雅玺   来源： 科学技术与工程 年份： 2024 文献类型 ： 期刊 关键词： 航空发动机   Transformer   深度学习   概率稀疏自注意力   剩余寿命预测  

描述： 航空发动机剩余寿命预测对其健康管理具有重要意义，针对长序列、多维度的航空发动机监测参数，提出一种基于概率稀疏自注意力(ProbSparse Self-Attention)的Transformer模型以实现航空发动机剩余寿命的准确预测。用ProbSparse Self-Attention取代原始Transformer中的常规自注意力机制，使得模型更关注时间序列中重要的时间节点，大幅缩减时间维度，减小了时间和空间复杂度；通过注意力层整合后的信息，进一步通过前馈神经网络层和卷积层，提取传感器的空间特征，编码层之间通过扩张因果卷积相连接，扩大了感受野，提高了模型对长序列信息的捕获能力。在新公开的N-CMAPSS数据集上验证算法，实验结果表明，相比于实验中的对比模型，所提模型的RMSE和Score值均有提升，推理速度也优于其他模型。

融合领域词典嵌入的航空不安全事件命名实体识别

作者： 许雅玺     孟天宇     王欣     刘炳南   来源： 科学技术与工程 年份： 2024 文献类型 ： 期刊 关键词： 预训练语言模型   领域词典   航空不安全事件   命名实体识别  

描述： 针对航空不安全事件领域命名实体识别任务，以航空安全信息周报为数据源，分析并构建航空不安全事件命名实体识别数据集和领域词典。为解决传统命名实体识别模型对于捕获领域实体边界性能较差的问题，基于BERT(bidirectional encoder representations from transformers)预训练语言模型提出融合领域词典嵌入的领域语义信息增强的方法。在自建数据集上进行多次对比实验，结果表明：所提出的方法可以进一步提升实体边界的识别率，相较于传统的双向长短期记忆网络-条件随机场(bi-directional long short term memory-conditional random field, BiLSTM-CRF)命名实体识别模型，性能提升约5%。

航空不安全事件知识图谱构建

作者： 许雅玺     孟天宇     王欣     刘炳南   来源： 科学技术与工程 年份： 2024 文献类型 ： 期刊 关键词： 预训练语言模型   领域词典   航空不安全事件   知识图谱   实体关系抽取  

描述： 航空不安全事件知识图谱构建

航空不安全事件知识图谱构建

作者： 许雅玺     孟天宇     王欣     刘炳南   来源： 科学技术与工程 年份： 2024 文献类型 ： 期刊 关键词： 预训练语言模型   领域词典   航空不安全事件   知识图谱   实体关系抽取  

描述： 航空不安全事件知识图谱构建

基于注意力与LSTM的航空发动机剩余寿命预测

作者： 王欣   孟天宇   周俊曦   来源： 科学技术与工程 年份： 2022 文献类型 ： 期刊 关键词： 注意力机制   长短期记忆网络   航空发动机   剩余寿命预测   预测性维护  

描述： C-MAPSS涡扇发动机仿真数据集进行实验，与未加注意力机制的长短期记忆网络等多种模型进行对比实验。实验结果表明，提到的Attention-LSTM模型的均方根误差相比较于未引入注意力机制的长短期记忆网络降低了17.8%,拟合度提升了3.2%,各项评估指标均也优于其他对比模型。

基于注意力与LSTM的航空发动机剩余寿命预测

作者： 王欣   孟天宇   周俊曦   来源： 科学技术与工程 年份： 2022 文献类型 ： 期刊 关键词： 注意力机制   长短期记忆网络   航空发动机   剩余寿命预测   预测性维护  

描述： C-MAPSS涡扇发动机仿真数据集进行实验，与未加注意力机制的长短期记忆网络等多种模型进行对比实验。实验结果表明，提到的Attention-LSTM模型的均方根误差相比较于未引入注意力机制的长短期记忆网络降低了17.8%,拟合度提升了3.2%,各项评估指标均也优于其他对比模型。