民航人工智能的潜在风险与应对策略——以波音MCAS为例

【类型】期刊

【作者】郑文革 

【刊名】南京航空航天大学学报(社会科学版)

【关键词】 民航,科技伦理,人工智能,监管

【摘要】2018年10月至2019年3月短短半年之内发生了两起极其相似的空难，事故的原因均指向了波音公司的人工智能系统MCAS，这让人们意识到民航人工智能存在一系列潜在风险。通过对MCAS引起的两起空难的分析，可以发现民航人工智能可能会存在设计缺陷、科技伦理风险、智能权限不当、监管失职、飞行员应对失策等方面的问题。为了应对上述潜在风险，首先要设计负责任的民航人工智能，其次要在技术和制度两个层面加强对民航人工智能的监管，最后要建立智能飞行人机规范，保证人掌握最高权限，使人工智能始终处于人的监督之下。

【年份】2024

【作者单位】南京航空航天大学人文与社会科学学院;南京航空航天大学计算机科学与技术学院(人工智能学院);

【期号】01

【页码】103-110