最近,beat365手机中文官方网站杨争峰教授课题组在可信人工智能系统的构造与验证方面取得重要进展。人工智能系统已被广泛运用于无人驾驶飞机、自主驾驶汽车、智能医疗系统等安全攸关领域,其构造与验证是安全攸关系统可靠性保障的核心问题。杨争峰课题组与其合作者提出了基于多项式优化的安全学习迭代框架,解决了智能系统的AI组件设计构造与安全验证问题。相关论文An Iterative Scheme of Safe Reinforcement Learning for Nonlinear Systems via Barrier Certificate Generation(Zhengfeng Yang, Yidan Zhang, Wang Lin, Xia Zeng, Xiaochao Tang,Zhenbing Zeng and Zhiming Liu)已被计算机科学理论领域顶级会议The 33rd International Conference on Computer-Aided Verification(CAV2021)接收。
针对面向安全攸关系统的人工智能系统,如何构建安全的AI组件已引起了可信人工智能领域的极大关注。杨争峰与其合作者首次提出了基于多项式优化的安全学习迭代框架,以动态更新的迭代方式同时生成障碍函数和DNN形式系统组件,从而保证闭环控制系统在无穷时间域上的安全性。迭代框架中的Learner运用深度强化学习训练DNN型控制器,较监督学习方法有更好的数据采样效率,Verifier则基于多项式抽象和双线性矩阵不等式求解计算最大安全初始区域及相应的障碍函数。该方法在构造精度和验证效率上都处于国际领先水平。
CAV是计算机科学理论领域的顶级会议之一,也是中国计算机协会(CCF)推荐A类会议。该会议致力于硬件和软件系统的计算机辅助形式化分析方法的理论和实践的进步,涵盖从实用的验证工具以及实现这些工具所需的算法和技术。CAV每年以中国科研机构为第一单位的论文每年仅2-3篇。
近年来,课题组一直从事可信人工智能方面的研究,在深度学习系统鲁棒性验证、混成系统的分析与验证研究取得了一系列研究进展,相关结果发表于CVPR2019、CAV2020、IEEE TCAD等国际权威会议和期刊。