二级分类4
探索对抗训练中的记忆现象
以深度学习为代表的人工智能模型在诸多任务上取得了优异的性能，但是其在对抗样本攻击下的鲁棒性存在严重不足。为了提升深度学习模型的鲁棒性，对抗训练通过采用对抗样本作为一种数据增强方式，成为目前最为主流的防御方式。
然而，对抗训练算法仍存在很多问题，包括鲁棒泛化误差较大、鲁棒过拟合（robust overfitting）等。目前，仍然缺乏对深度学习对抗训练的机理的深入理解与分析。本文从对抗训练的记忆现象（memorization effect）角度分析对抗训练中存在的收敛性、泛化性、过拟合等问题
探索对抗训练中的记忆现象
以深度学习为代表的人工智能模型在诸多任务上取得了优异的性能，但是其在对抗样本攻击下的鲁棒性存在严重不足。为了提升深度学习模型的鲁棒性，对抗训练通过采用对抗样本作为一种数据增强方式，成为目前最为主流的防御方式。
然而，对抗训练算法仍存在很多问题，包括鲁棒泛化误差较大、鲁棒过拟合（robust overfitting）等。目前，仍然缺乏对深度学习对抗训练的机理的深入理解与分析。本文从对抗训练的记忆现象（memorization effect）角度分析对抗训练中存在的收敛性、泛化性、过拟合等问题
GSmooth：通过广义随机平滑验证对语义转换的鲁棒性
基于神经网络的深度学习模型在很多领域都取得了突破性的进展，然而神经网络模型的鲁棒性问题却一直没有得到解决。人们可以构造出对图像干扰非常微小的对抗噪声就可以改变模型的分类结果，同时一些常见的自然语义变换如图像模糊，旋转，色彩变化等也可能导致神经网络精度下降。因此，研究神经网络的理论可验证鲁棒性是一个非常有潜力而且重要的方向。
瑞莱智慧首次提出在黑盒场景下检测后门攻击的方法
在安全领域，后门是指绕过安全控制而获取对程序或系统访问权的方法，AI系统同样面临着后门攻击的巨大风险。为应对这一安全威胁，学术界提出了多种方案，但均需要获取相关的白盒模型或训练数据，在实际场景中很难实现。
2021人工智能大赛 RealAI在深度伪造视频检测相关全部赛道中获得奖项
近日，由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局、厦门市人民政府联合主办的第三届中国人工智能大赛正式收官。
大赛围绕算法治理、深度伪造检测、网络安全三大方向，面向全社会进行赛队招募，共吸引海内外人工智能企业、高等院校、科研机构164支队伍400余人参赛。
着力发挥“发展理念+产业政策+产业技术+产业资本+产业创始人”的综合协同效应
着力发挥“发展理念+产业政策+产业技术+产业资本+产业创始人”的综合协同效应
