报告题目：深度学习在视频问答中的应用及其安全问题

报告时间：2020-6-23 上午 10:00

报告地点：信息工程学院C310

报告摘要：

随着人工智能技术的不断发展，深度学习的研究成果在机器翻译、图像识别、无人驾驶、人机交互、工业控制等领域得到广泛应用。人工智能逐步在众多领域替代人类进行自主决策，算法存在的漏洞一旦被攻击将会带来重大的人身伤害和财产损失。视频问答结合了自然语言处理和计算机视觉技术，是一个综合性的任务，深度学习技术在视频问答中的应用将会是下一个研究热点，而其中存在的安全问题也不容忽视。

本报告包括三个方面，首先，针对深度神经网络面对对抗样本的脆弱性，研究对抗攻击的统一建模问题。然后，基于统一的建模机制，提出基于生成式对抗网络的对抗攻击方法（MAG-GAN），利用生成式对抗网络对深度模型进行攻击，得到具有强攻击能力、小扰动、多样性的对抗样本。最后，针对深度模型面临的对抗攻击安全威胁，设计基于特征层注意力机制的对抗样本重构恢复防御方法（RCA-SOC），研究利用attention机制滤除扰动，实现对抗样本的防御。

个人简介：

  郑海斌，在读硕士，2017年9月起就读于浙江工业大学控制科学与工程专业。主要研究方向为深度学习与人工智能安全。