44118太阳成城集团计算机与人工智能学院

    为普及人工智能知识，提高同学们对人工智能安全可信问题的认识和关注，44118太阳成城集团计算机与人工智能学院于2023年5月28日晚上8:00在新1-308教室举办了一场名为“AI安全可信吗？”的科普讲座。本次讲座是我院参与2023年湖北省科技活动周活动之一，旨在围绕公众关注的社会热点问题，结合公众科普需求，为公众开展科普讲座。本次讲座邀请计算机与人工智能学院龚腾飞博士主讲，2021级人工智能与大数据专业本科生参加。

首先，龚老师带领同学们学习深度学习的脆弱性问题，探讨深度学习技术在各个领域的广泛应用以及其存在的安全性挑战。在介绍了已经在人脸识别、自动驾驶等领域取得了令人瞩目的成就后，龚老师为大家点明深度学习模型在实际应用中仍存在严重的脆弱性。同时向同学们展示相关研究，通过在一张图片上添加微小的对抗噪声，深度学习模型可能会做出错误的判断，而这种对人眼来说几乎无法察觉的差异可能导致严重后果。

讲座中，龚老师深入浅出地介绍了深度学习技术在不同领域的应用案例与其可靠性的分析，并特别强调了对抗攻击带来的安全性挑战。通过对一些人工智能的失败案例进行简明的阐述和详细的分析，她向全体同学阐述了深度学习模型的漏洞问题，强调了防止这些漏洞带来的财产损失甚至威胁人生安全的重要性。

“AI安全可信吗？”的讲座也引发了同学们的广泛关注和积极讨论。许多同学对深度学习技术的脆弱性问题，如人脸合成，变装变声等安全性领域表示疑惑，并对保障人工智能的安全性和可信度提出了各种观点和看法。龚老师就学生提出的困惑进行热情的回应，对同学们所提出的问题进行一一回答讲解，进一步强化了同学对深度学习技术的认识。

通过举办此次讲座，学院为同学们提供了一个了解最新技术动态、引发思考和交流的平台。同时，讲座也提高了同学们对前沿科技的创造积极性，将进一步推动同学对于AI安全领域的研究与发展，为构建安全可信的人工智能社会贡献力量。

（图文： 付玉康，蔡长兴   审核：向剑文）