湘江高端学术论坛：智能物联网系统安全

报告题目：智能物联网系统安全

报告人：上海交通大学朱浩瑾教授

报告时间：2024年6月15日16：30--17: 30

报告地点：逸夫楼219会议室

简介：朱浩瑾，上海交通大学计算机科学与工程系教授，国家杰出科学基金获得者，IEEE Fellow，上海交通大学电子信息与电气工程学院副院长。主要研究方向为物联网安全。主持包括国家自然基金6项（包括自然基金重点项目1项），重点研发课题 2 项等。已发表（或录用）SCI期刊70余篇，EI检索论文100余篇。其中包括顶级会议IEEE S&P, USENIX Security, ACM CCS, NDSS等。相关研究工作谷歌学术总引用次数11000余次，H-index 52。研究成果获得2023年SIGSOFT ESEC/FSE Distinguished Paper，2021年ACM CCS Best Paper Runner-ups Awards、2020年IEEE TCSC Excellence in Scalable Computing (Middle Career Researcher，2020)、与2018 年教育部自然科学一等奖。担任IEEE/ACM Transactions on Networking (TON), IEEE Transactions on Wireless Communications(TWC)和ACM Transactions on Privacy and Security (TOPS)编委以及USENIX Security, CCS, NDSS等顶级会议程序委员会委员。

报告摘要：传统的物联网系统与人工智能技术相结合，提供了丰富的功能。然而，物联网系统智能化的过程中，面临“外部识不准、底层靠不住”的难题。本报告首先从后门威胁出发，介绍了物联网系统图像接口与NLP接口存在的隐蔽后门威胁，可以造成图像失败错误，自然语音理解错误的安全威胁。其次，面对AI智能决策所依赖的底层算法库，本报告在硬件层面介绍团队最新发现的比特翻转安全威胁。相关研究显示，攻击者仅翻转硬件1 bit 信息，即可造成上层AI模型的决策失灵。