11月21日获悉,华中科技大学与阿里巴巴集团已于11月18日签署合作协议,共同建设“智能攻防与前沿安全联合研究中心”,合作重点放在AI安全领域。该研究中心首批启动9个课题,围绕相关风险展开研究。
首批课题涉及四个方向,分别是大模型安全攻防、智能体与终端安全、智能化系统与软件安全、数据协同与隐私保护。
在智能体代替用户操作手机、执行复杂任务的场景中,屏幕画面存在被伪造的可能,操作过程也可能遭到恶意诱导。为此,研究中心设置了“图像对抗样本与终端威胁研判”课题,探索对这类安全风险进行识别和防护的技术路径。
用户在购物、地图、外卖等应用之间切换时,既需要数据互通带来的便捷,也会担心个人信息在协同过程中泄露。针对这一矛盾,“隐私保护关系图谱”课题将研究密态计算等技术,推动数据实现可用不可见、协同不透传,使便利与隐私保护能够兼顾。

