港大与GCSA成立AI与网络安全研究所
SingTao · 2 SOURCES1 day ago3 MIN
Summary
香港大学与全球网络安全联盟（GCSA）于10月19日宣布，联合成立“人工智能与网络安全研究所”，以应对人工智能快速发展带来的安全风险与治理挑战。 港大表示，研究所将整合港大与GCSA在人工智能及网络安全领域的科研与专业资源，并联合国际合作机构研究人员，通过跨学科、跨机构合作，探索相关新技术、新方法及治理框架。
Key Points
- 研究所由港大计算与数据科学学院网络安全讲座教授陈浩担任署理主任，负责推动研究方向与协作安排。
- 港大称，研究所将汇聚来自港大、GCSA及国际合作机构的研究人员，并邀请人工智能、网络安全及科技治理专家参与研究和咨询。
- 主要研究方向之一，是提升大模型与生成式AI的安全性、可解释性及稳健性，以回应新一代AI系统应用扩展后的风险管理需求。
- 另一重点是应用AI提升对复杂网络攻击的感知能力，并推进自动化防御能力，使科研成果更贴近真实安全场景。
- 研究所还将评估具身智能、机器人及物联网等新一代技术的潜在风险，并研究AI安全评估标准与治理机制，推动国际交流合作。
- 港大进一步表示，研究所的定位不只限于学术研究，也会推动学术研究与产业实践结合，促进科研成果与真实安全场景深度融合。 按校方说法，研究所将逐步发布人工智能与网络安全研究成果、安全基准及开源工具，使研究输出不只停留在理论层面，而是朝向可测试、可应用、可参考的方向发展。
- 陈浩指出，人工智能的快速发展带来了新的安全风险与治理挑战，因此研究所将连接学术研究、安全测试与产业实践，并通过跨学科及国际合作，推动人工智能安全研究成果的转化与应用。 从港大与GCSA公布的方向看，研究所既关注模型本身的安全与稳健，也关注AI被用于防御网络攻击的能力，显示其工作范围覆盖技术研发、风险评估及制度治理多个层面。
- 在研究议题上，除大模型与生成式AI外，具身智能、机器人及物联网也被列为前沿技术安全评估对象。 这些技术一旦与现实世界设备、传感器或自动化系统结合，潜在风险未必只限于信息安全，也可能涉及系统稳定性、操作可靠性及治理责任分工，因此研究所提出同步研究安全评估标准与治理机制。
- 整体而言，港大此次与GCSA合作成立研究所，重点在于把大学研究、专业安全测试、产业应用及国际合作串联起来。 在人工智能应用持续扩展之际，港大提出逐步发布安全基准与开源工具，意味着未来研究成果或不只服务学界，也可能成为业界与其他机构部署AI及网络安全方案时的参考依据。
Why It Matters
对香港而言，人工智能应用愈发普及，安全风险与治理要求也同步上升；研究所把学术研究、安全测试与产业实践连接起来，有助本地机构在采用AI时更重视风险管理与实际防护能力。 若港大日后按计划发布研究成果、安全基准及开源工具，相关输出也可能为本地企业、公共机构及研究团队提供更具体的参考框架。