港大夥GCSA成立研究所 探索AI與網安治理
SingTao · 2 SOURCESabout 2 hours ago3 MIN
Summary
香港大學與全球網絡安全聯盟（GCSA）於10月19日宣布，聯合成立「人工智能與網絡安全研究所」，以回應人工智能快速發展下衍生的安全風險與治理挑戰。 港大表示，研究所將整合港大與GCSA在人工智能及網絡安全領域的科研與專業資源，並聯同國際合作機構研究人員，透過跨學科、跨機構合作，探索相關新技術、新方法及治理框架。
Key Points
- 研究所由港大計算與數據科學學院網絡安全講座教授陳浩出任署理主任，負責推動研究方向與跨界協作安排。
- 港大稱，研究所將匯聚來自港大、GCSA及國際合作機構的研究人員，並邀請人工智能、網絡安全及科技治理專家參與研究和諮詢。
- 主要研究方向之一，是提升大模型與生成式AI的安全性、可解釋性及穩健性，回應新一代AI系統應用擴大後的風險管理需要。
- 另一重點是應用AI提升對複雜網絡攻擊的感知能力，以及推進自動化防禦能力，務求令科研成果更貼近真實安全場景。
- 研究所亦會評估具身智能、機械人及物聯網等新一代技術的潛在風險，並研究AI安全評估標準與治理機制，推動國際交流合作。
- 港大進一步指出，研究所的定位不止於學術研究，亦會推動學術研究與產業實踐相結合，促進科研成果與真實安全場景深度融合。 按校方說法，研究所將逐步發布人工智能與網絡安全研究成果、安全基準及開源工具，讓研究輸出不只停留在理論層面，而是朝向可測試、可應用、可參考的方向發展。
- 陳浩表示，人工智能的快速發展帶來新的安全風險與治理挑戰，因此研究所將連接學術研究、安全測試與產業實踐，並透過跨學科及國際合作，推動人工智能安全研究成果的轉化與應用。 從港大與GCSA公布的方向可見，研究所既關注模型本身的安全與穩健，也關注AI被用於防禦網絡攻擊的能力，反映其工作範圍涵蓋技術研發、風險評估及制度治理多個層面。
- 在研究議題上，除了大模型與生成式AI外，具身智能、機械人及物聯網亦被列為前沿技術安全評估對象。 這些技術一旦與現實世界設備、感測器或自動化系統結合，潛在風險未必只限於資訊保安，亦可能牽涉系統穩定性、操作可靠性及治理責任分工，因此研究所提出同步研究安全評估標準與治理機制。
- 整體而言，港大今次與GCSA合作成立研究所，重點在於把大學研究、專業安全測試、產業應用及國際合作串連起來。 在人工智能應用持續擴展之際，港大提出逐步發布安全基準與開源工具，意味未來研究成果或不只服務學界，也可能成為業界與其他機構部署AI及網絡安全方案時的參考依據。
Why It Matters
對香港而言，人工智能應用愈趨普及，安全風險與治理要求亦同步上升；研究所把學術研究、安全測試與產業實踐連接起來，有助本地機構在採用AI時更重視風險管理與實際防護能力。 若港大日後如期發布研究成果、安全基準及開源工具，相關輸出亦可能為本地企業、公共機構及研究團隊提供較具體的參考框架。