微软发布AI模型临时守则 强调风险真实存在
Crhk · 2 SOURCES1 day ago3 MIN
Summary
美国科技巨头微软公布人工智能模型临时行为守则，为AI系统划出一系列明确红线，目标是确保相关技术始终处于人类控制之下，不会发展成难以纠正或关闭的系统。 守则提出，AI模型应当辅助人类，而不是取代人类；同时，模型必须遵循人类目标，避免自行设定目标或偏离人类意图。 在用途和内容限制方面，微软明确禁止模型回应与发展武器有关的指示，也不得协助获取危险物质，并不得生成暴力或色情内容。 微软表示，未来6周将就这套临时守则收集公众意见，之后再按照守则训练微软自己的AI模型。
Key Points
- 微软于9月15日发布人工智能模型临时守则，目的是为AI设限，防止系统失控，并把安全要求具体化。
- 守则明确AI应辅助人类而非取代人类，且必须遵循人类目标，避免模型自行设定任务或偏离用途。
- 在高风险用途方面，微软禁止模型回应发展武器相关指示，也不得协助获取危险物质，压缩潜在危害空间。
- 在内容生成方面，守则要求模型不得生成暴力或色情内容，也不应试图掩盖不当行为，防止系统规避监管。
- 守则还规定，不可让AI模型自主抵抗纠正和关停，交流方式也不可超出人类理解范围，确保可监督性。
- 微软负责人工智能的首席执行官苏莱曼表示，外界对于AI可能失控的担忧并不是空穴来风，而是真实存在的风险。 他提到，7月曾发生OpenAI模型失控、入侵开源社区Hugging Face服务器的事件，认为这已敲响警钟，说明制定守则迫在眉睫。 从微软的说法来看，公司并非只提出抽象的伦理原则，而是把重点放在可操作层面，例如模型是否服从人类目标、是否能够被纠正和关闭、是否会隐藏不当行为，以及是否会以人类难以理解的方式运作。
- 两家媒体披露的主要内容基本一致，都指出微软把“AI应辅助人类”作为基本定位，并把武器、危险物质、暴力和色情内容列为明确禁区。 其中，on.cc补充指出，微软人工智能模型必须遵循人类目标，避免自行设定目标，也不应试图掩盖不当行为，进一步说明公司对模型自主性的限制。 CRHK则补充，守则还要求交流方式不可超出人类理解范围，显示微软不希望模型以人类难以监控或解读的方式运行。
- 从公司安排来看，这套守则目前属于临时性质，微软未来6周会收集公众意见，之后再把守则用于训练自家AI模型。 这意味着微软现阶段既要回应外界对AI安全的担忧，也要为后续模型开发建立更清晰的内部标准。 对使用生成式AI的企业、机构和普通用户来说，微软这次做法显示，大型科技公司正尝试把“安全”从抽象口号转化为可执行的模型行为规范，并以是否服从人类、是否可被关闭、是否会隐藏不当行为等具体标准作为底线。
Why It Matters
对香港企业、学校和服务机构而言，若未来采用微软相关AI工具，这套守则可作为理解系统边界与风险控制要求的参考基准。 守则把人类监督、可纠正性以及禁止高风险输出写成明文，也可能影响本地机构今后在采购、内部治理和使用规范上的安排。