如何管控 AI？微软发布治理 AI 报告

软餐获悉，微软近日发布了一份名为 Governing AI: A Blueprint for the Future（治理 AI：未来蓝图）的报告（PDF 版）。该报告就企业和政府如何应对及管控人工智能提出了建议。微软总裁 Brad Smith 为该报告撰写了前言，总结了其目标。它有五个具体要点。

1. 实施和建立新的政府主导的人工智能安全框架：这些框架已经由美国国家标准与技术研究所提出。
2. 需要对控制关键基础设施的 AI 系统进行有效的安全制动：“这些故障安全系统将成为系统安全综合方法的一部分，将有效的人类监督、弹性和稳健性放在首位。”
3. 制定基于人工智能技术架构的广泛法律和监管框架：史密斯表示，将需要建立在现有法律基础上的新法律和法规来管理人工智能，包括一个新的政府机构来监管人工智能。
4. 提高透明度并确保学术和非营利组织访问 AI：史密斯表示，微软将发布一份关于其 AI 透明度工作的年度报告，并且必须做出新的努力，将 AI 研究扩展到学术和非营利组织。
5. 寻求新的公私合作伙伴关系，将人工智能用作解决新技术带来的不可避免的社会挑战的有效工具：史密斯表示：“现在需要开展重要工作，利用人工智能保护民主和基本权利，提供广泛的人工智能使用机会促进包容性增长的技能，并利用人工智能的力量推动地球的可持续发展需求。”

去年以来，大语言模型（LLM）领域的进展突飞猛进，引起了外界对 AI 的警觉。今年 3 月，超过 1500 位科技界人士曾在线联署签名，呼吁暂停大型 AI 训练，但似乎收效甚微。