新京报讯（记者张璐）北京前瞻人工智能安全与治理研究院近日成立，落户中关村门头沟园“京西智谷”。作为北京的新型研发机构，研究院将通过开展人工智能安全与治理相关前沿基础理论研究、关键技术研发、标准规范制定、平台工具构建与服务，有效监测和防范人工智能的技术和社会风险，为企业、社会和政府提供人工智能安全护栏与安全人工智能模型与服务。

据北京前瞻人工智能安全与治理研究院院长曾毅介绍，人工智能的发展给全社会带来前所未有的机遇与变革。同时，人工智能也带来潜在风险与挑战，比如隐私侵犯、虚假信息、人工智能幻觉、偏见歧视、自主系统风险等，人工智能安全与治理的问题已与每个人息息相关。社会无法接受缺乏方向盘和缰绳的人工智能无序野蛮狂奔，安全、伦理与治理将促进人工智能的稳健发展。

作为北京前瞻人工智能安全与治理研究院的前身，北京人工智能安全与治理实验室于2024年9月揭牌，在半年多的发展与建设期间，与合作机构共同发布了多项研究成果，比如在技术安全与治理方面，发表了涉及生成式人工智能大模型面对不同程度压力的行为表现与机理研究、人工智能大模型的安全护栏研究等；在全球人工智能安全与治理评估与合作方面，联合发布全球人工智能安全指数。

近日，经北京市民政局批复，北京市经信局作为主管单位，北京前瞻人工智能安全与治理研究院成立。研究院汇聚了来自中国科学院自动化研究所、中国信息通信研究院、北京大学、清华大学、北京邮电大学等科研团队力量开展深度合作，并联合多家人工智能与安全企业共同开展人工智能安全研究与治理实践，建立健全覆盖技术研发、风险评估、伦理审查、应急处置的全链条安全治理体系。

编辑 白爽

校对 王心