人工智能伦理与安全研究中心成立

资讯 5年前

1.33K

为降低人工智能发展过程中可能存在的技术风险和伦理隐患，近日，北京智源人工智能研究院在北京专门成立人工智能伦理与安全研究中心，着力加强人工智能伦理与安全研究，引导行业健康发展，中国科学院自动化研究所曾毅研究员任研究中心主任。

曾毅介绍，研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究，目前主要包括四大方面：一是低风险机器学习模型与平台的构建，建立机器学习模型安全性的评估体系；二是开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准，并在模拟环境与真实场景中进行验证；三是建设数据安全示范应用系统，建立数据基础设施、数据分级、权限控制、数据审计，最大限度防止数据泄密，降低风险；四是构建人工智能风险与安全综合沙盒平台，建设自动检测平台，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行风险与安全综合检测与评估，引导行业健康发展。