【数百会 | 专家视点】本·施奈德曼教授：更安全的算法系统迫切需要政策支持

马里兰大学名誉教授本·施奈德曼近日在国际信息处理联合会（IFIP）官网发表技术简报指出：随着人工智能和其他复杂性系统普及，各类算法系统的安全性问题造成的危害时有发生，系统安全需求变得越来越紧迫。施奈德曼教授希望“更安全的算法系统”能够让政策制定者和公众了解技术进步对现实世界的影响。

简报提出，算法系统的普遍存在产生了严重风险，这些风险并没有得到充分解决。百分之百安全的算法系统是不存在的，但采取可行的措施可使它们更安全。为此，施奈德曼教授提出以下三点建议：

一是应该把使用更安全的算法系统作为政府和所有利益相关者的优先研究事项。需要对技术软件开发方法进行研究，改进软件测试、审计跟踪、监控机制，并加强培训和治理。

二是应加强组织安全文化的普及，并将其融入算法系统开发和运营中。特别是需要管理层的领导、对招聘和培训的关注、采取安全相关对策以及持续关注。

三是应建立多种形式的、持续的、以人为本的内部监督机制和独立监督机制，来促进更安全的算法系统。

 “数百会 | 专家视点”是中国数字经济百人会着力打造的一档专家访谈专栏。邀请国内外数字经济领域知名专家学者、企业家、投资人等，分享数字经济前沿技术、应用场景、商业模式及发展趋势，为大众呈现一个全方位、高层次、国际化的数字经济视角。