（2022年9月3日，上海）在2022 WAIC世界人工智能大年夜会“亚洲科技伦理治理与可持续成长论坛”上，商汤科技正式宣布《“均衡成长”的人工智能治理白皮书??商汤人工智能伦理与治理年度申报（2022年）》（以下简称“申报”），深刻商量并分享了商汤在推动AI治理落地过程中的洞察、思虑、目标与实践。商汤科技智能家当研究院院长田丰受邀出席并就白皮书的重点内容作懂得读。

申报指出，当前，人工智能治理已经进入了以技巧验证为主的落地实践阶段。本年以来，新加坡、欧盟、美国、中国等国度的监管机构和第三方机构纷纷宣布AI治理测试对象箱、技巧监管沙箱，推动AI治理的落地实施。

作为全球领先的人工智能软件公司，商汤始终高度看重人工智能治理，客岁正式提出了“均衡成长”的人工智能伦理不雅，同时明白了“以工本钱、技巧可控、可持续成长”的伦理原则。跟着人工智能治理进入落地实践阶段，商汤此次进一步提出了成长“负义务且可评估”的人工智能，并将其作为商汤开展人工智能治理的愿景目标，打造伦理治理闭环。

人工智能治理进入落地实践阶段，负义务且需可评估 

人工智能治理的“分层目标”

从成长过程看，人工智能治理至今已经经历了以原则评论辩论为主的1.0阶段，以政策评论辩论为主的2.0阶段。进入2022年，跟着全球人工智能治理过程的持续推动，以及可托、负义务人工智能等相干理念的持续渗入渗出，有关验证人工智能治理若何落地实施的倡议日益增多。人工智能治理开端进入以技巧验证为主的3.0阶段，即落地实践阶段。

而今朝，人工智能治理的落地实践仍面对很多挑衅，各行各业须要重点处理“理念与行动”、“政策与实践”、“技巧与用户”三组关系，即将人工智能伦理的合营原则付诸实施；将政策请求转化为技巧和营业团队可履行的实践标准；处理好技巧与用户间的关系，推动用户对AI治理的认知，最终才能深刻推动人工智能治理。

是以，人工智能治理体系建构的目标，就是成长负义务的人工智能，须要做到有迹可循、有据可查。基于“均衡成长”的伦理不雅，“以工本钱、技巧可控、可持续成长”的伦理原则，商汤此次于行业初次提出成长“负义务且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标。

“负义务且可评估的人工智能”的核心请求

构建覆盖全生命周期的治理体系，打造AI治理闭环 

作为业界最先组建人工智能伦理与治理委员会，并将伦理治理工作算作公司计谋级偏向的科技立异企业之一，商汤自2020年1月兼顾推动人工智能伦理治理工作体系扶植以来，已在内部开展大年夜量治理立异实践，并形成了一整套可评估的人工智能治理落处所案，将伦理原则嵌入到产品设计、开辟、安排的全生命周期，初步形成了人工智能治理闭环。

在数据风险方面，商汤将小我信息保护融入产品研发全生命周期，设立“数据安然与小我信息保护委员会”，实施小我信息保护评估审查，确保产品遵守默认相符小我信息保护的设计请求。

为有效地推动人工智能治理，商汤科技基于对全球人工智能治理诉求的分析，结合自身对技巧和市场的懂得，在白皮书中提出，“人工智能治理应当是一个价值牵引、技巧先行、多方介入、分层推动的动态过程”，为人工智能治理的落地实践建立了有效路径。

从治理后果看，人工智能治理的实现由低至高，可分为可用、靠得住、可控、可托四个层次。个中，“可用”是指人工智能体系在功能、机能层面应当可以或许知足应用处景需求；“靠得住”是指人工智能体系在安然性、鲁棒性层面应当可以或许知足安排情况和可持续运营请求；“可控”是指人工智能体系在功能层面应当可以或许充分保护人类的自立意志和权力、保障人类对体系的控制权；“可托”是指人工智能体系的设计和应用应当相符人类的价值理念和伦理道德。

在算法风险方面，商汤作为领先的人工智能企业，主动承担算法开辟者的主体义务，针对贸易化算法场景，开展基于真实场景下的算法验证与评测，实现 AI 技巧的真正可托与可控。

在应用风险方面，商汤持续完美人工智能伦理治理体系，建立覆盖设计、开辟、安排全生命周期的产品伦理风险审查流程；紧随全球人工智能行业成长变更，建立“全球AI伦理风险库”；按期组织员工进行人工智能伦理培训，持续完美内部伦理传播体系，赓续晋升员工伦理素养。

商汤AI治理闭环，推动构建负义务且可评估的AI

为保障人工智能治理体系的有效落实、推动形成伦理治理“人人有责”的企业文化，商汤还建立了伦理风险目标治理机制、伦理风险事宜处理机制和伦理治理质量控制机制。此外，为推动成长“负义务且可评估”的人工智能，商汤还在内部开辟了一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程对象和技巧平台。

跟着人工智能逐渐深刻家当应用，AI的成长与治理之间的关系正如汽车的“发念头”和“偏向盘”一样，相辅相成、缺一弗成。在本次论坛上，商汤科技智能家当研究院科技政策与伦理研究主任宫超还受邀出席《拥抱科技伦理治理体系，赋能可持续成长之路》圆桌评论辩论，结合商汤在AI治理方面的实践成果，与行业嘉宾深刻商量了商汤的AI治理主意，他强调，商汤将持续推动成长负义务且可评估的人工智能，为AI治理实践赓续供献完美、可行的落处所案。