伦理考量规避经营风险 事前预警引导产品落地

原标题:伦理考量规避经营风险 事前预警引导产品落地

本报记者 李乔宇

日前,旷视AI治理研究院携手《人民日报》旗下人民智库发布了《2020年度全球十大人工智能治理事件》,“算法里的外卖骑手”“自动驾驶的责任归属”“AI技术在特定场景中应用受限”等热门事件被列入榜单。

这已经是旷视AI治理研究院连续第二年发布该年度榜单了。旷视希望通过盘点前一年具有争议的AI伦理事件,能够引发社会各界对人工智能治理领域关键问题、重点难点进行深入思考,并形成广泛共识;同时对于这些事件进行深入研究,也有助于企业更精准地把握人工智能技术、产业、生态发展趋势,帮助企业找准治理的方向。

近年来,旷视在AI治理以及 AI向善领域屡有活跃举措。对于一家追求业绩的拟上市公司而言,这些难以直接提振业绩的举措一度引发市场疑虑。但事实上,AI治理、AI向善等一系列举措并非简单出自这家人工智能企业的情怀和奇思妙想。

“这能够为产品的成型规划出一条更加正确、高效的路。”在旷视位于北京海淀区的办公大楼里,旷视首席发展官、AI治理研究院院长徐云程告诉《证券日报》记者,“与先将产品打磨成型,后期发现风险慌忙补救相比,在产品规划早期即引入AI治理的理念,企业投入的成本要低得多”。

事前投入事半功倍

徐云程认为,大众对于伦理道德认知有一个循序渐进的过程,“我们看到很多两年前不是问题的现象,在今天都成了潜在的风险,或者成为一个合规成本。”所以,企业应该在事前多下功夫,尽量把风险控制在早期。

“现在旷视在讨论要不要做一个产品的时候,就会把AI伦理作为一个考量因素。”徐云程告诉记者,“我们正在计划将打分机制引入到产品审批流程中,比如可以用红黄绿来区分,红色意味着这个产品需要重新审视重新规划,黄色意味着产品需要调整,绿色则代表通过AI伦理考验”。

这些规定将会影响旷视正在研发或计划开发的新产品。徐云程举例谈道,在旷视去年举办的Hackathon科技大赛中,有一个团队研发出了一款助老技术样品。“这款技术样品原有的规划是通过图像识别技术判断独居老人是否出现摔倒等问题,一旦识别出老人摔倒,这款产品能够及时通知家属或医务人员。”徐云程告诉记者,但在后期讨论中,研究人员发现使用图像技术检测老人动作存有侵犯隐私的风险,因此他们在设计中调整思路,变更为通过其他传感方式,或模糊化的前端处理方法,去规避这些风险,从而为以后的技术商品化引导了正确的方向。

“无论是研发、生产还是品牌传播,AI治理都能体现出短期的和长期的价值。”徐云程表示,关于AI伦理的讨论和AI治理的探索正在成为行业普遍认同的做法。在管理价值方面,AI治理是一个主动合规的过程,“我甚至觉得它不光应该是科技企业的标配,对于产品研发的前置性考量也应该是所有企业内部创新、转型的重要抓手。当我们把安全、伦理等问题作为技术发展的前置条件时,就会发现考量的维度变得更丰富,设计出的产品更符合社会发展的需求”。

可持续发展还需未雨绸缪

徐云程坦言,2018年加入旷视时,她也曾对于公司花费大量精力关注AI治理表示不解。彼时,旷视联合创始人兼CEO印奇特意向她强调对于AI治理的重视,并直接推动了日后旷视人工智能道德委员会的成立。2019年,印奇作为国家新一代人工智能专业委员会委员,深入参与了《新一代人工智能治理原则》制定。

站在当下回头看,徐云程仍然感慨印奇的前瞻性。

就在人工智能道德委员会成立的次年,人工智能所引发的道德风险正在越来越为市场所关注,以《2020年度全球十大人工智能治理事件》所提到的事件为代表,在国内外引发热议,人们开始真正反思人工智能与人文伦理间的关系。

“在2019年中后期,大家关注的焦点还是产品和技术本身,同时也越来越多地关注一项技术是不是可持续,关注应用场景和大数据算法在应用中的影响。但就在接下来短短的一年半的时间里,国内的大众和产学研各方对于AI治理的关注度就出现了直线上升。”徐云程对记者感慨道。

在徐云程看来,AI技术的提出虽然已经历时多年,但AI的产业化发展仍然处于初期阶段,AI治理也会随之处于一个持续迭代的过程。在关于AI治理的讨论中,企业会扮演着越来越重要的角色。“任何一个概念和方法论,最后要靠企业去实操和落地,所以希望有更多的科技企业把AI治理的重要性看清楚,把它提升到一个公司2021年重要的战略规划中,并在日常工作中加以体现。企业界应该和产业界、学术界、政府层、媒体界建立一个多方沟通、良性互动的平台,形成‘多方治理、多元共治’,这对AI产业的可持续发展是非常有利的”。徐云程强调。

“科技创新有时候是需要‘让子弹飞一会’,技术需要找到应用的土壤,但AI技术不能套用此前的‘先发展,后治理’的逻辑,而是要采用‘边发展,边治理’的新模式。”徐云程对记者强调,AI治理就是要尝试对AI技术进行风险预判,“一家企业要把很多未雨绸缪的事情做在前面,才能对企业的健康发展带来长久的回报,为企业的基业长青打下坚实的基础”。

PC4f5X

文章作者信息...

留下你的评论

*评论支持代码高亮<pre class="prettyprint linenums">代码</pre>

相关推荐