安全成为数字经济时代的新基建 必须靠AI(人工智能)实现
5日,在阿里安全与清华大学联合举办的AI与安全研讨会上,阿里巴巴集团首席风险官郑俊芳判断,安全成为数字经济时代的新基建,安全基建又必须靠AI(人工智能)来实现。
AI面临算法安全问题
中国科学院院士、清华大学人工智能研究院院长张钹认为,人工智能将先在交通、医疗、金融、智能制造等领域产生革命性的变化。从长远来看,AI会根本性改变这些领域,从现实来看,还有许多困难要克服。
中国科学院院士、清华大学人工智能研究院院长张钹。中新网记者 张旭 摄
现在,已有厂商在国内部分地区试点自动驾驶出租车服务,不过整体来看,现在所有的自动驾驶产品或者即将上市的产品都处于L4级以下。
西安交通大学人工智能与机器人研究所教授薛建儒认为,无人驾驶的安全可信面临的挑战性在于,无人驾驶面临动态决策,它固有的复杂性、不确定性和歧义性都是一些开放式问题。
薛建儒说,“当前我们的无人驾驶在应对复杂场景和人类驾驶员相比在适应性上存在很大差距。在如何引入人类的驾驶知识,把人类的直觉推理和演绎推理这样的认知机理放到驾驶模型里,提高当前模型表征能力,我们还有所欠缺。”
张钹表示,AI面临着算法安全的根本原因在于,神经网络只是进行函数映射,缺乏对任务的理解,算法的鲁棒性(Robust的音译,指在异常和危险情况下系统生存的能力)差,具体表现在“一是测试集的鲁棒性差,当测试集和训练数据有差别,推广能力就会变差。二是对噪声的鲁棒性很差,导致AI算法容易被滥用、攻击、误用。”
安全能力提升需开放合作
正如郑俊芳所说,安全基建必须靠AI来实现,安全的AI正在给多个领域带来变化。
清华大学计算机系副主任朱文武介绍了其在多媒体与AI上的研究,希望人工智能给多媒体提供研究的新思想和范式,比如原来的语义处理通过特征提取进行分析,语义学习给多媒体提供了语义和多模态信息,这能帮助机器学习做得更好。多媒体和AI呈互相促进,互相帮助、互相指导的态势发展。
阿里巴巴集团首席风险官郑俊芳在会上演讲。中新网记者 张旭 摄
据阿里安全资深算法专家薛晖介绍,近五年来,阿里每万笔交易的一次侵权商品量下降将近三分之二;近三年来,阿里平台通过输出线索协助公安打击线下制售假窝点,拘捕嫌疑人近万名,累计涉案金额超过200亿元。
这两个数字背后,是阿里建立的一套基于人工智能的复杂电商环境治理体系在发挥巨大作用。算法专家不仅要保障上述体系的两大能力高速发挥其作用,还要十分关注电商关键节点模型自身的安全性,以保证模型不会出现漏洞,不被黑产所利用,保证模型的鲁棒性。
郑俊芳称,阿里在安全领域投入非常大,技术人员在安全团队中占比超过50%。“这几年我们和顶级的团队在不同领域进行合作,合作背后就是因为我们遇到了很多挑战,所以说,安全必须要靠坚定的投入和更开放的合作,才能解决今天面临的复杂挑战。”(张旭)
您可能也感兴趣:
为您推荐
冰雪运动的保险迎来“出圈”契机 产品开发、销售难度都不小
金融标准化“十四五”发展规划发布 指明保险业发展方向
“隔离险”大火 银保监会强调保险公司不得无理拒赔
排行
最近更新
- 智慧春运,助力返程之路
- 2021年厄尔尼诺相关概念股有哪些,厄尔尼诺概念股一览
- 商业地产上市公司股票有哪些?相关商业地产龙头一览
- 饲料行业上市公司股票有哪些?
- 股票300071现在价格多少?华谊嘉信300071现在什么价?
- 摆钟工作原理
- gsm是什么网络
- 称重传感器原理
- 石英管液位计的原理及特点
- 逻辑代数的基本公式和常用公式
- 校园视频监控系统解决方案
- 完美积分电路设计之我见
- 欣奕母婴:聚焦剖腹产宝妈,挖掘母婴新市场!
- 监管要求下调服务费,美团市值一日蒸发2000亿港元
- 老人做理疗被烫伤 提醒:保健设备使用需当心
- 机构:44家上市物企增值服务收入同比增长79.9% 美居服务增长迅速
- 渣打信用卡被抛弃?某大行员工:就没把他们当竞争对手
- “中医真神奇” 针灸推拿成冬奥村“明星项目”
- 因编制虚假报表、资料,民盛保险代理被罚12万
- 悉成金融投资研究中心主任首席投资官张云虎:构建金融科技生...
- 简康:一起看过了来,摆脱亚健康,这个品牌有“妙方”
- 富途证券:一年估值翻6倍,英国最大独角兽Revolut如何打造超...
- 银行理财产品能否提前赎回?提前赎回要支付赎回费用吗?
- 应时而生,全新上市 | IFENBEI室内隔音黑科技
- 浙江省创新型城市建设成效显著 6地进入国家创新型城市前50强
- 微信零钱能否免费提现?有哪些免费提现小技巧?
- 后系统革命!业之峰打造“好管家+类产业工人”
- 支付宝相互保理赔成功后何时到账?平台审核需要多久?
- 中华骄子•共向未来——著名艺术家李智泉致敬冬奥
- 辽宁加快构建“一圈一带两区”区域协调发展 加快实现全方位振兴