守住AI产品底线,避免技术作恶
“未来10—20年,AI技术将渗透至与人类密切相关的领域,比如医疗、司法、生产、金融科技等风险敏感型领域,AI技术如果犯错,就会造成较大系统风险。”2020年12月29日,在未来科学大奖周举办的“青年对话”活动中,清华大学计算机系长聘副教授、中国科协全国委员会委员崔鹏说。
活动中,腾讯科学技术协会秘书长张谦表示,面对AI技术所引起的风险问题,首先应该关注的是守住AI产品底线,即避免技术作恶。
在这方面,美团首席科学家夏华夏认为,法律法规方面需要做大量工作,包括制定AI行业的标准、规范,以及从国家层面完善、出台相关法律法规,从而对AI技术发展进行把控。
谈及AI标准化的实践,中国人民大学法学院副教授、未来法治研究院社会责任和治理中心主任郭锐提到两个原则——人的根本利益原则和责任原则,“这两个原则的宗旨是让AI的决策和行动尽可能通过人的干预来避免对人的伤害”。
“徒法不足以自行。”郭锐坦言,法律本身也存在局限,规避AI技术潜在风险,需管理者对AI技术有透彻的了解,这样才能对其进行有效管制,“法律是建立包容性社会的重要工具,法律界要和企业、技术等方面专家合作,这样通过法律来对AI技术进行管理约束的目标才能达成。”
星界资本管理合伙人方远认为,各大核心数据平台处于AI风险管理的重要位置,“在互联网和大数据时代,大平台是数据的采集者也是守护者。务必要对数据使用权做出清晰界定,这对整个社会的AI发展有重要意义”。
“AI技术的风险治理需要科技工作者、企业管理者、政策制定者、相关法律专家以及投资人多方努力。”中科院计算所研究员山世光说。
除了守住底线,与会者还提到,要厘清边界,引导技术向善。
崔鹏指出,犯错并非AI特有的风险,人也会犯错。“但人犯错大多数可控、可预测。而目前AI技术犯错的话是不可预测的,或者犯错后人们会发现其犯错机制是无法从技术层面解释的。这涉及到AI在决策和行为上的边界问题。”
厘清边界具体包括AI需要明白它会什么、不会什么,以及人需要明白AI什么事能做、什么事不能做等问题。崔鹏认为,如不厘清边界,AI还会犯更多低级错误,带来更大风险。
郭锐认为,目前AI遇到的伦理问题,实际上是因为它远未达到人类智能的程度,却已被赋予为人类做决策的责任,“还有人把AI技术当作借口,用科学的名义做不符合伦理的决策,这样做是不对的。需要人决策的地方应该由人决策”。
2020年新冠肺炎疫情期间,英国用一套算法得出学生成绩,结果近40%的学生成绩低于教师的预估分数,导致很多学生与名校失之交臂。山世光说,有些人工智能模型或数据模型没有考虑到社会公平、优势累计恶果,导致看起来运算过程很严谨、结果很准,但却并不足以支持AI做出科学决策。
有专家表示,这并非AI技术的错。夏华夏说,真正应承担社会责任的是使用AI技术的人、企业等。AI技术向善需要社会整体文明发展到一定阶段,形成良好氛围。张谦则提到,技术并不可怕,可以通过技术进一步发展解决技术存在的问题。
山世光称:“说到底,我们还是希望AI技术能得到健康发展,满足对科技真、善、美的追求。”(实习记者 代小佩)
您可能也感兴趣:
为您推荐
冰雪运动的保险迎来“出圈”契机 产品开发、销售难度都不小
金融标准化“十四五”发展规划发布 指明保险业发展方向
“隔离险”大火 银保监会强调保险公司不得无理拒赔
排行
最近更新
- 智慧春运,助力返程之路
- 2021年厄尔尼诺相关概念股有哪些,厄尔尼诺概念股一览
- 商业地产上市公司股票有哪些?相关商业地产龙头一览
- 饲料行业上市公司股票有哪些?
- 股票300071现在价格多少?华谊嘉信300071现在什么价?
- 摆钟工作原理
- gsm是什么网络
- 称重传感器原理
- 石英管液位计的原理及特点
- 逻辑代数的基本公式和常用公式
- 校园视频监控系统解决方案
- 完美积分电路设计之我见
- 欣奕母婴:聚焦剖腹产宝妈,挖掘母婴新市场!
- 监管要求下调服务费,美团市值一日蒸发2000亿港元
- 老人做理疗被烫伤 提醒:保健设备使用需当心
- 机构:44家上市物企增值服务收入同比增长79.9% 美居服务增长迅速
- 渣打信用卡被抛弃?某大行员工:就没把他们当竞争对手
- “中医真神奇” 针灸推拿成冬奥村“明星项目”
- 因编制虚假报表、资料,民盛保险代理被罚12万
- 悉成金融投资研究中心主任首席投资官张云虎:构建金融科技生...
- 简康:一起看过了来,摆脱亚健康,这个品牌有“妙方”
- 富途证券:一年估值翻6倍,英国最大独角兽Revolut如何打造超...
- 银行理财产品能否提前赎回?提前赎回要支付赎回费用吗?
- 应时而生,全新上市 | IFENBEI室内隔音黑科技
- 浙江省创新型城市建设成效显著 6地进入国家创新型城市前50强
- 微信零钱能否免费提现?有哪些免费提现小技巧?
- 后系统革命!业之峰打造“好管家+类产业工人”
- 支付宝相互保理赔成功后何时到账?平台审核需要多久?
- 中华骄子•共向未来——著名艺术家李智泉致敬冬奥
- 辽宁加快构建“一圈一带两区”区域协调发展 加快实现全方位振兴