您当前所在位置:首页 > 产品中心 > 产品优势

火狐体育网页入口/  

张钹院士:从技能层面处理人工智能安全问题

发布时间:2021-10-20 21:53:52 来源:和火狐类似体育平台               

  当时,由人工智能引领的新一轮科技革新和工业革新方兴未已。在移动互联网、大数据、超级核算、传感网、脑科学等新理论新技能驱动下,人工智能呈现深度学习、跨界交融、人机协同、群智敞开、自主控制等新特征,正在对经济开展、社会进步、全球管理等方面发生严峻而深远的影响。

  近年来,中心在屡次重要会议中对人工智能的重要性和开展前景进行论述。加速开展新一代人工智能是咱们赢得全球科技竞赛主动权的重要战略抓手。

  当时,我国人工智能工业开展处于什么阶段?怎么看待当时的开展态势?未来应怎么引导工业安全有序健康开展?环绕这些问题,近来,人民网科技频道专访了我国科学院院士、清华大学人工智能研究院院长张钹。

  张钹表明,当时我国在人工智能工业开展方面与国际先进水平的距离并不是很大,但企业质量有待与数量“看齐”,在拓展使用场景、加强数据安全和算法安全等方面加大功夫。

  他提出“第三代人工智能”的概念,并表明希望经过方针和法规之外的技能途径处理人工智能的安全问题。

  人民网科技:人工智能是新一轮科技革新和工业革新的重要驱动力气,加速开展新一代人工智能是事关我国能否捉住新一轮科技革新和工业革新机会的战略问题。关于当时我国人工智能工业开展进程,您怎么看?

  张钹:业界普遍以为,人工智能到现在为止阅历了两代。“第一代人工智能”是常识驱动型的,也被称作“符号主义”;“第二代人工智能”是数据驱动型的,便是咱们现在十分了解的“大数据”“深度学习”。

  人工智能最早于1956年起步于国外,而在我国则起步于1978年。不过这60年中,前面40年左右,也便是“第一代人工智能”,其开展较小。线年里获得的,也便是“第二代人工智能”。就现在来看,我国和国际上的开展距离并不是很大。

  聚集工业范畴,咱们所说的人工智能工业实际上分为两个大类:一类是传统信息工业的智能化,典型的便是如BAT、字节跳动这样的互联网公司。他们在开展进程中积累了许多用户,然后依据这些用户数据树立了相应的模型或画像,也便是树立所谓的用户“常识图谱”。以物品配送为例,由用户方位、商家方位、以及骑手的方位等信息组成的几千万乃至上亿的数据,树立成库,再经过人工智能的算法将其匹配、优化,能够大大提高配送功率。经过这种办法晋级传统工业,现已获得了十分大的效益。在这方面,我国是做得不错的。

  人民网科技:人脸辨认、智能音箱、智能客服……近年来,不只越来越多的企业开端进入人工智能,“人工智能”也成为高考考生最注重的专业方向之一。在您看来,当时人工智能是否“过热”?

  张钹:据统计,全球10亿美金估值以上的人工智能企业一共有40家,其间美国20家,我国15家。从数量上来说,我国稳处于第二位。但是需求留意的是,这些企业虽然估值很高,但盈余才能还很有限,大部分或许还在赔本。这是不容过度达观的。

  我以为,人工智能中心工业应该是独立于信息工业的,像智能交通、才智医疗、才智城市、自动驾驶这样由人工智能技能开展出来的工业。这方面的工业咱们现在还处于开展初期。

  人民网科技:最近,“戴头盔看房”的新闻上了热搜,也由此引发了人脸辨认技能是否被乱用的评论。咱们的人工智能工业要想健康开展,还面临着哪些应战?应该怎么打破?

  张钹:方才我说到,全世界人工智能的“明星”草创企业,我国占了超越三分之一。数量虽然多,但质量仍有待提高。这些企业除了盈余才能有限之外,还存在严峻的“同质化”现象。

  为什么会呈现这种现象?首要,使用场景有限。除了人脸辨认、安防等,其他范畴欠好用。第二,不安全。包含数据的不安全和算法的不安全。我以为这两方面是当时限制咱们人工智能工业开展的主要因素。

  首要是数据的不安全。咱们知道,现在人工智能使用作用很大程度上依靠数据质量,但由此会带来隐私走漏等安全问题,假如处理欠好隐私维护的问题,人工智能工业不或许健康开展。

  第二是算法的不安全。所谓算法的不安全,便是在必定条件下练习出来的模型,假如用到条件不大一样的当地就行不通了。术语也叫做算法关于测验环境的脆弱性,或许叫“不鲁棒性”。以无人驾驶为例,人工智能练习的时分不或许尽头一切的情境,当遇到新的突发事件便无法处理了。一起,这种脆弱性还使得人工智能体系简单被进犯、被诈骗。

  关于人工智能的安全问题,咱们不只需求从方针、法规等方面进行管理,也要尽或许地从技能层面来处理,这也是咱们提出“第三代人工智能”的初衷。

  所谓的“第三代人工智能”,其开展途径交融了第一代的常识驱动和第二代的数据驱动的人工智能,使用常识、数据、算法和算力4个要素,树立新的可解释和鲁棒的AI理论与办法,开展安全、可信、牢靠和可扩展的AI技能。

  人民网科技:当时,以深度学习为特征的“第二代人工智能”还处于方兴未已的阶段,业界能否承受“第三代人工智能”的概念?

  张钹:人工智能阅历了60多年的开展,现在看来,前面这些年的开展基本上还仅仅“前奏”。虽然现在咱们看到人工智能的各种使用许多,但实际上用到的技能基本上仍是传统的信息处理,人工智能真实的问题还没有被深入研究。

  此前,大多数人还不太能承受“第三代人工智能”的概念,由于咱们对“第二代人工智能”的希望特别高,觉得靠深度学习,人工智能就能够不断开展下去。但后来发现并非如此。

  咱们是在2015年左右较早提出“第三代人工智能”这一观念的,后来有国外学者在2018年也提出了相似的观念。

  人民网科技:“第三代人工智能”要从技能层面出发来处理人工智能的安全问题,详细该怎么开展?

  张钹:开展“第三代人工智能”,咱们提出要树立可解释和鲁棒性人工智能理论;然后在此基础上,开展安全、可信、牢靠和可扩展的人工智能技能;最终,推进立异使用。也便是说,要立异使用、开展工业,有必要先处理前面两个问题。

  详细来说,咱们的办法是把常识和数据结合起来。在这四、五年里,咱们做了一些相关的作业,部分效果也现已完成了工业化使用。最近经过咱们孵化的企业RealAI推出的数据安全渠道RealSecure、算法安全渠道RealSafe,便是这些效果的直接表现。

  需求指出的是,这些作业现在也只能在特定情况下“就事论事”地去处理一些安全性问题。也便是说,人工智能的安全问题现在还没有找到底子的解法,并且很或许会成为永久的论题。正所谓“道高一尺,魔高一丈”。人工智能安全范畴未来将会处于一种攻防不断对立的状况,因而算法也有必要不断更新。

  开展“第三代人工智能”将是一个长时间的进程。咱们现在还处于探索阶段。但好在人工智能有个特色,便是每个阶段性效果都会有很大的使用价值。这也是为什么各国现在都很注重开展人工智能的重要原因之一。

产品展示/  

和火狐类似体育平台/  CONTACT US

联系人:冯一
电话:0512-67421090
邮箱:senaokeji@163.com
地址:江苏省苏州市工业园区新天翔广场A座1528室

服务热线

0512-67421090

功能和特性

价格和优惠

获取内部资料

扫一扫