智能科技如何给人更多“安全感”?

  新闻资讯     |      2024-03-25 18:30

  必一运动新华社天津5月18日电(记者翟永冠 尹思源)公安指挥中心建设、智能人脸识别、“特警”机器人、智慧医疗……第二届世界智能大会正在天津举行,一系列着眼于公共安全、生命健康的智能科技亮相,给人们提供更多的“安全感”。随着人工智能技术应用越来越广,如何解决人工智能系统中存在的安全漏洞和潜在风险,已引起业界更多关注。

  着眼于公共安全的“城市安全大脑”、着眼于个人健康安全的智慧医疗、代替人从事危险工作的机器人……在第二届世界智能大会上,记者看到,人工智能技术的发展为人们带来更多保护,有效化解公共安全风险、维护个人身体健康安全,成为人工智能发展带来的好处之一。

  迅速识别犯罪分子、提供智慧消防服务、帮助收集现场蛛丝马迹并智能分析,多款着眼于维护公共安全的智能科技吸引人们围观。天津中环系统工程有限公司“城市安全大脑”项目负责人刘哲说,城市安全大脑将指挥消防系统、智能安防系统、巡检运维系统、动态人脸识别等集纳在一起,成为城市公共安全的指挥中心。“以被银行、医院等广泛采用的智能安防为例,可以迅速识别不良行为,天津的一家三甲医院每天可以发现三四名‘惯偷’,有效维护公众人身财产安全。”刘哲说。

  在个人健康安全方面,智慧医疗系统提供个人健康顾问系统解决方案,实现个人健康大数据收集和分析,及时实施健康干预,更好地维护个人身体健康安全。科大讯飞高级副总裁江涛介绍,科大讯飞近年来在人工智能领域取得技术突破和成果,将会在智慧医疗、智慧家庭等行业领域广泛应用。

  人工智能发展在维护生活安全的同时,其带来的安全风险也不容忽视。与会专家和业内人士表示,人工智能所依赖的传感器和使用的开源软件等都可能存在安全隐患。

  “当网络受到攻击时,你可能遇到不能网上订餐、购物、约车,甚至做不了手术、机动车上不了牌照等问题。”周鸿祎说。

  ——隐私泄露。“我们所享用的网络服务比我们自己更懂我们自己”。摄像头无处不在,个人信息在网络世界频频“裸奔”,个人信息和隐私的保护也日益严峻。IBM全球安全事业部网络风险管理合伙人查理·辛格说,欧洲最新的通用数据保护条例里,特别规定了数据主体对于个人数据的权利,对用户拍照行为有特别严格的限制。

  ——攻击智能经济。周鸿祎说,智能经济已经成为网络攻击选取的目标。在“软件定义一切,万物皆可互联”的同时,网络攻击已经开始威胁智能经济的健康发展。比如,2017年5月发生的勒索病毒事件,全球150多个国家受到影响,中国也有大量工业企业中招。

  ——劫持智能设备。人工智能会用于许多无人值守系统,一旦被网络劫持,将带来严重的安全问题。比如智能汽车都是可以用手机进行控制的,要跟车厂的服务器保持连接,定期更新软件保证汽车的驾驶模式。智能汽车可以联网,用手机可以远程打开车门和空调,也有可能被网络劫持。

  中国科协主席万钢说,人工智能在、生产安全、社会安全和金融安全的风险防范和管理控制要给予高度重视。“没有网络安全,就没有。”在人工智能发展成为双刃剑的背景下,如何给人更多“安全感”?

  首先,要建立有效安全防护,抵御网络攻击。中国工程院院士,北京工业大学教授沈昌祥认为,应该建立主动免疫的计算架构,对计算进行安全防护,使计算全程可测可控,不被干扰。此外,要有以密码为基因的防护部件,对处理信息进行实时识别和排查,按照安全规则进行判别处理。

  其次,利用人工智能应对网络攻击。查理·辛格说,“免疫系统”中不管哪个系统受到攻击,都有统一的人工智能系统发出指令采取相应措施。“通过对网络设备进行检测或对数据进行扫描,一旦有一个内容受到侵袭,那么对它的数据进行分析处理,也会方便后台采取相应的措施,以提高网络安全的性能。”辛格说。

  另外,在维护网络安全方面,人的因素更为重要。阿里巴巴集团董事局主席马云说:“决定世界未来的不是技术,而是技术背后的人。”

  沈昌祥说,人的管理就是信息服务、策略管理,要做信息系统数据安全的守护者。“主动防护必不可少,现在的防护都是单向防护,要建立双向防护机制,在主动防御的同时建立可信策略安全管控工作。”

  另外,专家还建议要促进行业规范、企业自律和社会监督。加大对数据滥用、侵犯隐私权等行为的惩戒力度,还要考虑和研究人工智能的立法问题,形成自律、他律和法律的社会生态。