紫金山新闻
关注

AI换脸引发全民隐私焦虑!南大教授:从立法上考虑AI技术负面清单

紫金山新闻
2019-09-05 17:31

当前以新一代人工智能技术为基础的智能化已成为社会发展的加速器,人工智能技术正在渗透并重构生产、分配、交换、消费等经济活动各个环节。

从宏观到微观各领域的智能化新需求,改变着人类生活方式,甚至是社会结构。智能城市、智能制造、智能经济、智能交通、智能科技正快速走进每个普通人的生活。

9月5日,长三角科技论坛、2019江苏科技论坛在南京举办。来自长三角三省一市的科技工作者以及海外专家探讨人工智能技术、长三角科创一体化等问题。

微信图片_20190905174048.jpg

AI后30年面临的问题是“理解”

首先需要明确一个问题,到底是什么是人工智能?

有两种常见的观点。一种是“强人工智能”,目的是希望研制出和人一样聪明,甚至比人更聪明的机器,这种观点常出现在科幻文学、电影中。还有一种被称之为“弱人工智能”,出发点和目的是想让机器做事的时候聪明一点就好了。

人工智能分为计算智能感知智能认知智能三个层次。一般认为,AI比人类强一些,在感知智能方面不相上下,但在认知智能方面还知之甚少。

日本工程院院士任福继说,以30年为基点归纳人工智能的发展历史,前30年是简单的人工智能,包括机构主义、功能主义、行为主义;后30年要在理解基础上进行的人工智能。这也是当下人工智能面临的问题,知其然而不知其所以然。

在人工智能的发展当中,有两个“天王山”(天王山是围棋术语,表示盘中最重要的选择点)——智能大教育和智能大健康。其中,制约发展的最主要因素便是情感交互。举个例子,人类一直追求的是物质极大丰富,但没有从工学上考虑过心理健康问题。于是,前几年研究人员提出了人工智能心理健康感知。

如何让机器感知和检测人的情感?任福继说,机器人虽然没有意识,没有自我价值观,但是可以从外界信息渠道获取后,模拟人的情感。

目前,人工智能专家已经开始研究人的语言、语音和表情,进而突破机器人感知人类情感的瓶颈。从语言方面,中医几千年前就知道,人的声音里有健康信息,只是AI还没有提炼出来。三年前,东京大学开设了《声音病态分析学》课程,对声音进行研究。

AI反欺诈、反造假研究也在同步进行

人工智能(AI)发展到今天也面临着诸多问题。近期,一个AI换脸APP让大家广泛讨论AI技术的滥用问题:隐私能不能得不到保护?刷脸支付、视频解锁又要被破解?

南京大学人工智能学院院长周志华在接受紫金山新闻记者采访时表示:人工智能是一把“双刃剑”,如何合理利用技术造福人类,又能更好地规避其可能造成的负面影响,这是政府和社会都应该考虑的问题。

周志华说:“人工智能技术本身没有善恶,需要防止的是不要被人滥用作恶。”例如,基于人工智能技术的“换脸”对娱乐文化产业是有用的,但反过来,可能给司法带来极大的挑战,有必要从立法上来考虑人工智能技术的负面清单。

除了AI换脸,语音合成技术也已经很发达了。为了防止AI造假,研究人员早已经开始了“AI反欺诈”的研究。香港科技大学讲席教授杨强表示,AI在应用方面有一个最新的研究领域——对抗学习和反欺诈。研究人员做各种数学演算,框架叫对抗学习,最后可以形成各种模型,针对不同的攻击方法可以形成不同的白盒模型,使得造假完全通不过网关。

实习生 池垚垚

紫金山记者 翟羽

上述作品的著作权由紫金山新闻所有,如需转载请联系我们获取书面授权。