语（yǔ）音识（shí）别、文本识（shí）别、视频识别……数字经济时代，人工智（zhì）能（néng）技术已走近你我身边，被视为经济（jì）增长的新引（yǐn）擎、国际竞争（zhēng）的新阵地和推动智慧社会建设的有效工具。而加快“人工（gōng）智能（néng）＋”产业融（róng）合、赋能更多（duō）行业应用落地（dì），更成为社会各（gè）界共（gòng）同的期待。

然而，不久前在由中国人工智能学会主（zhǔ）办的2020中国人（rén）工智能产业年会（huì）上，最新发布的（de）报（bào）告（gào）指（zhǐ）出，目前已成（chéng）熟应用的人工智能技术仅为语音识别（bié），机器学习、计算机（jī）视觉、自然（rán）语（yǔ）言处理、知识图谱、智（zhì）能机（jī）器人等技术距离生长成（chéng）熟尚需（xū）数年时间，而无人驾驶汽车（chē）在（zài）未来10年（nián）内都（dōu）不太可能出现。

从实验室走向大规模（mó）商用，人工智（zhì）能还需要多久（jiǔ）？尚存在哪些“堵点”“痛点”？在许（xǔ）多（duō）业内专家（jiā）看（kàn）来，正视人工（gōng）智能尚（shàng）存在的（de）诸多挑战，对技术（shù）赋能抱有理（lǐ）性期（qī）待（dài），方能让其回归技（jì）术本质，成（chéng）为更多产业变革创新的动力源（yuán）泉。

算法（fǎ）不透明导致的（de）不（bú）可解释（shì）

2016年，谷歌人工（gōng）智能系统（tǒng）AlphaGo击败世界（jiè）围棋冠军李（lǐ）世石，令世人大为震动。依靠人（rén）工智（zhì）能深（shēn）度学习理论的（de）突破（pò），计算机可以模仿人类作（zuò）出决策，然而，这仅基于（yú）大量（liàng）的数据学习,而非因果或规则（zé）推理，整个决策过程仍（réng）是一（yī）个“黑箱”，人类（lèi）难以理解，导致（zhì）追责难。

复旦（dàn）大学（xué）计算（suàn）机科学技术学院院长姜育刚举（jǔ）例，此前，美（měi）国IBM公司研发了人（rén）工（gōng）智能系统“沃森（sēn）”帮助医生进行诊疗决策。然而，许（xǔ）多医生（shēng）很快发现在使用“沃森”时，系统（tǒng）给（gěi）出了多个不安全、不（bú）正确的（de）治疗意见，甚（shèn）至在极端的诊断案例中，“沃森”给有出血症状的癌症病人（rén）开出（chū）了容易导（dǎo）致出血的（de）药物，严重时（shí）可致患者死亡。然（rán）而，医生（shēng）却并（bìng）不知道为（wéi）什么“沃森”给（gěi）出了这样的意见（jiàn）。决策步骤（zhòu）的不可解释，带来诸多不确（què）定（dìng）性。

近年来，人工智能应用（yòng）于新药研发被寄予厚望（wàng）。然而（ér），算（suàn）法的不可解释性却横亘在前。相（xiàng）关研发和监（jiān）管（guǎn）部门需要清楚地知道药物开发中使用（yòng）的算法,从而理解人工智能主导的决策背后的逻辑。如果不对监管（guǎn）实（shí）现算法透明化,人工智能将会是一个（gè）无（wú）法进（jìn）行严（yán）谨的科学评价（jià）及验证的“黑匣子”。这可（kě）能会（huì）导致在药物审批过程中出现种（zhǒng）种无（wú）法预料（liào）的问（wèn）题,比如对人工智能（néng）“发（fā）现（xiàn）”的生物标记物的接受度不明。此外，对（duì）于智（zhì）能政（zhèng）务、无（wú）人驾驶这样安（ān）全性（xìng）要求极高的（de）行业，人（rén）工（gōng）智能的引入自然更为（wéi）谨慎（shèn）。

“深度（dù）学习的算法和核心模（mó）型需（xū）要能够真正展开，让公众知晓（xiǎo）它的机（jī）理模型”，上（shàng）海人（rén）工智能研究院有限公（gōng）司（sī）总经理宋海涛（tāo）建议。中科院软（ruǎn）件（jiàn）研究所（suǒ）研究（jiū）员薛云志则指出，人（rén）工智能面向不同知识背景的用户，要能以简单、清晰的方（fāng）式，对（duì）决（jué）策过程的根（gēn）据和原因进行说明，并能对系统决策过（guò）程关（guān）键节（jiē）点的数据加以追溯并能够（gòu）审（shěn）计，这在未来（lái）人工智能应用大规模落（luò）地时，是特别需要关注的（de）特性，也（yě）是实施监管的必要（yào）。

易（yì）受（shòu）欺骗引发安全性（xìng）质疑

作为人（rén）工智能技术的“大（dà）热选手”，深度学习可以通过对大量已知（zhī）样本的训练，制作自己的样本（běn），这是深度（dù）学习的特点（diǎn），同样（yàng）也是痛点。

京东人（rén）工智能研究院院长周伯（bó）文坦言，人工智能目前在面向产业化落（luò）地时（shí），遇到的巨大挑战正是真实环境的开放边界（jiè）和规则（zé）模糊，数（shù）据的“噪音（yīn）”非常多，使得智能（néng）模型的部分结果（guǒ）和使用情况难以（yǐ）让人信赖。

姜育刚（gāng）指出，人（rén）工（gōng）智能目前的智能判别（bié）模式存在缺陷，容易被对抗样本所欺骗。比如图像（xiàng）识别，在一张（zhāng）人像图片上加入一些非（fēi）常少量（liàng）的干扰，人为（wéi）视觉看上（shàng）去基本没有区别，但人工智能模型就会产生识别错误（wù）；再如自动驾（jià）驶（shǐ），一张“限速80码”的交通标牌，加入一些干扰后，就可能被（bèi）机器识别成“禁止通（tōng）行（háng）”。显然，存在很（hěn）大的安全隐患（huàn）。

语音识别领域也存在这种问题。技术人员（yuán）在（zài）语音（yīn）上（shàng）任意加入非常微小的干扰，语音识别（bié）系统就（jiù）可（kě）能会识别（bié）错误。同样，在文本识别领域，改（gǎi）变（biàn）一（yī）个字（zì）母就可以使（shǐ）得文本内容（róng）被错（cuò）误分类。

此外，若深度学习的数据集中存（cún）在隐藏的偏见，人工智能系（xì）统无法发现，也（yě）不（bú）会否定。缺少反（fǎn）馈（kuì）机制的（de）“照单全收”，最终（zhōng）可能导致生成的（de）结果并不客（kè）观（guān）。

例如在行业内已（yǐ）经出现的（de），人工智能在深度学习后对女性、少数族（zú）裔、非主流文化群体产（chǎn）生“歧视（shì）”：亚（yà）马（mǎ）逊通（tōng）过人工智能（néng）筛选简历，却发现了系统对女性存在偏见导致最终关闭。更为常见的（de）是手机软件（jiàn）利用人工智能算法导致的大数据（jù）“杀熟（shú）”，如根据手机类型的不同（tóng），可能会推荐不同类型的（de）商品，甚至打车时推荐不同价格、档次（cì）的（de）车辆。

目前,“AI+金融”的发展如（rú）火如荼。但当金融机（jī）构均采用人工智能进行决策时,其（qí）市场信号（hào）解（jiě）读就可能（néng）趋同与（yǔ）不断强化（huà）,导致形成偏离正常市场规律的结果。而这些不正（zhèng）常的市场变化也（yě）会成为人工智能（néng）的学习基础,将人工智能的决策逻辑进一步畸化,容易造（zào）成恶劣的后果。

以上这些（xiē）问题，影响着人工智能赋能实体经济的安全性，凸显（xiǎn）产业对技术可（kě）信赖性的呼唤。“从AI到可信赖AI，意味着我们需（xū）要在（zài）技术层面上解决鲁棒性（稳定性（xìng））、可解释性和可复制性这些（xiē）核心技术挑战。同时为了（le）大规模（mó）产业化应用（yòng），我们必（bì）须考虑到人工智能（néng）的公平（píng）性（xìng）和负责（zé）任。这几个（gè）维度是人工智能必须（xū）要解决的问题。”周伯文说（shuō）。

法律规制和伦理问（wèn）题待完善

“目（mù）前的智能算法还（hái）存在（zài）给出的决策不符合伦（lún）理道德要（yào）求的问题。”姜育刚指出，在应用（yòng）中（zhōng）已发现，智（zhì）能（néng）算法（fǎ）的决策没有从改善人类生活（huó）、服（fú）务（wù）人类社（shè）会的（de）角度（dù）来进行。如智能音响在（zài）对（duì）话中出现“劝主（zhǔ）人自杀”的内容，聊（liáo）天机器（qì）人学（xué）会了骂脏话（huà）和种族歧视等（děng）。而这些不友（yǒu）好的决策都是模型从数据中学（xué）来的，并（bìng）不是研发者（zhě）对人工智（zhì）能（néng）模型设（shè）置的目标。

同（tóng）时，人工智（zhì）能算法需（xū）要海量的数据驱（qū）动，训练数据可以（yǐ）被算法恢复，个人隐私存在（zài）泄露和被侵（qīn）犯的风险，而大量的数据也存在共（gòng）享壁垒。在人工（gōng）智能赋能金（jīn）融的过程中，这一问题尤被关注。最新（xīn）报告显示（shì），近年来,每年发生金融（róng）隐私（sī）泄露事件以大约（yuē）35%的速度在增长。加之近年来人（rén）工智能技（jì）术在金融行（háng）业的（de）广泛应用（yòng）,由（yóu）此带来的银行数（shù）据、保险数据、网（wǎng）贷业务及大数据等（děng）个人信息保护问（wèn）题日益凸（tū）显。

在2020年（nián）抗击新冠肺炎疫情期（qī）间,人工智能技术在我国（guó）响应速度快、介入力度大，帮（bāng）助推出了CT影像（xiàng）的辅助（zhù）诊断系统，提升了（le）医（yī）生诊断的速度和（hé）信心。然而，医疗影像智能诊断发（fā）展也面临（lín）着（zhe）法律规制问题。与其他人工（gōng）智能赋能行业的（de）大数据相比，获取高质量的医疗（liáo）影像数据相对困难。不同医疗（liáo）机构的（de）数据,目前还很少互通、共享。而单个医疗机构（gòu）积（jī）累的数据往（wǎng）往不足以（yǐ）训练出有效（xiào）的深度学习（xí）模型。此外,使用医（yī）疗影像数据进行人工智能算法的训练（liàn）还涉及保护病人隐私等非技术问题。

此外，近（jìn）年来，随着人工智能技术的深（shēn）入探索，科学界有人提出研（yán）发“人（rén）工（gōng）生命”，成为又一（yī）个伦理话（huà）题。对此，中（zhōng）国工（gōng）程（chéng）院院士李德毅表示，生命不仅有智能，更要有意识。从伦理（lǐ）角度（dù）上，生命是人类的底线，触碰底（dǐ）线要慎之又慎。“所以（yǐ），我们（men）可以通过（guò）计算机技（jì）术继续研发（fā）没有意识、但有智能（néng）的高阶机器。让人类的智（zhì）能在体外（wài）延（yán）伸，保持（chí）它（tā）的工具性，而非人工创造意（yì）识。”

深（shēn）圳云天（tiān）励飞（fēi）技术股份有（yǒu）限公司副总裁郑（zhèng）文先同时提醒，“人工智能的技术进（jìn）步可以给社会带（dài）来非常正向的效益，不应因为对（duì）隐私保护机制等方面的忧虑而将人工智能的问题妖魔化（huà）。”他认为（wéi），当（dāng）前人工智能的法律法规尚不健全，亟待（dài）有关部门进一步科学制定（dìng）和（hé）完善，这样才能引导公众更加健康（kāng）地（dì）看待这一新技术应用于产业（yè）。

亟待（dài）技（jì）术进步（bù） 发展（zhǎn）新一代（dài）人工（gōng）智能

面对技术落地所遇到的种种“痛点”，许多专家给（gěi）出（chū）了这样的比喻：“人工智能相当于（yú）一个锤子，不能哪一个钉子都能砸（zá）。”

“我觉得，人工智能（néng）发展的第（dì）一（yī）步（bù）是辅助，让（ràng）重复复杂的（de）劳动量由机器完成，在这个基础上，我们再创造（zào）条件逐渐向（xiàng）智能决策（cè）的方向（xiàng）发（fā）展。”郑州大学教授蒋慧琴表（biǎo）示，对（duì）于（yú）业界有人提出（chū）“人工智能超越（yuè）甚至（zhì）取代人类”的期待（dài）和预计，应保持冷静，“只有沿着（zhe）这样的方向坚持下（xià）来，才有可能达到我们（men）的目标”。

中国（guó）科（kē）学技术发展战略研究（jiū）院（yuàn）研究员李修全认为，在（zài）重（chóng）复性操作的生产环节和基于海（hǎi）量数据的高强度（dù）计算优化求解上，人工智能具有明显（xiǎn）优势（shì），应当（dāng）是当前应用于产业的主要方（fāng）向。

华（huá）为云人（rén）工（gōng）智能（néng）领域首席科学家田奇则认为，加速人工智能赋能产业（yè）落地，其与科学计（jì）算的深（shēn）度融合应（yīng）是显（xiǎn）著趋势，在（zài）工业、气象（xiàng）、能（néng）源、生物、医学等领（lǐng）域，需（xū）要大量科学计算，人工智能技术能为传（chuán）统科学计算（suàn）带来新的（de）思（sī）路、方法和工（gōng）具，同（tóng）时由于传统科（kē）学计算具有严密性（xìng），人工智能也可以提高它本身的可解释（shì）性。

“推（tuī）动人工（gōng）智能进（jìn）入新的阶段,有赖于（yú）与数学、脑科（kē）学等（děng）结合实现底层理论（lùn）的突破。”中（zhōng）国科（kē）学院院士、清华大学人（rén）工智能研究院（yuàn）院长张钹说，未来所需要的第三（sān）代（dài）人工智能应是实现可解释的、鲁棒的、可信安全的智能系统，依靠知（zhī）识、数据、算（suàn）法和算力四个要素，将实现从不带（dài）认（rèn）知的人（rén）工智能转变为带认知（zhī）的（de）人工智能。

如何解释新一（yī）代人工智能？李德毅认为（wéi），传统人工智能是计算（suàn）机智能，属于封闭型人工智能。新一代人（rén）工智能应该（gāi）是开放性人工（gōng）智（zhì）能。当前（qián），所有的计算（suàn）机都是对软（ruǎn）件工（gōng）程（chéng）师的（de）智能编程代码进行（háng）一次又一次简单（dān）执行，“但我们希望这个机器在学（xué）习过程中能够解决（jué）新的问题，学习应成为新一代人工智（zhì）能（néng）解决现实（shí）问题的基础”。

清华大学智能技术（shù）与系统国家（jiā）重点实验室教授（shòu）邓志（zhì）东建（jiàn）议，数据和（hé）算力的增加总（zǒng）有天花（huā）板（bǎn），要（yào）推动人工智能技术深（shēn）度赋（fù）能更多行业，需（xū）要的是核心关键技术突破，特别是认（rèn）知（zhī）智能的进（jìn）步，同时，还要依靠智能（néng）高端芯片、传感器等零部件的硬件（jiàn）支撑，再借助我国5G信息技术（shù）的优势，形成（chéng）合力支撑（chēng）产业落地（dì）和（hé）商业化应用。

此外，人工智（zhì）能标准化工作也应加速展开。薛（xuē）云志表示：“建（jiàn）立可（kě）信赖（lài）的（de）人（rén）工（gōng）智能需要标（biāo）准化（huà），一方面要（yào）从开发者（zhě）训练、测试与实验、部署运营和监管（guǎn）的角度（dù）来做（zuò），另一方（fāng）面则（zé）要从（cóng）芯片等硬（yìng）件、算法、产（chǎn）品系统出（chū）发，来制定标准和规范（fàn），同时（shí）对人工（gōng）智能的风险、伦理（lǐ）、管理等标准研（yán）究也要尽快启动，这些都只是第一步（bù）。”