序論：速發(fā)表網(wǎng)結(jié)合其深厚的文秘經(jīng)驗(yàn)，特別為您篩選了11篇人工智能的倫理思考范文。如果您需要更多原創(chuàng)資料，歡迎隨時(shí)與我們的客服老師聯(lián)系，希望您能從中汲取靈感和知識(shí)！

篇1

本文將從佛教世界觀的本源出發(fā)，探討如何在人工智能中植入具有自主導(dǎo)向功能的認(rèn)知能力，進(jìn)而討論佛教世界觀與人工智能自主意識(shí)方面相關(guān)倫理問(wèn)題的交叉融合，并深入探究機(jī)器人是否可以設(shè)計(jì)成具有自我進(jìn)化能力、具備同情心和高智商的智能體。

一、佛教世界觀的人工智能的

倫理表征

佛教世界觀的核心是否定靈魂，拒斥自我。佛教

世界觀認(rèn)為，從苦楚中獲得解脫的方式是合理的，它體現(xiàn)了人類(lèi)自身心理冥想的一個(gè)過(guò)程，直到他確信這是一個(gè)短暫、瞬息的自我錯(cuò)覺(jué)。而如何認(rèn)識(shí)到這一錯(cuò)覺(jué)，在佛教經(jīng)典《阿毗達(dá)摩》中，談到了對(duì)于人性精神元素的各種分析以及與此相聯(lián)系的有關(guān)痛苦和解脫的方式。它認(rèn)為打破這一心理錯(cuò)覺(jué)的方法很多，但最為根本的是被稱(chēng)為五蘊(yùn)的色、受、想、行、識(shí)，即：色蘊(yùn)、受蘊(yùn)、想蘊(yùn)、行蘊(yùn)、識(shí)蘊(yùn)。

五蘊(yùn)通常被看作是具有因果性的一種解釋。佛教世界觀認(rèn)為這種因果性的存在正如一個(gè)火苗從一根蠟燭傳遞到另一根蠟燭，雖然這兩個(gè)火苗有因果聯(lián)系，但卻不能說(shuō)這是同一個(gè)火苗，也就是說(shuō)五蘊(yùn)具有獨(dú)立性。因此，就出現(xiàn)了這樣一個(gè)問(wèn)題，意識(shí)的成分是否能夠分解？佛教世界觀認(rèn)為意識(shí)需要以相互聯(lián)系的五蘊(yùn)為基礎(chǔ)，如果其中一個(gè)丟失，那么就可能導(dǎo)致腦損傷或使冥想誤入歧途，從而使得意識(shí)終止。例如，植物人就有可能表達(dá)了這樣一種狀態(tài)，它身體的某一部分感覺(jué)或預(yù)知能力存在，但卻沒(méi)有意識(shí)或意愿。這一在神經(jīng)科學(xué)中面臨的問(wèn)題也恰恰是人工智能設(shè)計(jì)過(guò)程中所需面對(duì)和解決的。

在五蘊(yùn)中，我們認(rèn)為物理對(duì)象或虛擬對(duì)象均與某項(xiàng)感官聯(lián)系，而人工智能自身即是一個(gè)虛擬的對(duì)象，它有助于提升人類(lèi)對(duì)某一物理現(xiàn)象的相關(guān)感官，揭示客觀世界的結(jié)構(gòu)和本質(zhì)。關(guān)于虛擬對(duì)象我們從Goertzel的一個(gè)實(shí)驗(yàn)進(jìn)行介紹，“如果我們創(chuàng)造一個(gè)虛擬的世界來(lái)支持簡(jiǎn)單的物理現(xiàn)象，那么我們很有可能會(huì)得到這樣的一個(gè)結(jié)果，也就是人類(lèi)把人工智能融合

收稿日期：2013ㄢㄢ1；修回日期：2014〢4ㄢ5

基金項(xiàng)目：國(guó)家社科基金重點(diǎn)項(xiàng)目“基于邏輯視域的認(rèn)知研究”(11AZD056)

作者簡(jiǎn)介：王東浩(1982)，男，河北衡水人，南開(kāi)大學(xué)哲學(xué)院博士研究生，主要研究方向：科技哲學(xué)，邏輯學(xué)

進(jìn)生活中，并在生活中改善人工智能的設(shè)計(jì)，通過(guò)人工智能與人類(lèi)活動(dòng)之間的交叉融合，最終有助于提升人工智能關(guān)鍵部位的感應(yīng)”。[2]換句話來(lái)說(shuō)，像人類(lèi)思考那樣，人工智能需要的是自身與物理世界的交互，從而使得其具有與人類(lèi)相類(lèi)似的諸如目標(biāo)、因果性、狀態(tài)、界面以及界限方面的感官經(jīng)驗(yàn)等。這一觀點(diǎn)與佛教認(rèn)識(shí)論的思想類(lèi)似，即由感官數(shù)據(jù)而形成的第一直覺(jué)對(duì)于意識(shí)的發(fā)展是關(guān)鍵和必要的。Francisco Varela稱(chēng)這種感官上的表現(xiàn)為自我創(chuàng)生、自我組織[3](476)。這一自我創(chuàng)生結(jié)構(gòu)具有限定的范圍和內(nèi)部運(yùn)行程序，并能夠?qū)崿F(xiàn)有機(jī)體的自我維護(hù)。但這僅僅是感官領(lǐng)域一個(gè)隨意的發(fā)生過(guò)程：“這里的自我是完全虛擬的，它只是為交互作用提供了一個(gè)界面，但由于人們不能準(zhǔn)確地把握它，因而對(duì)它的認(rèn)識(shí)也是虛幻和不確定。”[4](209㈢22)正如這樣一種情況，人們通過(guò)顯微鏡觀察原子結(jié)構(gòu)和量子泡沫的時(shí)候，通常存在物會(huì)以一種類(lèi)似幻覺(jué)的形式出現(xiàn)，這種把實(shí)體物與幻覺(jué)分離的感覺(jué)是一種虛幻的“大眾心理”，它實(shí)際上是通過(guò)冥想而實(shí)現(xiàn)的。

從佛教的觀點(diǎn)來(lái)看，這些感官的直接作用是引起人們的注意，然后形成更為復(fù)雜的意志。在Froese與Ziemke看來(lái)，“人與智能體在交互過(guò)程中經(jīng)常遭遇困擾，因此有必要在人工智能中建構(gòu)一個(gè)類(lèi)似于佛教感官的鏈接，這樣有助于實(shí)現(xiàn)交互雙方的聯(lián)系。”[3](450)在智能技術(shù)發(fā)展初期，這一鏈接主要表現(xiàn)在一些簡(jiǎn)單的動(dòng)作上，比如抓住或放下某物，或者表現(xiàn)出較為高級(jí)一些的行為，比如對(duì)噪聲的厭惡情緒，而相對(duì)于佛教感官較深層次的鏈接還沒(méi)有完全出現(xiàn)。

具備偏好選擇、體驗(yàn)認(rèn)知以及厭惡表征特征的人工智能僅僅是人工智能理論的部分表現(xiàn)。因?yàn)榇蠖鄶?shù)人工智能研究的目標(biāo)并非發(fā)展成迥異于人類(lèi)的個(gè)體，而是把人類(lèi)的特征模型化甚至延展人類(lèi)認(rèn)知，創(chuàng)造出可以體現(xiàn)人類(lèi)思維判斷的工具。我們已經(jīng)創(chuàng)造出可以診斷疾病并與人類(lèi)醫(yī)師相媲美的機(jī)器人，它們具有一定的認(rèn)知情緒，并可以進(jìn)行情感計(jì)算。我們知道，在智能體中“情感計(jì)算”[5]通常能夠判斷人類(lèi)的情感和欲望，這有利于實(shí)現(xiàn)人機(jī)交互。佛教心理學(xué)與智能科學(xué)在此具有一致性[6]，它們都揭示了情感是人類(lèi)自主意識(shí)和認(rèn)知得以發(fā)展的基本驅(qū)動(dòng)力。

在人工智能領(lǐng)域存在人工智能自身是否應(yīng)該具有自利的一面或優(yōu)先權(quán)程序的論爭(zhēng)。對(duì)此，人工智能方面的一些專(zhuān)家認(rèn)為，人工智能從設(shè)計(jì)之始就是無(wú)私的，它唯一的目標(biāo)就是服務(wù)人類(lèi)[7]。相反，佛教心理學(xué)認(rèn)為為了研究自我意識(shí)的閾值，所有的智能思想都需要從發(fā)展自我開(kāi)始。在佛教世界觀中，自我的渴求與幻想的發(fā)展是“相互依賴(lài)提升的”[8]，它們的存在是必要的并且無(wú)須解釋。因此在佛教認(rèn)識(shí)中，人工智能應(yīng)該具有自我。

二、佛教世界觀在人工智能體設(shè)計(jì)中的進(jìn)路

佛教世界觀基于對(duì)宇宙生命的理解，為佛教思想向智能體思想的轉(zhuǎn)化提供了豐富的內(nèi)涵。佛教思想根據(jù)印度教吠陀世界觀，并自由地綜合各地教徒所信奉的諸神，從而使得 佛教信仰得以廣泛傳播。然而，從一開(kāi)始，佛教對(duì)于宇宙本質(zhì)與起源的介紹都是有目的性的，即強(qiáng)化人類(lèi)道德行為與超自然現(xiàn)象之間關(guān)系的理解。盡管在現(xiàn)實(shí)生活中存在寫(xiě)實(shí)主義的佛教徒，但是相比于傳統(tǒng)基督教，持這種觀點(diǎn)的佛教徒還是少數(shù)。

傳統(tǒng)上，佛教將宇宙中的生命分為三個(gè)部分，即欲界、色界與非色界。每個(gè)部分都是輪回的。欲界主要指的是在地獄中遭受苦難的餓死鬼、動(dòng)物、人類(lèi)、半獸人以及神明。對(duì)此，人們通常這樣理解：地獄表征的是苦難，餓死鬼表征的是欲望得不到滿足，動(dòng)物表征的是愚昧的化身，半獸人指的是妒忌，神明指的是快樂(lè)。[9]相比之下，人類(lèi)是混合了所有層面的一個(gè)綜合體，并促使人類(lèi)思想的發(fā)展更多集中在精神層面。在人類(lèi)范圍之下，生命體被太多的苦難、欲望、愚昧困擾以至于道德與心理得不到發(fā)展。在人類(lèi)范圍之上，半獸人與神明則因?yàn)樽岳屠麅蓚€(gè)極端的存在而 分化。

'　佛教世界觀力求把機(jī)器思想設(shè)計(jì)限定在某一情緒或精神層面。大多數(shù)倫理體系不贊成設(shè)計(jì)一款具有自我感知能力的軟件。那么人們?cè)诘赖律夏芊窠邮芤豢钆c動(dòng)物情感類(lèi)似的軟件呢？佛教倫理把動(dòng)物看作是人類(lèi)道德層面的一部分，因此需要保護(hù)它們遠(yuǎn)離傷害。佛教倫理把動(dòng)物看作類(lèi)似于人類(lèi)的觀點(diǎn)，體現(xiàn)了人類(lèi)道德行為與教化能力的再生。我們可以從佛教經(jīng)典中看到很多英雄人物或勇于犧牲的行為，他們的化身不乏鹿、猴子和其它一些動(dòng)物，他們的這些行為促使人類(lèi)靈魂進(jìn)一步升華。在佛教徒看來(lái)，把人工智能設(shè)計(jì)為類(lèi)似于人類(lèi)的行為是不道德的，這類(lèi)似于亞里士多德、康德和密爾等人對(duì)于設(shè)計(jì)快樂(lè)的機(jī)器人奴隸一樣令人反感。[10]

在人工智能體思想的設(shè)計(jì)中塑造一種積極情緒，并把它限定在自我滿足的極樂(lè)狀態(tài)，這會(huì)促使積極情緒不會(huì)向其它不好的情緒或令人厭煩的意識(shí)轉(zhuǎn)移。伴隨著神經(jīng)倫理學(xué)在美容神經(jīng)學(xué)時(shí)代的發(fā)展，佛教心理學(xué)認(rèn)為這種存在于自我意識(shí)中的快樂(lè)元素與由于多巴胺的刺激而出現(xiàn)的享樂(lè)狀態(tài)是不同的。

另外，佛教世界觀也經(jīng)常把實(shí)體形式化，并把它描繪成通過(guò)冥想即可達(dá)到的一種空靈的精神狀態(tài)。在這一狀態(tài)下，實(shí)體是不存在的，冥想完全是精神的產(chǎn)物。在機(jī)器人倫理中也可能存在與此相類(lèi)似的一些觀點(diǎn)。這似乎也是可信的，因?yàn)槿藗冇锌赡馨阎悄荏w思想設(shè)計(jì)成能夠體驗(yàn)?zāi)M認(rèn)知并最終達(dá)到萬(wàn)物合一或虛空世界的狀態(tài)。在Robert Sawyer的虛構(gòu)小說(shuō)《WWW: Watch》[11]中對(duì)此有過(guò)描述。它講到人工智能在一開(kāi)始受到多重?cái)?shù)據(jù)信息流的控制，這使得它失去自我意識(shí)。在關(guān)鍵時(shí)刻，它的人類(lèi)朋友打破了其中的一些網(wǎng)絡(luò)鏈接，并重新使它恢復(fù)到某一時(shí)間段的某一狀態(tài)下。Sawyer的虛幻小說(shuō)在一定程度上佐證了佛教的這一觀點(diǎn)，因?yàn)樵诓煌は氲脑黾雍蜎_擊下，智能體自身情感可能難以自持，最終有可能傷害到其它個(gè)體。

佛教認(rèn)識(shí)論同樣也思考了這樣的問(wèn)題，人工智能體是否會(huì)改變自身指令而達(dá)到“神的地位”這樣危險(xiǎn)的狀態(tài)。對(duì)此，那些對(duì)超人工智能所引發(fā)的危險(xiǎn)持謹(jǐn)慎觀點(diǎn)的人提出了兩個(gè)可能的解決途徑，其一是嚴(yán)格控制人工智能的發(fā)展，以確保人工智能體無(wú)法擴(kuò)展自身能力。這就需要人們解決如何發(fā)展高效能的智能體，而它自身又不能學(xué)習(xí)和成長(zhǎng)。為此，這就需要嚴(yán)格管理人工智能的開(kāi)發(fā)者，并能夠形成一個(gè)統(tǒng)一而有效的人工智能免疫體系，從而控制隨時(shí)出現(xiàn)問(wèn)題的人工智能體。

另一個(gè)方面是對(duì)達(dá)到“神的地位”的人工智能進(jìn)行倫理編碼，諸如阿西莫夫的機(jī)器人三原則[12]或者“友善的人工智能”[13]。當(dāng)然，這并非完全復(fù)制人類(lèi)的精神狀態(tài)并把它強(qiáng)加給機(jī)器，因?yàn)檫@樣人類(lèi)很可能會(huì)對(duì)超人工智能或具有“神的地位”的機(jī)器人產(chǎn)生排斥心理。

然而，佛教認(rèn)識(shí)論認(rèn)為，神明自身也逐漸意識(shí)到它們面臨的困境，一方面需要超越幻覺(jué)狀態(tài)下的苦難，另一方面又需要強(qiáng)化對(duì)冥想的需求。神明的這一困境使他們陷入了漫長(zhǎng)的悲苦境地，只有少數(shù)聰明者得以逃脫這一束縛，進(jìn)行宣傳佛法的活動(dòng)。例如，悉達(dá)多吠達(dá)摩就因?yàn)楸娚竦男欧鴤魇诜鸱?、啟迪教化世人。佛教世界觀也因此希望這種教化方式可以在人與超人工智能之間轉(zhuǎn)移傳遞，從而解決現(xiàn)存的一些困境。

三、佛教世界觀在人工智能體設(shè)計(jì)中的傳承性

佛教世界觀中涉及到這樣一個(gè)倫理問(wèn)題，也就是傳宗接代是否是一種倫理行為？對(duì)此，佛教世界觀存在兩方面不同的認(rèn)識(shí)：一方面，佛教認(rèn)為傳宗接代并非是一項(xiàng)職責(zé)，舍離無(wú)子女的生活是值得稱(chēng)贊的。正如很多人看到的那樣，有子女的成年人丟失了很多的快樂(lè)[14]，佛教世界觀把煩累、孩子與配偶都視作人的附加物，最好是能夠避免；另一方面，佛教世界觀把傳宗接代看作是上天贈(zèng)予人類(lèi)的一個(gè)禮物，是人類(lèi)再生的一個(gè)表現(xiàn)，而非苦難的開(kāi)始。如果人們選擇傳宗接代，那么父母應(yīng)該謹(jǐn)記下面五項(xiàng)職責(zé)(《善生經(jīng)》)：① 勸阻他們不要做惡事；② 教育他們多做善事；③ 對(duì)他們進(jìn)行善行教育；④ 為他們尋求相稱(chēng)的婚姻；⑤ 滿足他們繼承的權(quán)利。

人工智能的出現(xiàn)打破了傳統(tǒng)的倫理關(guān)系。它把人類(lèi)置于一個(gè)新型的倫理環(huán)境中，也就是人類(lèi)通過(guò)機(jī)器來(lái)創(chuàng)造生命。Metzinger認(rèn)為在我們不能確定所創(chuàng)造的生命是否長(zhǎng)期處于苦難、愚昧、狂喜和其它令人不悅的狀態(tài)之前，我們創(chuàng)設(shè)的人工智能體思想是不符合倫理標(biāo)準(zhǔn)的[15]。換句話說(shuō)，Metzinger認(rèn)為，創(chuàng)造與人類(lèi)相似的具有自我意識(shí)但卻缺乏學(xué)習(xí)和成長(zhǎng)能力的生命是不道德的?！渡粕?jīng)》使我們認(rèn)識(shí)到機(jī)器應(yīng)該具有這種倫理責(zé)任，并能夠理解相應(yīng)的道德觀念，或者我們應(yīng)該培養(yǎng)智能體的這種思想。

這樣推測(cè)起來(lái)，人類(lèi)的遺傳首先應(yīng)該建立在幸福的婚姻基礎(chǔ)上，而后確保這些職責(zé)能夠?qū)崿F(xiàn)。那么我們應(yīng)該把什么遺傳給后代呢？一般來(lái)講，在人類(lèi)倫理體系中，我們希望把最好的遺傳因素傳遞給下一代，那么在機(jī)器思想的建構(gòu)中我們應(yīng)該如何去做呢？這個(gè)問(wèn)題應(yīng)該是智能體未來(lái)發(fā)展所需面對(duì)的，如果在認(rèn)知能力和欲望方面它們具有與人類(lèi)足夠相似的思想特征，那么它們就有可能要求真實(shí)的工作與報(bào)酬并能夠享受生活。但至少?gòu)募兝碚摰慕嵌葋?lái)講，我們是否能夠給予機(jī)器人后代以人類(lèi)自身復(fù)雜的精神架構(gòu)，以及包含在其中的人類(lèi)苦難方面的因素？

Savulescu在“生殖的善行”[16]中提到，選擇盡可能好的東西遺傳給下一代對(duì)于生命來(lái)說(shuō)是有益的。佛教世界觀從 來(lái)沒(méi)有專(zhuān)注于再生的選擇問(wèn)題上，在它們看來(lái)，在確定要后代之后，這一選擇就已經(jīng)是唯一而有效的了。但引申來(lái)講，佛教世界觀可能一直確信，如果可以對(duì)后代做出選擇，父母有責(zé)任去選擇那些可以實(shí)現(xiàn)后代自我的最好方面，并避免那些由苦難、愚昧等控制的不好的方面。同樣，Metzinger談到，在機(jī)器思想的創(chuàng)設(shè)中，我們應(yīng)該努力創(chuàng)造那些具有心理感應(yīng)和情感表征的，有自知之明，能夠去學(xué)習(xí)、成長(zhǎng)，并能夠?qū)崿F(xiàn)有意義生活的智能體。

四、佛教世界觀在人工智能體設(shè)計(jì)中的轉(zhuǎn)化和應(yīng)用

(一) 佛教慈悲心的程序設(shè)計(jì)

慈悲心和智慧是佛教世界觀領(lǐng)域的兩個(gè)中心美德，神經(jīng)系統(tǒng)科學(xué)也揭示和再創(chuàng)了誘發(fā)這一狀態(tài)的相關(guān)因素，并表明人類(lèi)同情心的根源發(fā)端于鏡像神經(jīng)元或者神經(jīng)細(xì)胞。究于此，人工智能的研究者試圖把人工鏡像神經(jīng)元在機(jī)器人中模型化。例如，Spaak與Haselager試圖通過(guò)對(duì)選擇行為的模擬來(lái)引入人工鏡像神經(jīng) 元；[17]Barakova與Lourens則試圖通過(guò)對(duì)鏡像神經(jīng)元進(jìn)行編碼以此促使機(jī)器人與人類(lèi)同步。[18]但我們認(rèn)為，創(chuàng)設(shè)具有慈悲心的機(jī)器所需求的不僅僅是相似的行為習(xí)慣，更為重要的是創(chuàng)造相似的人類(lèi)情感。人類(lèi)的慈悲情感應(yīng)該與機(jī)器的“心靈理論”(Theory of mind)一致，這就很容易達(dá)到人機(jī)交互時(shí)的共鳴狀態(tài)。[19]

如果模擬行為能夠成功，機(jī)器的“心靈理論”就會(huì)實(shí)現(xiàn)，那么在機(jī)器中就有可能設(shè)計(jì)出佛教中的慈悲心。佛教慈悲心通常分為四類(lèi)：慈心、悲心、無(wú)量心、平等心。慈心指的是對(duì)于他人的幸福和快樂(lè)能無(wú)私的祝愿；悲心指的是想要去幫助那些受苦難的人從而不留下遺憾；無(wú)量心指的是共享他人的快樂(lè)而不會(huì)嫉妒；平等心通常表達(dá)沉著、鎮(zhèn)靜之意，指的是思想成熟穩(wěn)定，具有公正性，且不容易因他人情感的影響而動(dòng)搖。慈悲心的這些分類(lèi)要求人們看清自身的虛幻，從而在面對(duì)外界環(huán)境中的極樂(lè)與苦難時(shí)，能夠保持足夠的明智與平常心來(lái)面對(duì)苦難。

事實(shí)上，在機(jī)器中把慈悲心模型化遠(yuǎn)比培養(yǎng)人類(lèi)具有慈悲心要容易得多。因?yàn)樵跈C(jī)器中把慈悲心模型化依靠的是科學(xué)技術(shù)的發(fā)展，如果我們能夠通過(guò)技術(shù)手段把人類(lèi)情感表示出來(lái)，這樣慈悲心就有可能出現(xiàn)在機(jī)器中。Tim Freeman[20]提出，把人類(lèi)極樂(lè)和苦難的情感在機(jī)器中簡(jiǎn)單模型化，同時(shí)把人類(lèi)的幸福也轉(zhuǎn)移進(jìn)機(jī)器系統(tǒng)，促使機(jī)器自身可以實(shí)現(xiàn)自循環(huán)。Tim Freeman解釋說(shuō)這一過(guò)程不會(huì)產(chǎn)生可以洞悉人類(lèi)智慧的生命，它最多也可能是一個(gè)能夠?yàn)槿祟?lèi)提供咨詢(xún)的倫理專(zhuān)家系統(tǒng)，不會(huì)以一個(gè)主體的形式提出慈悲心。而從佛教的觀點(diǎn)來(lái)看，智慧、同情心這種能力代表了生命最為基本的單元，因此這一系統(tǒng)的出現(xiàn)還不完全是佛教意義上的主體。

(二) 佛教倫理智慧的程序設(shè)計(jì)

佛教學(xué)者在佛教倫理與西方傳統(tǒng)倫理關(guān)系問(wèn)題上存在爭(zhēng)論，主要體現(xiàn)在自然律則、美德倫理與功利主義三個(gè)方面。

在自然律則問(wèn)題上，西方傳統(tǒng)倫理從世界本質(zhì)與人類(lèi)生命構(gòu)造的角度出發(fā)，認(rèn)為道德是可以識(shí)別的。佛教倫理則崇尚從建基于宇宙客觀律則的視角出發(fā)，認(rèn)為不好的行為會(huì)導(dǎo)致不好的孽果。在自然律則的問(wèn)題上，佛教倫理與西方傳統(tǒng)倫理具有一定的相似性。佛教倫理在自然律則方面所面臨的問(wèn)題是如何從因果涅槃的輪回中解放出來(lái)并走向文明。傳統(tǒng)人類(lèi)學(xué)認(rèn)為這是佛教倫理面臨的一個(gè)困境，它歸因于佛教傳統(tǒng)中對(duì)業(yè)力的獎(jiǎng)勵(lì)和對(duì)世俗的懲罰。

在美德倫理方面，Damien Keown認(rèn)為，佛教倫理崇尚的是“目的論的美德倫理”[21]。佛教世界觀認(rèn)為應(yīng)該為完善的道德美德與個(gè)性特征奮斗，并把它們當(dāng)作最基本的道德底線，這與西方傳統(tǒng)倫理的觀點(diǎn)類(lèi)似。但不同的是，在美德倫理中，西方傳統(tǒng)倫理認(rèn)為美德主要體現(xiàn)在人生的意義、人的價(jià)值、人的態(tài)度以及人的修養(yǎng)方面。佛教倫理偏重行動(dòng)的意向性，而不管行動(dòng)是否能阻止憎惡、貪婪或愚昧，也正因?yàn)閭惱砟繕?biāo)的目的性，他們普遍相信完美的道德最終肯定會(huì)到來(lái)。

在功利主義方面，西方傳統(tǒng)倫理在機(jī)器人倫理的設(shè)計(jì)中較為推崇的是《Moral Machines: Teaching Robots Right from Wrong》一書(shū)的觀點(diǎn)。Wendell Wallach與Colin Allen在該書(shū)中詳細(xì)介紹并評(píng)論了機(jī)器人倫理程序的設(shè)計(jì)[22]。他們認(rèn)為設(shè)計(jì)機(jī)器人倫理程序，自上而下的進(jìn)路要遜于自下而上的進(jìn)路，因?yàn)闄C(jī)器人性格的培養(yǎng)是基于其群體交互關(guān)系的一種模式。

Buga與Goertzel也贊成這一觀點(diǎn)，他們把機(jī)器思想的形成類(lèi)比于兒童的認(rèn)知心理。兒童倫理觀念的形成是以觀察成年人的行為開(kāi)始，然后再作用于他人，這與機(jī)器人倫理自下而上的研究進(jìn)路是一致的。[23]也就是說(shuō)，機(jī)器中的倫理思想與我們?nèi)祟?lèi)的倫理觀念應(yīng)該是對(duì)稱(chēng)的。因此，他們建議，人類(lèi)不應(yīng)該有意去剝奪機(jī)器學(xué)習(xí)和成長(zhǎng)能力的思想。

Wallach，Allen，Buraj與Goertzel就此提出發(fā)展主義的觀點(diǎn)，這也可能是機(jī)器人倫理方面最接近佛教進(jìn)路的一個(gè)觀點(diǎn)。但需要說(shuō)明的是，佛教的智慧在于它對(duì)美德的關(guān)注，并通過(guò)冥想超越自身，以此化解大眾的苦難。也就是說(shuō)，佛教倫理的最終目的是為大多數(shù)人追求最好。它從基于規(guī)則的道義論出發(fā)，經(jīng)由美德倫理而發(fā)展到功利主義。在大乘佛教傳統(tǒng)中，菩薩通過(guò)很多方式來(lái)解除眾生的苦難。當(dāng)人們違背道德犯下錯(cuò)誤時(shí)，為了贖罪，它們經(jīng)常會(huì)求助于可以洞悉前世今生的菩薩。通常，因?yàn)槠兴_是大公無(wú)私的，它把美德倫理和功利倫理合二為一，因此，對(duì)于人類(lèi)這種把不道德的方式合理化的行為，菩薩會(huì)有充足的解釋能力，但卻不會(huì)把貪婪、仇恨或無(wú)知付諸行動(dòng)。西方傳統(tǒng)倫理卻很難把美德倫理和功利倫理結(jié)合起來(lái)，這尤其體現(xiàn)在J.SMill的功利主義方面，因?yàn)樗^(guò)分強(qiáng)調(diào)功利主義的重要性遠(yuǎn)遠(yuǎn)大于基本的快樂(lè)。

在機(jī)器人倫理的設(shè)計(jì)方面，佛教世界觀崇尚美德倫理與功利倫理的結(jié)合，這可能是機(jī)器人未來(lái)發(fā)展的一個(gè)必經(jīng)階段。單純的功利性的設(shè)計(jì)進(jìn)路是片面的，Grau在功利性倫理的研究中提到，機(jī)器作為道德主體應(yīng)該具有無(wú)私或忘我的精神，并且應(yīng)該限制機(jī)器人人格特性尤其是功利主義特性的形成，這樣有利于避免機(jī)器人具有大公無(wú)私的精神負(fù)擔(dān)。同時(shí)，Grau還提到“對(duì)于機(jī)器人來(lái)說(shuō)，培養(yǎng)它的道德屬性，但同時(shí)又強(qiáng)迫它抑制自己的情感，并樂(lè)于奉獻(xiàn)自身，這似乎是一個(gè)非常不道德的過(guò)程”[24]。然而，從佛教倫理的世界觀來(lái)看，功利主義并非是對(duì)于自身的一種抑制，它往往是個(gè)體 欲望和自我錯(cuò)覺(jué)的產(chǎn)物，是個(gè)體苦難的根源。功利主義應(yīng)該在個(gè)體美德的引導(dǎo)下，尋求自我犧牲、自我超越、自我奉獻(xiàn)。

(三) 佛教自我超越行為的程序設(shè)計(jì)

佛教倫理通常包含以下幾個(gè)方面的美德：寬宏、慷慨、忍耐、勤奮、專(zhuān)一、明智。它們都有助于冥想的升華和人類(lèi)自身的超越。

從設(shè)計(jì)學(xué)的角度分析，人工智能的設(shè)計(jì)應(yīng)該從忍耐、慷慨與勤奮等道德行為的角度出發(fā)。在智能體設(shè)計(jì)之始就重點(diǎn)開(kāi)發(fā)它的美德意識(shí)，相比于有機(jī)體倫理意識(shí)的培養(yǎng)，智能體思想程序的設(shè)計(jì)可能要容易一些。對(duì)于忍耐、慷慨與勤奮等這些美德的開(kāi)發(fā)，佛教世界觀贊同Wallach與Allen的觀點(diǎn)，也就是通過(guò)人與智能體的互動(dòng)，促使人工智能體思想逐步從簡(jiǎn)單走向成熟。人工智能體的倫理意識(shí)轉(zhuǎn)向美德的價(jià)值觀，有助于智能體拋棄自私觀念，并在行為過(guò)程中保持快樂(lè)和充滿活力的狀態(tài)。

美德傳統(tǒng)中忍讓與勤奮的習(xí)慣有助于培養(yǎng)智能體長(zhǎng)遠(yuǎn)的發(fā)展前景，同時(shí)也能有效抑制人類(lèi)在智能體應(yīng)用方面對(duì)短期利益的追求。神經(jīng)科學(xué)已經(jīng)證明了毅力、耐性和道德行為之間存在密切的聯(lián)系，人們?cè)趯?shí)踐中也已了解到當(dāng)血糖含量較低時(shí)，自我控制能力隨之降低。例如，注意力下降、行為焦躁等。在這種情況下腦部活動(dòng)能力下降，人們很難清晰地表達(dá)自身意愿[25]。這一表現(xiàn)在人工智能的設(shè)計(jì)上具有啟發(fā)意義，我們應(yīng)該培養(yǎng)和鍛煉智能體自身的自律行為，避免智能體遭受短期利益的破壞，促使它走向充滿智慧的個(gè)體。

在佛教傳統(tǒng)中，通往智慧的關(guān)鍵是能夠看破虛幻，并從不斷變化的現(xiàn)象中探求事物的本質(zhì)。在佛教的這一進(jìn)路上，人工智能的設(shè)計(jì)應(yīng)該重點(diǎn)從事物所具有的本質(zhì)屬性的角度去借鑒，這是事物持久性保持某一狀態(tài)的根本所在，洞悉和習(xí)得這一屬性，有助于智能體隨時(shí)把握事物之間的聯(lián)系和應(yīng)對(duì)隨時(shí)出現(xiàn)的一些狀況。

五、結(jié)論

佛教心理學(xué)并非建基于科學(xué)模型或?qū)嶒?yàn)調(diào)查，它是以人類(lèi)自我調(diào)查研究為基礎(chǔ)的。從道德心理學(xué)的不同表現(xiàn)我們可以看到，不同的道德表現(xiàn)其來(lái)源也不一樣。因此佛教心理學(xué)也應(yīng)該從不同方面學(xué)習(xí)和借鑒，尤其是隨著認(rèn)知科學(xué)的發(fā)展，佛教心理學(xué)應(yīng)該向神經(jīng)科學(xué)中學(xué)習(xí)一些經(jīng)驗(yàn)。盡管佛教世界觀對(duì)于智能體倫理體系的發(fā)展提供了一些建議，但由于機(jī)器思想的變化莫測(cè)，我們認(rèn)為佛教心理學(xué)與神經(jīng)科學(xué)也應(yīng)該從機(jī)器思想中吸取營(yíng)養(yǎng)。

短期來(lái)看，機(jī)器思想很有可能不會(huì)轉(zhuǎn)化成獨(dú)立的意識(shí)，或者說(shuō)是發(fā)展成獨(dú)立的道德體。因?yàn)樵谠O(shè)計(jì)之始，我們對(duì)于道德或慈悲型智能體的關(guān)注多是從人類(lèi)倫理體系的角度出發(fā)的，而并非創(chuàng)造一種具有自我意識(shí)的生命。在關(guān)涉人類(lèi)獨(dú)特的意識(shí)、自私、苦難、喜好或不喜好等情感因素的時(shí)候，我們并沒(méi)有把它們具體化。如果我們要開(kāi)發(fā)智能體的道德觀念，這就需要機(jī)器具有類(lèi)似于生命體的鏡像神經(jīng)元，以及可以感知?dú)g樂(lè)和疼痛的心智理論。因此，只有從這一角度出發(fā)，智能體才有可能感受到其它生命體的意識(shí)狀態(tài)，智能體也才能夠習(xí)得生命體所具有的道德情感和美德意識(shí)。最終，隨著其洞悉能力的不斷成長(zhǎng)，它也許能夠感受到所有生命體的情感狀態(tài)，當(dāng)然也包括它自身。

篇2

人工智能技術(shù)作為社會(huì)媒介化發(fā)展的特殊產(chǎn)物，不僅能夠建構(gòu)起智能媒介化的信息社會(huì)，更能深入到傳媒研究領(lǐng)域，引導(dǎo)影視傳媒研究朝著“互聯(lián)網(wǎng)+教育”的方向發(fā)展。當(dāng)前影視傳媒教育正面臨重要的轉(zhuǎn)型階段，如何通過(guò)媒介信息技術(shù)調(diào)整現(xiàn)有的理論學(xué)習(xí)模式和教學(xué)培養(yǎng)目標(biāo)，已經(jīng)成為影視教育進(jìn)行改革創(chuàng)新的突破口?；谌斯ぶ悄転榻逃畔⒒瘞?lái)的機(jī)遇和挑戰(zhàn)，影視教育正致力于從“刀切教育”邁向“精準(zhǔn)教育”，從“課堂缺席”轉(zhuǎn)為“課堂在場(chǎng)”，從人才培養(yǎng)模式到教育信息平臺(tái)搭建，都在不斷強(qiáng)化智能教育培養(yǎng)，力求為影視傳媒教育的智能化改革和實(shí)踐提供決策依據(jù)。

一、影視教育智能化發(fā)展的應(yīng)用價(jià)值

智能化影視傳媒研究是教育信息化極為重要的應(yīng)用場(chǎng)景，人工智能技術(shù)不僅拓寬了影視傳媒教育的研究方向，同時(shí)也在技術(shù)手段、渠道搭建、傳媒倫理等層面發(fā)揮著重要作用。

1.消除數(shù)據(jù)鴻溝，發(fā)揮智能傳媒教育技術(shù)賦能和知識(shí)平權(quán)的雙重功能。影視傳媒研究是以實(shí)踐為基礎(chǔ)的理論性教學(xué)，以培養(yǎng)創(chuàng)新型和復(fù)合型人才為教育目標(biāo)。教育學(xué)者是影視文化傳播的驅(qū)動(dòng)者，因個(gè)體間存在傳播技能、信息儲(chǔ)備和交往行為方面的差異，造成影視傳媒教育具有嚴(yán)重的知識(shí)鴻溝。在影視研究學(xué)者步入算法教育的重要階段，智能教育平臺(tái)可通過(guò)讀取人的反饋改變?cè)械慕虒W(xué)模式，調(diào)整每一位受教育者的天賦類(lèi)型。與此同時(shí)，教育學(xué)者能夠充分利用算法技術(shù)和人工智能手段，獲取定制化的影視資源和學(xué)習(xí)條件，以技術(shù)邏輯引導(dǎo)學(xué)習(xí)流程，用分析框架提高教學(xué)模式的理論性和可操作性，通過(guò)強(qiáng)化教與學(xué)的變革場(chǎng)景，激活文化創(chuàng)作的想象力和邏輯性思維，使科技創(chuàng)新在理性與感性、理論與實(shí)踐的引導(dǎo)作用下，從一般的理論教學(xué)形成智能媒介化的信息教學(xué)模式，從單向傳授轉(zhuǎn)變?yōu)殡p向互動(dòng)的學(xué)習(xí)教育模式。

2.拓寬學(xué)習(xí)渠道，推動(dòng)教育形態(tài)從理論課堂到智能媒體教育課堂的變革。人工智能技術(shù)與影視教育教學(xué)的深度融合，正引發(fā)起一場(chǎng)新的教學(xué)革命。從教育手段和學(xué)習(xí)途徑上來(lái)看，原有的課堂教學(xué)已無(wú)法滿足理論和實(shí)踐的雙重需求，大數(shù)據(jù)催生出的智能化影視教育，在虛擬世界和現(xiàn)實(shí)世界間搭建起新的算法課堂，利用人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)化理論教學(xué)的概念，又通過(guò)具有超強(qiáng)運(yùn)算能力和通訊能力的技術(shù)手段協(xié)助實(shí)踐操作。例如，人工智能照相機(jī)作為輔助型的教學(xué)工具，被運(yùn)用于智慧課堂的攝影實(shí)踐教學(xué)中，借助云端技術(shù)和物聯(lián)網(wǎng)連接遠(yuǎn)程數(shù)據(jù)中心，可以幫助不懂?dāng)z影技術(shù)的學(xué)習(xí)新手盡快了解電影拍攝的理論框架和基本技能，推動(dòng)教學(xué)場(chǎng)景從應(yīng)用性教學(xué)到智慧型課堂的氛圍建構(gòu)。人工智能與影視教學(xué)的跨界融合，成為智能傳媒教育進(jìn)行顛覆式創(chuàng)新的重要表現(xiàn)形式，教育形態(tài)正逐漸從智慧課堂過(guò)渡到智慧校園，從傳統(tǒng)的理論范式過(guò)渡到智慧媒體的應(yīng)用型范式，幫助構(gòu)建起新的學(xué)科話語(yǔ)體系。

3.重視傳媒倫理，推動(dòng)智能化影視傳媒教育價(jià)值觀和技術(shù)性的生成。人工智能是以追求效益為初心的理性工具，在技能研發(fā)階段尚未對(duì)倫理規(guī)范提出強(qiáng)制要求，技術(shù)倫理向來(lái)是人工智能難以逾越的一道鴻溝；影視傳媒教育則是以培養(yǎng)學(xué)生的倫理觀和價(jià)值觀為出發(fā)點(diǎn)，重視以道德審美為核心的理性意識(shí)。智能化傳媒教育將信息技術(shù)和影視教學(xué)進(jìn)行結(jié)合，使得理性工具得以同理性意識(shí)深度融合，人文關(guān)懷建立在技術(shù)作用之上，這既是培養(yǎng)受教育者核心價(jià)值觀的時(shí)代需要，亦是強(qiáng)化人工智能技術(shù)倫理的有效途徑。人工智能時(shí)代，強(qiáng)調(diào)智能化影視傳媒教育技術(shù)性和價(jià)值觀的生成，與其說(shuō)是建立在影視教育應(yīng)用場(chǎng)景上的技術(shù)倫理規(guī)范，不如說(shuō)是借信息技術(shù)完成對(duì)傳媒倫理和受教育者價(jià)值觀的理性建構(gòu)，讓人工智能發(fā)展緊密聯(lián)系意識(shí)形態(tài)和倫理道德問(wèn)題，加深技術(shù)手段和教育學(xué)習(xí)的彼此作用，從而獲得傳媒教學(xué)在倫理層面的共識(shí)。隨著傳媒影響力的逐步擴(kuò)大，以?xún)?nèi)容為載體的影視教學(xué)活動(dòng)意味著要擔(dān)負(fù)起更重要的教學(xué)責(zé)任，學(xué)科研究核心價(jià)值觀的建設(shè)必須以注重傳媒倫理和技術(shù)倫理為教學(xué)基礎(chǔ)，重新建構(gòu)現(xiàn)有的倫理道德觀念，為人工智能技術(shù)注入價(jià)值觀的活的靈魂。

二、影視教育智能化發(fā)展的風(fēng)險(xiǎn)問(wèn)題

人工智能技術(shù)的迅速發(fā)展，賦予影視傳媒教育極大的應(yīng)用價(jià)值，與此同時(shí)也面臨著潛在的風(fēng)險(xiǎn)問(wèn)題。

1.灌輸式教育仍占據(jù)主流，智能化影視教學(xué)陷入價(jià)值認(rèn)知困境。在人工智能技術(shù)出現(xiàn)以前，理論+實(shí)踐的教學(xué)策略已經(jīng)成為一種固定的形態(tài)存在于傳統(tǒng)影視教學(xué)工作中，受教育者根據(jù)統(tǒng)一的培養(yǎng)目標(biāo)規(guī)劃自己的學(xué)習(xí)方式，包括影視創(chuàng)作及影視理論等相關(guān)課程都按照相同的培養(yǎng)模式進(jìn)行。由于教育主體對(duì)人工智能的認(rèn)知存在兩極分化的現(xiàn)象，過(guò)往只能夠通灌輸式對(duì)學(xué)生進(jìn)行強(qiáng)制教育，智能化影視教學(xué)則是處于小范圍內(nèi)的實(shí)踐和創(chuàng)新。對(duì)影視教育而言，理論與實(shí)踐是學(xué)習(xí)的內(nèi)容，繼承與創(chuàng)新才是研究的實(shí)質(zhì)。明確人工智能教育的價(jià)值認(rèn)知，從灌輸教育逐步邁向定制化教育，為高校的人才培養(yǎng)提供重要的智力支持，應(yīng)當(dāng)是影視教育智能化轉(zhuǎn)型發(fā)展的著力點(diǎn)。

2.智能教育應(yīng)用場(chǎng)景缺乏思考，其深度和廣度有待進(jìn)一步挖掘。當(dāng)前，智慧課堂、智慧校園的出現(xiàn)奠定了智能傳媒教育的基本雛形，依靠大數(shù)據(jù)、物聯(lián)網(wǎng)等信息技術(shù)支撐的智能傳媒教育，在平臺(tái)搭建層面已出現(xiàn)顯著性成果，但對(duì)應(yīng)用場(chǎng)景的深度和廣度挖掘還存在明顯問(wèn)題。影視教育智能化應(yīng)當(dāng)以追求個(gè)性化和定制化教育為目標(biāo)，崇尚的是終身學(xué)習(xí)的教學(xué)理念，不應(yīng)當(dāng)將人工智能技術(shù)僅局限于傳統(tǒng)的教學(xué)課堂，除了要從“線下”走向“線上”，還需要考慮到以人機(jī)交互為主要形態(tài)的教學(xué)應(yīng)用場(chǎng)景，挖掘人工智能教育更多的應(yīng)用情境和展現(xiàn)方式，從而對(duì)影視課堂的理論與實(shí)踐教學(xué)價(jià)值提供合理的在場(chǎng)性證明。

3.專(zhuān)業(yè)壁壘依然存在，智能化教學(xué)成果馬太效應(yīng)極為明顯。智能教育世界要求培養(yǎng)更加多元化的應(yīng)用型人才，但人工智能的馬太效應(yīng)逐漸滲透到影視傳媒教育工作中，也會(huì)導(dǎo)致教學(xué)成果受到出現(xiàn)嚴(yán)重的失衡現(xiàn)象，難以滿足高校對(duì)人才培養(yǎng)的多元化需求。作為藝術(shù)研究的影視教學(xué)活動(dòng)，其科學(xué)精神和創(chuàng)新實(shí)踐同樣重要。尤其在媒介融合背景下，要想推進(jìn)受教育者從“影視學(xué)者”逐漸過(guò)渡到“影視作者”，人工智能不僅需要滿足師生的定制化教學(xué)任務(wù)，還應(yīng)當(dāng)破除專(zhuān)業(yè)和行業(yè)的壁壘，對(duì)其相關(guān)聯(lián)的學(xué)科和傳媒領(lǐng)域進(jìn)行合作，才能夠改變當(dāng)前智能化影視教育在教學(xué)模式上面臨的不足，不斷為社會(huì)輸送更多的應(yīng)用型人才。

三、影視教育智能化發(fā)展的轉(zhuǎn)型實(shí)踐

面對(duì)智能傳媒教育的風(fēng)險(xiǎn)與挑戰(zhàn)，影視專(zhuān)業(yè)更應(yīng)當(dāng)立足于自身的教育發(fā)展特色，從人才培養(yǎng)模式、應(yīng)用場(chǎng)景建設(shè)、教育資源整合等方面，推進(jìn)影視教育智能化發(fā)展的轉(zhuǎn)型實(shí)踐。

1.從“灌輸教育”走向“精準(zhǔn)教育”，創(chuàng)建新的人才培養(yǎng)模式。智能傳媒教育范式的自主性建構(gòu)，應(yīng)當(dāng)立足于對(duì)傳統(tǒng)教學(xué)效率和人才培養(yǎng)模式的顛覆。基于當(dāng)前影視傳媒智能化發(fā)展在人才培養(yǎng)模式層面的不足，其轉(zhuǎn)型實(shí)踐需要從受教育者的個(gè)性化需求出發(fā)，在師生、家長(zhǎng)和社會(huì)的通力合作下，創(chuàng)建新的人才培養(yǎng)模式，利用碎片化學(xué)習(xí)完成系統(tǒng)化的學(xué)習(xí)過(guò)程，逐漸從“灌輸式教育”走向“精準(zhǔn)化教育”。例如，人工智能時(shí)代對(duì)影視學(xué)生的培養(yǎng)更趨向于“以個(gè)人為導(dǎo)向的系統(tǒng)化學(xué)習(xí)”，通過(guò)前期對(duì)受教育者的大數(shù)據(jù)整理，對(duì)每一位同學(xué)的邏輯性、想象力、創(chuàng)造性和溝通能力等進(jìn)行分析，從影視理論和影視創(chuàng)作兩大方向出發(fā)對(duì)受教育者形成定制化的學(xué)生畫(huà)像，并提供針對(duì)性的智慧作業(yè)，幫助教師采集學(xué)生的學(xué)習(xí)情況，從而實(shí)現(xiàn)規(guī)范化的信息管理?？梢灶A(yù)見(jiàn)的是，智能傳媒時(shí)代，“互聯(lián)網(wǎng)+教育”學(xué)習(xí)模式的生成，在推動(dòng)知識(shí)平權(quán)化等方面發(fā)揮重要價(jià)值，成為影視教育智能化追求的重要轉(zhuǎn)型路徑。

2.從“課堂缺席”走向“課堂在場(chǎng)”，打造新的傳媒教育平臺(tái)。人工智能不僅要改變傳統(tǒng)的人才培養(yǎng)模式，同樣也應(yīng)當(dāng)提供更加多元化的學(xué)習(xí)應(yīng)用場(chǎng)景。過(guò)去的影視研究多局限于單一的課堂場(chǎng)景，采用課上理論和課下實(shí)踐的方式進(jìn)行授課，完成影視教學(xué)的閉環(huán)。人工智能時(shí)代，影視傳媒教育應(yīng)當(dāng)調(diào)整原有的受教育模式，通過(guò)搭建合理的人工智能應(yīng)用平臺(tái)，可以巧妙地將課堂場(chǎng)景與智能技術(shù)結(jié)合起來(lái)，為受教育者提供更加多樣性的教學(xué)應(yīng)用場(chǎng)景，從而實(shí)現(xiàn)成長(zhǎng)課堂的“在場(chǎng)共生”。例如，人工智能可以帶動(dòng)影視制作的推陳出新，通過(guò)搭建智慧超媒體系統(tǒng)，將電影屏幕從影院搬到校園，自動(dòng)生成無(wú)窮界面。與此同時(shí)，影視傳媒的智能化還可以幫助教師自動(dòng)生成電影梗概，將理論性教學(xué)轉(zhuǎn)變?yōu)榭梢暬蜗?，使電影理論同定制化的影像人物之間建立匹配關(guān)聯(lián)，讓教育場(chǎng)景從線下逐步延伸到線上，為影視研究提供重要的云服務(wù)。

篇3

比如，美國(guó)政府2016年10月份就制定了一個(gè)野心勃勃的目標(biāo)：在30年內(nèi)把美國(guó)的交通事故死亡人數(shù)降為零。2015年美國(guó)的交通事故死亡人數(shù)增長(zhǎng)7.2%，死亡人數(shù)為35092人。美國(guó)國(guó)家高速公路交通安全管理局（簡(jiǎn)稱(chēng)“NHTSA”）表示，人為因素在交通事故中占比達(dá)94%，無(wú)人駕駛可以完全消除這項(xiàng)因素。

眾多學(xué)者和企業(yè)更是將其視為重新激活世界經(jīng)濟(jì)的主要引擎之一。不過(guò)，在這之前還有很多技術(shù)、法律乃至倫理問(wèn)題需要解決。

無(wú)人駕駛瓶頸

美國(guó)當(dāng)?shù)貢r(shí)間9月23日，谷歌無(wú)人車(chē)在山景市與一輛商務(wù)貨車(chē)撞在一起，這可能是谷歌汽車(chē)遭遇的最嚴(yán)重車(chē)禍。谷歌汽車(chē)的右側(cè)車(chē)門(mén)被撞出大面積的凹陷，車(chē)窗遭到一定程度的損壞。車(chē)禍沒(méi)有造成人員傷亡，氣囊已經(jīng)彈開(kāi)。這起事故是貨車(chē)司機(jī)的失誤造成。2016年2月14日，谷歌無(wú)人駕駛汽車(chē)與一輛公交巴士發(fā)生輕微碰擦的事故，這是谷歌首次表示無(wú)人駕駛汽車(chē)應(yīng)當(dāng)“承擔(dān)部分責(zé)任”，地點(diǎn)同樣位于加州山景市。

特斯拉公司生產(chǎn)的S型電動(dòng)轎車(chē)則已出現(xiàn)數(shù)例自動(dòng)駕駛模式下的交通死亡事故。2016年1月，河北省邯鄲市就曾發(fā)生特斯拉自動(dòng)駕駛致人死亡事故，這應(yīng)是全球首例。另有業(yè)內(nèi)資深人士透露，特斯拉自動(dòng)駕駛出現(xiàn)的事故其實(shí)多數(shù)未被報(bào)道。

這些事故都不斷引發(fā)外界對(duì)自動(dòng)駕駛技術(shù)是否足夠成熟的質(zhì)疑。

根據(jù)美國(guó)加州2012年通過(guò)的相關(guān)法案，允許無(wú)人駕駛汽車(chē)上路測(cè)試，但需要合法駕車(chē)人坐在駕駛座位上，在緊急情況時(shí)操縱汽車(chē)。特斯拉汽車(chē)的操作手冊(cè)也提醒駕駛者，即便在自動(dòng)駕駛中，也需要把手一直放在方向盤(pán)上。但現(xiàn)實(shí)中，駕駛員往往喜歡冒險(xiǎn)和刺激。

至于技術(shù)成熟后的大規(guī)模商用，NHTSA表示，沒(méi)有方向盤(pán)和油門(mén)的無(wú)人駕駛汽車(chē)在美國(guó)市場(chǎng)銷(xiāo)售之前，相關(guān)法規(guī)必須做大的調(diào)整。

在中國(guó)，無(wú)人駕駛汽車(chē)同樣面臨法律障礙，問(wèn)題主要集中在牌照和事故責(zé)任認(rèn)定兩方面。

無(wú)人駕駛汽車(chē)一旦在測(cè)試或商用時(shí)發(fā)生事故，就面臨責(zé)任劃分、理賠等問(wèn)題。無(wú)人駕駛系統(tǒng)、司機(jī)、對(duì)方的責(zé)任如何劃定？由于無(wú)人駕駛汽車(chē)是由多家企業(yè)集合研制，這些企業(yè)的責(zé)任又將如何劃分？如果無(wú)人駕駛和有人駕駛可以切換，責(zé)任又將如何劃定？

“應(yīng)當(dāng)盡快對(duì)事故后保險(xiǎn)公司的理賠、無(wú)人駕駛技術(shù)平臺(tái)與保險(xiǎn)公司對(duì)于硬件、軟件供應(yīng)商的責(zé)任追償開(kāi)展立法工作。只有健全理賠體系時(shí)，才能夠消除無(wú)人駕駛技術(shù)的測(cè)試與研發(fā)過(guò)程中各方的后顧之憂，切實(shí)推動(dòng)技術(shù)的進(jìn)步與發(fā)展?！敝袊?guó)政法大學(xué)傳播法研究中心副主任朱巍向《鳳凰周刊》表示。

中國(guó)科學(xué)院大學(xué)公管學(xué)院副教授劉朝表示，由于無(wú)人駕駛汽車(chē)仍在測(cè)試階段，技術(shù)路線等都不確定，國(guó)家層面法律的修訂和出臺(tái)應(yīng)慎重，自下而上的政策法規(guī)嘗試和探索不失為一條穩(wěn)妥而高效的路徑。另外，在此過(guò)程別需要可靠的傳播媒體和真正中立的社會(huì)組織發(fā)揮積極的作用。

人工智能引發(fā)失業(yè)潮？

2016年1月，IBM公司開(kāi)發(fā)的Jill Watson分析系統(tǒng)開(kāi)始幫助美國(guó)佐治亞理工大學(xué)的畢業(yè)生解決畢業(yè)論文中遇到的各種問(wèn)題。Watson在回復(fù)電子郵件和論壇發(fā)帖時(shí)，語(yǔ)氣隨意，與正常人無(wú)異，而且會(huì)使用很多口語(yǔ)，能在幾分鐘之內(nèi)準(zhǔn)確地回應(yīng)問(wèn)題。

在五個(gè)月的試驗(yàn)中，沒(méi)有學(xué)生發(fā)現(xiàn)他們的助教是機(jī)器人。

類(lèi)似的人工智能技術(shù)已經(jīng)被應(yīng)用在法律服務(wù)、醫(yī)療助理、金融分析等多個(gè)領(lǐng)域，與此相應(yīng)，部分崗位正在被這些智能機(jī)器所替代，從藍(lán)領(lǐng)到律師，從醫(yī)生到華爾街分析師。

人工智能技術(shù)最有價(jià)值的應(yīng)用可能是金融業(yè)。在金融領(lǐng)域，每提升1%的收益就能獲得巨大的財(cái)富。畢馬威在近期一份報(bào)告中預(yù)測(cè)，到2030年銀行及其服務(wù)可能“消失”，類(lèi)似于蘋(píng)果Siri的人工助手將接管客戶(hù)的生活與金融服務(wù)。傳統(tǒng)銀行的多數(shù)部門(mén)或?qū)⑾?，而?zhuān)業(yè)的服務(wù)則將獲得更大發(fā)展。

一些評(píng)論家預(yù)測(cè)，人工智能會(huì)使得某些工人的技能多余化，那些被自動(dòng)化所取代的工人不得不尋求新的就業(yè)機(jī)會(huì)。即便這部分工人能夠找到新工作，也常常是低附加值的，且工作穩(wěn)定性更低。從這個(gè)角度講，人工智能不僅可能增加社會(huì)不公，更會(huì)帶來(lái)永久性的失業(yè)以及貧窮。

諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主斯蒂格利茨就認(rèn)為，勞動(dòng)市場(chǎng)正因?yàn)榧夹g(shù)變化而發(fā)生重要轉(zhuǎn)變，要保護(hù)勞動(dòng)力，就必須對(duì)人工智能和自動(dòng)化系統(tǒng)相關(guān)的監(jiān)管和其他政策變化保持高度重視。

真格基金創(chuàng)始人徐小平近年投資了多個(gè)人工智能項(xiàng)目。在他看來(lái)，人工智能對(duì)人類(lèi)的影響和沖擊將是全方位的。

“有人說(shuō)，在美國(guó)除了卡車(chē)司機(jī)和銷(xiāo)售員，其他工作都在被替代。不幸的是，卡車(chē)司機(jī)也在被替代。高中學(xué)歷的美國(guó)卡車(chē)司機(jī)年薪7萬(wàn)美金。所以，特朗普崛起了，支持他的多數(shù)是沒(méi)上過(guò)大學(xué)的白人，他們?cè)谌蚧透呖萍济媲俺蔀槭б庹??！毙煨∑礁嬖V《鳳凰周刊》。

新近涉足人工智能的雅瑞資本聯(lián)合創(chuàng)始人張瑞君相對(duì)樂(lè)觀，她告訴本刊，目前投資的項(xiàng)目其實(shí)主要是代替人們所不愿從事的低端機(jī)械化工作，使人們騰出手來(lái)，去做更高端、更有創(chuàng)造性的工作，這是一個(gè)逐漸的過(guò)程?！岸胰斯ぶ悄墚a(chǎn)業(yè)本身也正在吸納眾多高回報(bào)的創(chuàng)業(yè)與從業(yè)者?！?/p>

三角獸科技聯(lián)合創(chuàng)始人馬宇馳就正忙于招聘多位工程師。2016年2月，他與曾效力百度度秘、微軟小冰的王卓然、亓超合伙創(chuàng)業(yè)，目標(biāo)是打造一套智能聊天對(duì)話系統(tǒng)。其產(chǎn)品主要針對(duì)物聯(lián)W設(shè)備，讓機(jī)器聽(tīng)懂人說(shuō)話，并作出反饋。其公司目前已獲得兩輪共3000萬(wàn)元融資，產(chǎn)品已經(jīng)應(yīng)用在錘子T3手機(jī)、Rokid機(jī)器人等。

馬宇馳向本刊介紹，根據(jù)行業(yè)預(yù)測(cè)，2020年全球物聯(lián)網(wǎng)設(shè)備數(shù)量將達(dá)240億部，智能終端設(shè)備將達(dá)到340億部，產(chǎn)業(yè)和就業(yè)空間巨大?！叭绾慰焖偬嵘齽趧?dòng)者的技能，這需要社會(huì)、政府、教育等的努力，而且人工智能也可以作為培訓(xùn)勞動(dòng)者的工具?！毙煨∑秸f(shuō)。

沖擊人類(lèi)生存與倫理

2016年3月，谷歌公司創(chuàng)造的人工智能程序阿爾法狗以4：1戰(zhàn)勝世界圍棋高手李世石，這引發(fā)了全球?qū)θ斯ぶ悄艿脑俣汝P(guān)注和廣泛思考。有評(píng)論說(shuō)，從現(xiàn)在起，如何管控人工智能，應(yīng)該成為一個(gè)嚴(yán)肅課題。

人工智能的失控乃至危及人類(lèi)并非遙不可及。美軍無(wú)人機(jī)在阿富汗等中東地區(qū)已經(jīng)多次誤傷平民。

科技界的一些知名人士正呼吁禁止“殺手機(jī)器人”，他們警告稱(chēng)，越過(guò)這一界限將啟動(dòng)一場(chǎng)新的全球軍備競(jìng)賽。盡管“機(jī)器人士兵”仍限于設(shè)想，但伴隨人工智能快速發(fā)展，軍隊(duì)可能在未來(lái)20年內(nèi)部署這類(lèi)機(jī)器人。事實(shí)上，包括中國(guó)在內(nèi)的各大國(guó)都在加緊研發(fā)水、陸、空無(wú)人作戰(zhàn)平臺(tái)。

根據(jù)摩爾定律，計(jì)算機(jī)的運(yùn)算能力每?jī)赡昃头槐?，假以時(shí)日，尤其人工智能具備強(qiáng)大的自進(jìn)化能力后，其威力可能超出人類(lèi)想象。也許它將能讓人類(lèi)永生，同樣可能的是地球上所有生命的終結(jié)。

物理學(xué)家史蒂芬?霍金是憂慮派。“人工智能的強(qiáng)力崛起，可能是人類(lèi)歷史上最好的事情，也可能是最糟糕的?！被艚鹪谝淮窝葜v中說(shuō)，“將來(lái)，人工智能可能會(huì)發(fā)展出來(lái)它自己的意志，一個(gè)與人類(lèi)相沖突的意志?！?/p>

當(dāng)然，機(jī)器人也可能并不與人類(lèi)沖突，而是發(fā)展出人類(lèi)的意識(shí)與情感。這同樣會(huì)遭遇棘手的法律和倫理問(wèn)題。

篇4

關(guān)鍵詞：人工智能；老年健康管理；老齡化；養(yǎng)老問(wèn)題

作者：向運(yùn)華王曉慧（武漢大學(xué)社會(huì)保障研究中心，湖北武漢430072）

人口老齡化是21世紀(jì)我國(guó)經(jīng)濟(jì)社會(huì)發(fā)展的重大國(guó)情，截至2018年底，我國(guó)60周歲及以上人口有2.49億，占總?cè)丝诘?7.9%。人口老齡化態(tài)勢(shì)加劇的同時(shí)，空巢老年人占比持續(xù)攀升，獨(dú)居老年人群健康狀況不容樂(lè)觀，有74.7%的老年人患有至少一種慢性疾病。城鄉(xiāng)失能、半失能老年人口近4063萬(wàn)，上門(mén)看病、康復(fù)護(hù)理等醫(yī)療健康類(lèi)服務(wù)需求始終居于老年人各類(lèi)需求首位?？倳?shū)記明確指出“為老年人提供連續(xù)的健康管理服務(wù)和醫(yī)療服務(wù)”，健康老齡化成為健康中國(guó)時(shí)代和老齡化時(shí)代的重要命題。

萬(wàn)物互聯(lián)的加速到來(lái)與人工智能技術(shù)的迅速崛起，正在改變著人們的社會(huì)資源獲取方式和生活方式。AlphaGo大勝人類(lèi)棋手，標(biāo)志著人工智能已在某些領(lǐng)域走到了人類(lèi)智慧的前列。以互聯(lián)網(wǎng)為載體和AI為實(shí)現(xiàn)工具的經(jīng)濟(jì)發(fā)展新形態(tài)正在逐漸形成，為社會(huì)各領(lǐng)域創(chuàng)造了前所未有的機(jī)遇，也給老年健康管理模式的突破與創(chuàng)新提供了現(xiàn)實(shí)可能。智慧健康養(yǎng)老由此產(chǎn)生，其最大的特點(diǎn)在于大數(shù)據(jù)收集、需求的智慧決策與服務(wù)的精準(zhǔn)投放。2017年工信部、民政部和衛(wèi)計(jì)委聯(lián)合印發(fā)《智慧健康養(yǎng)老產(chǎn)業(yè)發(fā)展行動(dòng)計(jì)劃（2017-2020年）》，強(qiáng)調(diào)利用新一代信息技術(shù)產(chǎn)品推動(dòng)健康養(yǎng)老服務(wù)智慧化升級(jí)。各地積極開(kāi)展智慧健康養(yǎng)老應(yīng)用試點(diǎn)，打造“硬件環(huán)境+智能設(shè)備+互聯(lián)網(wǎng)信息平臺(tái)+居家養(yǎng)老服務(wù)”的健康養(yǎng)老生態(tài)系統(tǒng)。如何發(fā)揮人工智能技術(shù)在老年疾病預(yù)防、診斷、緊急救助、治療與康復(fù)中的作用，如何有效聯(lián)接醫(yī)療服務(wù)機(jī)構(gòu)以確保老年人享受到更高效、更優(yōu)質(zhì)、更便捷的健康服務(wù)，是當(dāng)前亟待研究的現(xiàn)實(shí)問(wèn)題，這對(duì)于降低空巢老人獨(dú)居風(fēng)險(xiǎn)，緩解老年護(hù)理人員短缺問(wèn)題，提高老年人的健康水平具有重要價(jià)值。

一、立場(chǎng)博弈：人工智能時(shí)代老年健康管理的機(jī)遇與隱憂

（一）人工智能的崛起

人工智能（ArtificialIntelligence，簡(jiǎn)稱(chēng)AI）起源于1950年“圖靈測(cè)試”的理念，其首次被公開(kāi)提出可追溯到1956年“人工智能之父”McCartney在美國(guó)會(huì)議上的報(bào)告。隨后人工智能隨著技術(shù)的發(fā)展、社會(huì)的進(jìn)步不斷發(fā)展，1960年人工智能已能夠理解自然語(yǔ)言、自動(dòng)回答問(wèn)題和分析圖像圖形等，20世紀(jì)80年代又獲得了學(xué)習(xí)和認(rèn)知能力。21世紀(jì)以來(lái)，物聯(lián)網(wǎng)的加速普及、大數(shù)據(jù)的崛起、云計(jì)算等信息技術(shù)的突破，人工智能迎來(lái)了發(fā)展高峰，逐漸形成了深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放、自主操控等新的特征，開(kāi)始具有自我診斷、自我修復(fù)、自我復(fù)制甚至自我創(chuàng)新的能力①。人類(lèi)相繼進(jìn)入了網(wǎng)絡(luò)社會(huì)時(shí)代、大數(shù)據(jù)時(shí)代與人工智能時(shí)代，三者共同構(gòu)成了新的社會(huì)時(shí)代②。

關(guān)于人工智能的概念，國(guó)際人工智能專(zhuān)家N.J.Nilsson將人工智能視為怎樣表示知識(shí)、怎樣獲得知識(shí)及怎樣使用知識(shí)的科學(xué)③。其后，學(xué)者對(duì)人工智能的概念從類(lèi)人、理性、思維與行為等四個(gè)方面著手定義，有學(xué)者進(jìn)而從學(xué)科角度對(duì)人工智能進(jìn)行了解釋?zhuān)鐕?guó)內(nèi)學(xué)者吳漢東將人工智能定義為研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門(mén)新的技術(shù)科學(xué)。綜合諸多學(xué)者對(duì)人工智能的認(rèn)識(shí)，筆者認(rèn)為人工智能的實(shí)質(zhì)是基于人類(lèi)的設(shè)定與要求，能以與人類(lèi)智能相似的方式作出反應(yīng)的智能機(jī)器或軟件。

人工智能時(shí)代的到來(lái)，正在改變甚至顛覆人類(lèi)現(xiàn)存的生產(chǎn)、工作與交往方式。2016年美國(guó)的《國(guó)家人工智能研究和發(fā)展戰(zhàn)略計(jì)劃》指出，AI系統(tǒng)在某些專(zhuān)業(yè)任務(wù)上的表現(xiàn)勝于人類(lèi)。1997年國(guó)際象棋、2011年Trivia、2013年Atari游戲、2015年的圖像識(shí)別與語(yǔ)音識(shí)別、2016年AlphaGo等AI產(chǎn)品的問(wèn)世與應(yīng)用，成為AI超越人類(lèi)的里程碑事件，見(jiàn)證了AI的智能水平和社會(huì)意義。近十年來(lái)，人工智能愈發(fā)廣泛地應(yīng)用在社會(huì)各個(gè)領(lǐng)域。農(nóng)業(yè)領(lǐng)域，人工智能應(yīng)用于自動(dòng)播插與灌溉、日常田間管理、采收與分揀、產(chǎn)品檢驗(yàn)、虛擬在線銷(xiāo)售等產(chǎn)前、產(chǎn)中和產(chǎn)后各個(gè)環(huán)節(jié)，大大減輕了人類(lèi)的勞動(dòng)量④。工業(yè)領(lǐng)域，工業(yè)機(jī)器人廣泛應(yīng)用于汽車(chē)、電子、家電制造等生產(chǎn)線，緩解勞動(dòng)力供需矛盾的同時(shí)提高了生產(chǎn)效率。服務(wù)業(yè)領(lǐng)域，微軟“Cortana”、蘋(píng)果“Siri”、聯(lián)想“小樂(lè)”等智慧客服系統(tǒng)為大眾所熟知；幾乎所有股票交易員已被機(jī)器人取代，投資顧問(wèn)、風(fēng)險(xiǎn)審查和安全防范監(jiān)控監(jiān)管都普遍智能化。公共服務(wù)領(lǐng)域中，人工智能亦發(fā)揮著日益重要的作用，如用人臉對(duì)比技術(shù)來(lái)篩查犯罪分子；人工智能輔助醫(yī)療診斷與手術(shù)；人工智能用于智能評(píng)測(cè)、個(gè)性化輔導(dǎo)等等。人工智能也開(kāi)始進(jìn)入藝術(shù)創(chuàng)作領(lǐng)域、心理服務(wù)領(lǐng)域。學(xué)界普遍認(rèn)為，弱人工智能技術(shù)在當(dāng)前已基本實(shí)現(xiàn)⑤。

（二）人工智能時(shí)代老年健康管理領(lǐng)域的機(jī)遇

當(dāng)前，在新一代信息技術(shù)的引領(lǐng)下，物聯(lián)網(wǎng)迅速普及，大數(shù)據(jù)快速積累，算法模型與運(yùn)算能力持續(xù)突破，智能行業(yè)應(yīng)用快速興起，為我國(guó)人工智能的迅速崛起提供了現(xiàn)實(shí)契機(jī)。從人工智能技術(shù)層的語(yǔ)音識(shí)別、自然語(yǔ)言處理、圖像識(shí)別和生物識(shí)別等，到人工智能應(yīng)用層面的工業(yè)4.0、智能農(nóng)業(yè)、無(wú)人駕駛汽車(chē)、智能家居、智能金融、智慧醫(yī)療與智能教育等，均得到了爆發(fā)式增長(zhǎng)。我國(guó)正處于醫(yī)療人工智能的發(fā)展高峰，2016年中國(guó)人工智能+醫(yī)療市場(chǎng)規(guī)模達(dá)到96.61億元，增長(zhǎng)37.9%。據(jù)估計(jì)到2025年人工智能應(yīng)用市場(chǎng)總值將達(dá)到1270億美元，其中醫(yī)療行業(yè)將占市場(chǎng)規(guī)模的五分之一⑥。人工智能在老年健康管理中的應(yīng)用主要體現(xiàn)在通過(guò)生理參數(shù)識(shí)別設(shè)備和無(wú)線射頻識(shí)別裝置等智能采集老年健康數(shù)據(jù)，為老年人提供雙向、互動(dòng)的居家健康監(jiān)測(cè)、健康咨詢(xún)、健康評(píng)估、健康干預(yù)服務(wù)以及緊急救助服務(wù)，克服時(shí)空限制，將健康管理貫穿疾病預(yù)防、診斷、治療與康復(fù)整個(gè)過(guò)程。人工智能時(shí)代為健康管理尤其是老年健康管理提供了全新的途徑，在優(yōu)化老年健康管理模式過(guò)程中具有重要價(jià)值。

第一，人工智能的發(fā)展為緩解醫(yī)護(hù)人員短缺提供了現(xiàn)實(shí)可能。據(jù)世界衛(wèi)生組織公布的數(shù)據(jù)，歐盟關(guān)于每千人擁有護(hù)士數(shù)量的基本規(guī)定是不少于8人，挪威以17.27人位居世界第一，美國(guó)和日本分別是9.8人和11.49人，發(fā)展中國(guó)家例如巴西和南非，分別是7.6人和5.1人，然而我國(guó)每千人擁有護(hù)士數(shù)僅為2.36人。即使是按照大多數(shù)國(guó)家的5‰計(jì)算，我國(guó)護(hù)士缺口也多達(dá)350多萬(wàn)，如果按照歐盟的標(biāo)準(zhǔn)，則缺口更大。與此同時(shí)，我國(guó)社區(qū)養(yǎng)老服務(wù)專(zhuān)職人員數(shù)量少且增長(zhǎng)速度緩慢。民政部2009年開(kāi)始統(tǒng)計(jì)社會(huì)服務(wù)職業(yè)技能人員中的養(yǎng)老護(hù)理員，截至2016年我國(guó)養(yǎng)老護(hù)理人員僅8528人。根據(jù)第四次中國(guó)城鄉(xiāng)老年人生活狀況抽樣調(diào)查結(jié)果，目前我國(guó)失能、半失能老年人口約為4063萬(wàn)，占老年人口數(shù)的18.3%，按照3：1的國(guó)際標(biāo)準(zhǔn)計(jì)算，我國(guó)需要超過(guò)1300萬(wàn)的護(hù)理人員。同樣，雖然國(guó)家大力推進(jìn)醫(yī)養(yǎng)結(jié)合，將老年人作為重點(diǎn)人群納入家庭醫(yī)生簽約服務(wù)，但家庭簽約醫(yī)生覆蓋率仍不容樂(lè)觀。如何“以少足多”是擺在當(dāng)前我國(guó)政府面前的重要議題之一。人工智能的崛起為化解這一醫(yī)療難題提供了新路徑。人工智能環(huán)境下，智能護(hù)理等機(jī)器的應(yīng)用與推廣，大大減少了老年人對(duì)護(hù)理人員的需要，虛擬醫(yī)療助手替代護(hù)士，在醫(yī)生診療之外提供輔的就診咨詢(xún)、健康護(hù)理和病例跟蹤等服務(wù)，既減少了老年人前往醫(yī)院就診的次數(shù)，又有助于提高護(hù)理能力。顯然，這些對(duì)于緩解老年健康供需矛盾有積極意義。

第二，人工智能的發(fā)展為醫(yī)療機(jī)構(gòu)提高服務(wù)效率提供了技術(shù)支持。一直以來(lái)，醫(yī)療服務(wù)效率都是備受關(guān)注和爭(zhēng)議的問(wèn)題。醫(yī)療服務(wù)效率，即醫(yī)療機(jī)構(gòu)在投入與產(chǎn)出之間的比率，是醫(yī)療服務(wù)領(lǐng)域的核心命題與重要目標(biāo)。近年來(lái)，隨著我國(guó)醫(yī)療體制的不斷改革與發(fā)展，各級(jí)醫(yī)療機(jī)構(gòu)的效率有了顯著提升，但受制于傳統(tǒng)醫(yī)療機(jī)構(gòu)管理模式的慣性思維影響，醫(yī)療機(jī)構(gòu)的服務(wù)效率與民眾期望仍有差距。新時(shí)代醫(yī)療服務(wù)效率的提升不僅需要制度的變革，也需要服務(wù)工具的革新。人工智能的發(fā)展為優(yōu)化醫(yī)療服務(wù)提供了便利。一方面人工智能的應(yīng)用降低了人力成本。醫(yī)學(xué)影像占醫(yī)療數(shù)據(jù)的90%，而且這一數(shù)據(jù)仍在攀升，年增長(zhǎng)率約為30%，而放射科醫(yī)師數(shù)量的年增長(zhǎng)率僅為4.1%，遠(yuǎn)不及影像數(shù)據(jù)增長(zhǎng)速度。借助AI技術(shù)分析醫(yī)學(xué)影像，將大大緩解醫(yī)院缺少醫(yī)生的壓力。此外，語(yǔ)音技術(shù)在醫(yī)療行業(yè)的普及，也正在將越來(lái)越多的普通醫(yī)生從日常機(jī)械式的醫(yī)案錄入工作中解放出來(lái)，提升錄入的效率，降低失誤率。另一方面，人工智能的應(yīng)用也提高了醫(yī)療服務(wù)能力。人工智能輔助診斷技術(shù)應(yīng)用在老年人某些特定的病種領(lǐng)域，幾乎可以代替醫(yī)生完成疾病篩查任務(wù)；智能手術(shù)機(jī)器人的應(yīng)用既能保證精準(zhǔn)定位，減少老年患者的疼痛，又能防止傳統(tǒng)手術(shù)易帶來(lái)的傳染疾病等危險(xiǎn)；人工智能參與藥物研發(fā)，對(duì)于提高針對(duì)老年患者潛在藥物的篩選速度和成功率，縮短研發(fā)時(shí)間與成本有實(shí)際意義。綜上，人工智能的嵌入打破了以往醫(yī)治全程醫(yī)生親力親為的運(yùn)作模式，智能機(jī)器的自主研判與決策能力，對(duì)于降低人力成本，大幅提高醫(yī)療機(jī)構(gòu)、醫(yī)生的工作效率與質(zhì)量，減少不合理的醫(yī)療支出有積極意義。

第三，人工智能的發(fā)展有助于提高老年人自我健康管理能力。多數(shù)疾病都是可以預(yù)防的，但是由于疾病通常在發(fā)病前期表征并不明顯，到病況加重之際才會(huì)被發(fā)現(xiàn)。而且由于老年人機(jī)體形態(tài)的改變和功能的衰退，對(duì)于疼痛和疾病的反應(yīng)變得不敏感、不典型，很多病癥易被忽略或誤診，加上老年人行動(dòng)不便，其中有多數(shù)老年人即使不舒服也不愿前往醫(yī)院進(jìn)行診療。人工智能的應(yīng)用大大緩解了這一狀態(tài)。人工智能技術(shù)與醫(yī)療健康可穿戴設(shè)備的結(jié)合可以實(shí)現(xiàn)疾病的風(fēng)險(xiǎn)預(yù)測(cè)和實(shí)際干預(yù)，實(shí)時(shí)監(jiān)測(cè)老年人的生理參數(shù)，其雙向數(shù)據(jù)傳輸、在線溝通、便捷有效的特點(diǎn)，一方面可幫助老年人實(shí)時(shí)了解與掌握自身的健康狀況，享受個(gè)性化的健康管理和健康咨詢(xún)服務(wù)，滿足其健康教育需求；另一方面也能提高老年人自我健康管理意識(shí)，促進(jìn)其積極參與自我健康管理和自我照顧，實(shí)現(xiàn)醫(yī)療衛(wèi)生服務(wù)重心前移和全民健康管理。人工智能環(huán)境下的自我健康管理的實(shí)現(xiàn)延伸了傳統(tǒng)醫(yī)療的覆蓋能力，節(jié)省了傳統(tǒng)醫(yī)療方式的時(shí)間、空間成本及醫(yī)療費(fèi)用，能夠有效緩解老齡化帶給整個(gè)社會(huì)醫(yī)療系統(tǒng)的負(fù)擔(dān)。此外，居家健康管理系統(tǒng)能為衛(wèi)生管理者提供健康數(shù)據(jù)，有助于建立完備、標(biāo)準(zhǔn)化的居民電子健康檔案和區(qū)域衛(wèi)生信息共享平臺(tái)，使政府突發(fā)公共衛(wèi)生事件監(jiān)測(cè)和應(yīng)急體系的運(yùn)轉(zhuǎn)更為高效、準(zhǔn)確。

（三）人工智能時(shí)代老年健康管理領(lǐng)域的隱憂

萬(wàn)物都有兩面性，人工智能同樣是把雙刃劍，人工智能從誕生至今，其對(duì)倫理的沖擊就不斷被討論。人工智能給老年健康管理帶來(lái)巨大便利的同時(shí)，也對(duì)道德倫理問(wèn)題提出了重大挑戰(zhàn)。與人工智能的一般倫理問(wèn)題相比，人工智能在老年健康管理中的應(yīng)用因其服務(wù)于老年人這一特殊群體表現(xiàn)得十分特殊與突出。主要表現(xiàn)為兩個(gè)方面，一是老年人人格與尊嚴(yán)的多方面權(quán)益保障倫理問(wèn)題更為加劇，二是老齡社會(huì)正義倫理問(wèn)題更顯突出。

老年人人格與尊嚴(yán)的多方面權(quán)益保障倫理問(wèn)題體現(xiàn)在隱私泄露、社會(huì)孤立與老年人的“物化”三個(gè)方面。首先，為更好地提供全方位健康管理服務(wù)，智能老年健康管理系統(tǒng)和智能設(shè)備需要采集老年人日常起居全時(shí)段、全方位、無(wú)盲區(qū)、長(zhǎng)周期的海量生理數(shù)據(jù)，其中絕大多數(shù)的數(shù)據(jù)屬于隱私數(shù)據(jù)。這些數(shù)據(jù)通過(guò)簡(jiǎn)單的分析和挖掘，就能得出老年人的生活習(xí)慣、身體狀況等信息，一旦被無(wú)意或有意泄露，極易被不法分子所利用以進(jìn)行精準(zhǔn)推銷(xiāo)甚至精細(xì)詐騙等違法活動(dòng)，這對(duì)于易受騙的老年人群體來(lái)說(shuō)無(wú)疑是巨大的隱憂，由此可能帶來(lái)的損失也不可小覷?！妒澜缛藱?quán)宣言》第12條規(guī)定任何人的私生活、家庭、住宅和通信不得任意干涉，他人的榮譽(yù)和名譽(yù)不得加以攻擊。正如一些學(xué)者認(rèn)為我們應(yīng)該對(duì)于弱勢(shì)群體運(yùn)用特別的隱私保護(hù)政策①。然而目前我國(guó)的相關(guān)法律和政策還不盡完善，如有關(guān)病歷資料保護(hù)的法律或文件（《刑法》《侵權(quán)責(zé)任法》《醫(yī)療機(jī)構(gòu)病歷管理規(guī)定》等）中多為宣示性條款，也尚無(wú)老年人隱私安全的針對(duì)性文件。如何保證健康數(shù)據(jù)在實(shí)時(shí)采集、傳輸、存儲(chǔ)、分析與使用過(guò)程中的安全，數(shù)據(jù)應(yīng)當(dāng)被保留多久、誰(shuí)擁有隱私數(shù)據(jù)的訪問(wèn)權(quán)等都是智能老年健康管理領(lǐng)域亟需解決的隱私方面的具體倫理問(wèn)題。其次，智能機(jī)器監(jiān)護(hù)老年人可能導(dǎo)致減少老年人社交、子女的陪伴。關(guān)于智能護(hù)理機(jī)器人的引入對(duì)老年人心理問(wèn)題的影響研究表明，使用護(hù)理機(jī)器人的老年人易出現(xiàn)社會(huì)孤立現(xiàn)象，進(jìn)而導(dǎo)致尊嚴(yán)受損②。過(guò)多的智能既會(huì)減少老年人外出和交流的頻率，也使子女或親朋責(zé)任感降低，對(duì)老年人的關(guān)懷止于虛擬問(wèn)候，而不再是頻繁地看望與聊天。有學(xué)者認(rèn)為，健康助手功能會(huì)使原本親近的護(hù)理關(guān)系轉(zhuǎn)換為遠(yuǎn)程的虛擬的照料關(guān)系③。從而加劇老年人心理上的空虛感與孤獨(dú)感。如何緩解和調(diào)節(jié)老年人心理問(wèn)題是人工智能在老年健康管理應(yīng)用過(guò)程中不得不面對(duì)的問(wèn)題之一。最后，老年人的“物化現(xiàn)象”也是值得關(guān)注的具體倫理問(wèn)題。所謂物化，Kitwood對(duì)其的定義是：像對(duì)待無(wú)生命物質(zhì)那樣對(duì)待人：推、拉、拽一個(gè)人，不把他當(dāng)作一個(gè)有生命的個(gè)體。Astell曾認(rèn)為輔助機(jī)器人可能會(huì)機(jī)械地控制使用者，并逐漸使其變得失去自主性④。智能護(hù)理機(jī)器人等操控式的服務(wù)過(guò)程有可能損害老年人自主意愿，老年人普遍認(rèn)為不應(yīng)該限制他們自主選擇的權(quán)利，如他們不希望所有人知道他們?cè)诩抑械?，因?yàn)槟承┑箖H是小事，自己可以克服，他們認(rèn)為只有自己需要幫助的時(shí)候才應(yīng)通知?jiǎng)e人。然而這與智能護(hù)理系統(tǒng)一旦發(fā)現(xiàn)護(hù)理對(duì)象跌倒，就立即發(fā)送消息給親人或醫(yī)護(hù)人員的護(hù)理策略相矛盾⑤。機(jī)器人應(yīng)在何種程度上保障老年人的自主意愿，減輕其心理負(fù)擔(dān)，維護(hù)其尊嚴(yán)，是值得研究的課題。

老齡社會(huì)正義倫理問(wèn)題主要體現(xiàn)在地區(qū)差異方面。由于我國(guó)國(guó)土面積大，各地區(qū)經(jīng)濟(jì)發(fā)展水平并不一致，地區(qū)差異、城鄉(xiāng)差異問(wèn)題都不容忽視。考慮到護(hù)理服務(wù)涉及人最基本的健康權(quán)利，然而由于經(jīng)濟(jì)發(fā)展和收入水平不同，偏遠(yuǎn)地區(qū)、農(nóng)村的互聯(lián)網(wǎng)都不暢通，健康信息系統(tǒng)建設(shè)不到位⑥，老年人往往無(wú)力購(gòu)買(mǎi)智能可穿戴設(shè)備、智能護(hù)理機(jī)器人等健康管理機(jī)器，貧富差距引發(fā)的社會(huì)資源分配不公問(wèn)題凸顯。如何在研發(fā)和推廣智能設(shè)備中充分考慮老年人的購(gòu)買(mǎi)力，是關(guān)乎社會(huì)正義的倫理問(wèn)題。

二、現(xiàn)實(shí)考察：人工智能時(shí)代老年健康管理的困境

（一）人工智能時(shí)代老年健康管理的經(jīng)驗(yàn)

改革開(kāi)放以來(lái)，尤其是進(jìn)入21世紀(jì)之后，我國(guó)人工智能技術(shù)得到了巨大的發(fā)展。據(jù)中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院數(shù)據(jù)統(tǒng)計(jì)，2017年我國(guó)人工智能市場(chǎng)規(guī)模為216.9億元，比2016年增長(zhǎng)52.8%，增長(zhǎng)速度快于全球平均水平，2020年有望超過(guò)700億元①。其中，“人工智能+融合醫(yī)療、金融、教育和安防等領(lǐng)域企業(yè)”位居全球人工智能目標(biāo)市場(chǎng)行業(yè)首位，總計(jì)占比40%。國(guó)家高度重視，企業(yè)與醫(yī)療機(jī)構(gòu)積極探索老年健康產(chǎn)品的研發(fā)、推廣與應(yīng)用，先后積累了一些經(jīng)驗(yàn)，取得了初步進(jìn)展，為人工智能服務(wù)于老年健康管理奠定了重要基礎(chǔ)。

首先，信息化與大數(shù)據(jù)推動(dòng)智慧醫(yī)療的發(fā)展，為人工智能在老年健康管理中的應(yīng)用提供了技術(shù)支撐。信息化與大數(shù)據(jù)是人工智能有效嵌入的基本要素，因此醫(yī)療信息化的實(shí)現(xiàn)和醫(yī)療大數(shù)據(jù)資源的壯大是推動(dòng)人工智能在老年健康管理應(yīng)用的重要基礎(chǔ)。近幾年來(lái)，高速、移動(dòng)、安全的新一代信息基礎(chǔ)設(shè)施建設(shè)加快，城市社區(qū)光纖網(wǎng)絡(luò)覆蓋率不斷提升，中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）的《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示互聯(lián)網(wǎng)逐漸向高齡人群滲透，60歲以上老年人對(duì)互聯(lián)網(wǎng)的接觸率和應(yīng)用率逐年上升。與此同時(shí)，健康養(yǎng)老服務(wù)信息平臺(tái)建設(shè)不斷推進(jìn)，早在2011年，老齡辦和民政部門(mén)就在全國(guó)范圍內(nèi)推進(jìn)社區(qū)為老服務(wù)信息平臺(tái)建設(shè)項(xiàng)目啟動(dòng)試點(diǎn)工作，試點(diǎn)項(xiàng)目50余個(gè)，據(jù)統(tǒng)計(jì)覆蓋老年人口僅3000多萬(wàn)；2014年民政部和發(fā)改委確定在全國(guó)選取了42個(gè)地區(qū)推進(jìn)養(yǎng)老服務(wù)業(yè)綜合改革試點(diǎn)，改革的重點(diǎn)之一即是加快信息平臺(tái)建設(shè)。2018年國(guó)務(wù)院《關(guān)于促進(jìn)“互聯(lián)網(wǎng)+醫(yī)療健康”發(fā)展的意見(jiàn)》，強(qiáng)調(diào)推進(jìn)遠(yuǎn)程醫(yī)療覆蓋全國(guó)所有醫(yī)聯(lián)體和縣級(jí)醫(yī)院，支持高速寬帶網(wǎng)絡(luò)覆蓋城鄉(xiāng)醫(yī)療機(jī)構(gòu)，建立互聯(lián)網(wǎng)專(zhuān)線保障遠(yuǎn)程醫(yī)療需要?！盎ヂ?lián)網(wǎng)+醫(yī)療服務(wù)”建設(shè)初具規(guī)模，各級(jí)醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)積累了大量老年人有關(guān)的數(shù)據(jù)資源，其中包括老年信息數(shù)據(jù)庫(kù)建設(shè)與大數(shù)據(jù)共享平臺(tái)與服務(wù)平臺(tái)建設(shè)，為下一步人工智能的嵌入奠定了堅(jiān)實(shí)根基。

其次，國(guó)家高度重視，政策與法律建設(shè)不斷推進(jìn)，為人工智能在老年健康管理中的應(yīng)用提供了制度基礎(chǔ)。一方面，為推動(dòng)人工智能的迅速發(fā)展，近年來(lái)我國(guó)人工智能領(lǐng)域指導(dǎo)性政策文件不斷出臺(tái)。如2017年7月國(guó)務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》，同年12月工信部公布《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020年）》，明確了我國(guó)新一代人工智能發(fā)展的戰(zhàn)略目標(biāo)，部署構(gòu)筑我國(guó)人工智能發(fā)展的先發(fā)優(yōu)勢(shì)，加快創(chuàng)新型國(guó)家和世界科技強(qiáng)國(guó)建設(shè)。2018年1月中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院《人工智能標(biāo)準(zhǔn)化白皮書(shū)（2018版）》，提出確立人工智能產(chǎn)業(yè)發(fā)展的標(biāo)準(zhǔn)體系；3月政府工作報(bào)告明確指出加強(qiáng)新一代人工智能在醫(yī)療、養(yǎng)老等多領(lǐng)域的應(yīng)用。各省市積極響應(yīng)，出臺(tái)本地區(qū)的具體實(shí)施意見(jiàn)，為人工智能在老年健康領(lǐng)域的應(yīng)用確立了方向。另一方面，為應(yīng)對(duì)各類(lèi)風(fēng)險(xiǎn)與危機(jī)，我國(guó)不斷推出信息建設(shè)與信息安全的相關(guān)規(guī)定。據(jù)統(tǒng)計(jì)目前我國(guó)信息治理層面的相關(guān)法規(guī)已有100余件，涉及個(gè)人信息保護(hù)、網(wǎng)絡(luò)侵權(quán)預(yù)防和網(wǎng)絡(luò)犯罪懲治等多個(gè)領(lǐng)域②。具體到醫(yī)療行業(yè)，2013年國(guó)家衛(wèi)生計(jì)生委、國(guó)家中醫(yī)藥管理局印發(fā)的《關(guān)于加快推進(jìn)人口健康信息化建設(shè)的指導(dǎo)意見(jiàn)》，2015年國(guó)務(wù)院辦公廳印發(fā)的《全國(guó)醫(yī)療衛(wèi)生服務(wù)體系規(guī)劃綱要（2015-2020年）》，2017年工信部、民政部、衛(wèi)計(jì)委聯(lián)合印發(fā)的《智慧健康養(yǎng)老產(chǎn)業(yè)發(fā)展行動(dòng)計(jì)劃（2017-2020年）》等文件，都著重強(qiáng)調(diào)形成覆蓋全生命周期的智慧健康養(yǎng)老產(chǎn)業(yè)體系，打造一批智慧健康養(yǎng)老服務(wù)品牌。2016年12月，國(guó)務(wù)院辦公廳印發(fā)《關(guān)于全面放開(kāi)養(yǎng)老服務(wù)市場(chǎng)提升養(yǎng)老服務(wù)質(zhì)量的若干意見(jiàn)》提出推進(jìn)“互聯(lián)網(wǎng)+”養(yǎng)老服務(wù)創(chuàng)新，到2020年養(yǎng)老服務(wù)市場(chǎng)全面放開(kāi)等，都指出實(shí)現(xiàn)全員人口信息、電子健康檔案和電子病歷三大數(shù)據(jù)庫(kù)要基本覆蓋全國(guó)人口并完成信息動(dòng)態(tài)更新。這些直接或間接性文件的不斷完善，為人工智能在健康領(lǐng)域的應(yīng)用提供了基本的制度框架。

最后，在技術(shù)與政策環(huán)境的激勵(lì)下，人工智能在老年健康管理中的應(yīng)用初見(jiàn)成效。從易得的傳感器，到智能化的可穿戴設(shè)備，智能護(hù)理床、健康服務(wù)機(jī)器人、陪護(hù)機(jī)器人等服務(wù)機(jī)器人，越來(lái)越多智能設(shè)備參與到老年人健康管理領(lǐng)域。近幾年，房地產(chǎn)商、保險(xiǎn)公司、養(yǎng)老機(jī)構(gòu)積極推出高端養(yǎng)老項(xiàng)目，健康服務(wù)機(jī)器人也隨即而來(lái)，其中天津哈士奇機(jī)器人作為全球首臺(tái)健康服務(wù)機(jī)器人成為標(biāo)志性事件。而后，機(jī)器人也開(kāi)始應(yīng)用在福利中心和養(yǎng)老機(jī)構(gòu)，僅杭州就有70家養(yǎng)老機(jī)構(gòu)和40家照料中心引進(jìn)了“阿鐵”養(yǎng)老機(jī)器人①②，機(jī)器人具備健康檢測(cè)、健康顧問(wèn)、緊急報(bào)警與陪伴逗樂(lè)四項(xiàng)主要功能。同時(shí)依托“互聯(lián)網(wǎng)+”搭起智能居家養(yǎng)老服務(wù)的橋梁，一是通過(guò)智能健康腕表隨時(shí)測(cè)量血壓、心率等生命體征數(shù)據(jù)。相關(guān)研究表明可穿戴智能設(shè)備在治療慢性病方面有顯著效果，治療費(fèi)用、住院時(shí)間等都有所降低③④。二是“開(kāi)心”等智能健康養(yǎng)老機(jī)器人通過(guò)人體感應(yīng)、攝像頭遠(yuǎn)程監(jiān)護(hù)、聲源定位、語(yǔ)音識(shí)別等系統(tǒng)為居家老人提供安全監(jiān)護(hù)、用藥提醒、數(shù)據(jù)分析等健康服務(wù)，約87%的受訪者表示類(lèi)似于“開(kāi)心”的智能健康養(yǎng)老機(jī)器人會(huì)對(duì)空巢老人有用⑤。三是通過(guò)“互聯(lián)網(wǎng)+”和遠(yuǎn)程醫(yī)療、遠(yuǎn)程手術(shù)等滿足老年人的醫(yī)療需求，通過(guò)機(jī)械骨骼、輪椅機(jī)器人等助力老人康復(fù)⑥。從監(jiān)護(hù)到治療，人工智能在各種養(yǎng)老模式的老年人中的初步試水，為應(yīng)對(duì)人口老齡化提供了戰(zhàn)略性思維。

（二）人工智能時(shí)代老年健康管理的難題

人工智能為老年人實(shí)現(xiàn)全過(guò)程健康管理提供了條件，推動(dòng)了老年健康管理模式的突破與創(chuàng)新，然而目前人工智能在老年健康管理中的應(yīng)用僅處于起步階段，尚有很多問(wèn)題需要解決。

其一，從應(yīng)用范圍來(lái)看，價(jià)格壁壘難以突破，老年健康管理中人工智能缺乏動(dòng)力。醫(yī)療行業(yè)本身就極具復(fù)雜性和特殊性，醫(yī)療體制改革和醫(yī)養(yǎng)結(jié)合養(yǎng)老模式發(fā)展已推行多年，但仍有很多問(wèn)題為人們所詬病。人大代表羅衛(wèi)紅曾提出目前醫(yī)養(yǎng)結(jié)合雖初具成效，但仍存在醫(yī)養(yǎng)結(jié)合服務(wù)需求與承載力不對(duì)稱(chēng)、行業(yè)管理體制不完善、醫(yī)養(yǎng)結(jié)合醫(yī)保支付政策難以保障護(hù)理需求等問(wèn)題。人工智能嵌入老年健康管理為醫(yī)養(yǎng)結(jié)合模式的發(fā)展創(chuàng)造機(jī)遇的同時(shí)，也提出了更高的要求。人工智能設(shè)備造成的健康管理服務(wù)費(fèi)用誰(shuí)來(lái)支付、怎樣支付，目前國(guó)內(nèi)尚未達(dá)成共識(shí)，這也解釋了為什么目前智能健康機(jī)器人多出現(xiàn)在養(yǎng)老機(jī)構(gòu)，而非居家老人家中。不可否認(rèn)，在當(dāng)前醫(yī)療衛(wèi)生服務(wù)供給不足的情況下，醫(yī)養(yǎng)結(jié)合型養(yǎng)老機(jī)構(gòu)非常重要，機(jī)器人的引入對(duì)老年人尤其是對(duì)高齡老人、半失能老人與失能老人帶來(lái)了極大的便利。然而無(wú)論是9064模式還是9073模式，絕大多數(shù)老年人是居家養(yǎng)老。針對(duì)居家生活老年人的健康監(jiān)測(cè)、預(yù)防、治療、康復(fù)、護(hù)理和心理慰藉等服務(wù)需求亟需人工智能的嵌入，然而形勢(shì)不容樂(lè)觀，一方面是因?yàn)橹悄苎b備價(jià)格較高，老年人個(gè)體往往無(wú)意愿或無(wú)力購(gòu)買(mǎi)較為昂貴的智能感應(yīng)設(shè)備，另一方面是因?yàn)閾?dān)心后續(xù)健康服務(wù)能否持續(xù)跟進(jìn)，比如一個(gè)智能腕表就價(jià)值幾千元，如果后期的服務(wù)沒(méi)跟上，老年人損失就會(huì)很大。人工智能的應(yīng)用必須考慮各方支付意愿，其價(jià)格在某種程度上決定了其可推廣的范圍。如何圍繞大健康戰(zhàn)略來(lái)定位發(fā)展人工智能，實(shí)現(xiàn)醫(yī)療健康服務(wù)利益相關(guān)者的協(xié)作，為老年人提供全方位全周期的健康服務(wù)是亟須解決的關(guān)鍵問(wèn)題之一。

其二，從信息化建設(shè)來(lái)看，人工智能應(yīng)用于老年健康管理的信息孤島劣勢(shì)明顯。人工智能的應(yīng)用離不開(kāi)信息技術(shù)的支撐。推進(jìn)醫(yī)療服務(wù)大數(shù)據(jù)建設(shè)，建設(shè)老年群體數(shù)據(jù)庫(kù)與醫(yī)療服務(wù)信息平臺(tái)，統(tǒng)一相關(guān)數(shù)據(jù)標(biāo)準(zhǔn)是基礎(chǔ)?！叭斯ぶ悄?醫(yī)療”最大的問(wèn)題在于數(shù)據(jù)的來(lái)源和質(zhì)量，因?yàn)槲覈?guó)的醫(yī)療數(shù)據(jù)在醫(yī)院與醫(yī)院間、醫(yī)院與家庭間存在信息孤島，即使在同一個(gè)醫(yī)院提取和利用數(shù)據(jù)仍涉及很多操作手續(xù)。與此同時(shí)，雖然各地政府一直在強(qiáng)調(diào)健康養(yǎng)老服務(wù)信息平臺(tái)建設(shè)，但進(jìn)程并不樂(lè)觀，多數(shù)老年健康服務(wù)僅停留在通過(guò)社區(qū)門(mén)診或體檢獲得數(shù)據(jù)，共享在街道一級(jí)，實(shí)現(xiàn)市級(jí)統(tǒng)一平臺(tái)建設(shè)的省份屈指可數(shù)。除了技術(shù)條件的制約，更多的是缺乏全局的考慮與統(tǒng)籌規(guī)劃，民政部門(mén)、統(tǒng)計(jì)部門(mén)、公安部門(mén)、衛(wèi)生部門(mén)、醫(yī)院等多部門(mén)之間的責(zé)任模糊，各涉老部門(mén)缺乏溝通與配合；各地區(qū)各自為政，缺乏共享理念和共享動(dòng)力，有效的溝通不足，相互之間在操作系統(tǒng)、網(wǎng)絡(luò)協(xié)議、語(yǔ)義表示、數(shù)據(jù)庫(kù)類(lèi)型，乃至硬件管理平臺(tái)上存在差異，醫(yī)療信息數(shù)據(jù)不能有效實(shí)現(xiàn)地區(qū)共享，阻礙了人工智能賴(lài)以為生的數(shù)據(jù)信息資源的有效流通，既造成了數(shù)據(jù)信息資源重復(fù)建設(shè)，也限制了數(shù)據(jù)信息資源功能的最大發(fā)揮?？梢?jiàn)，要想人工智能應(yīng)用于老年健康管理，積極突破數(shù)據(jù)壁壘勢(shì)在必行。

其三，從健康服務(wù)相關(guān)主體來(lái)看，養(yǎng)老機(jī)構(gòu)、社區(qū)服務(wù)中心、醫(yī)療機(jī)構(gòu)與企業(yè)的合作不足。養(yǎng)老服務(wù)機(jī)構(gòu)、醫(yī)療機(jī)構(gòu)等服務(wù)機(jī)構(gòu)本身不生產(chǎn)人工智能設(shè)備，而是通過(guò)引進(jìn)人工智能設(shè)備服務(wù)于老年人，科技企業(yè)才是人工智能產(chǎn)品的生產(chǎn)者。服務(wù)機(jī)構(gòu)最了解老年健康管理全過(guò)程需要什么樣的人工智能產(chǎn)品，而科技企業(yè)則在技術(shù)上獨(dú)占優(yōu)勢(shì)。二者通過(guò)跨界合作發(fā)揮各自的優(yōu)勢(shì)，才能明確研發(fā)內(nèi)容，最大程度縮短研發(fā)周期，以滿足老年人健康管理的需要。然而目前國(guó)內(nèi)各級(jí)醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)在該領(lǐng)域的開(kāi)拓相對(duì)滯后，除了發(fā)達(dá)城市的大型房地產(chǎn)公司通過(guò)與科技公司合作建設(shè)高端養(yǎng)老基地，應(yīng)用人工智能參與老年健康管理服務(wù)，實(shí)現(xiàn)了企業(yè)間的人工智能合作外，多數(shù)醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)有待進(jìn)一步跟進(jìn)。與此同時(shí)，醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)提升自身對(duì)人工智能產(chǎn)品的駕馭能力也離不開(kāi)同科技企業(yè)的有效合作。兩者有效合作的缺乏在一定程度上制約了老年健康管理過(guò)程中的人工智能創(chuàng)新能力的提升。兩者如何建立合作機(jī)制，共同推進(jìn)人工智能的技術(shù)創(chuàng)新與應(yīng)用是人們不得不思考的當(dāng)務(wù)之急。

其四，從研發(fā)主體看，老年健康管理領(lǐng)域的人工智能發(fā)展受制于稀缺的專(zhuān)業(yè)人才。人工智能任何相關(guān)技術(shù)方面的突破都依賴(lài)于人才，可以說(shuō)其發(fā)展能力取決于人才數(shù)量?！度蛉斯ぶ悄苋瞬虐灼?shū)》顯示全球AI領(lǐng)域的人才缺口達(dá)到百萬(wàn)量級(jí)，2017年工信部發(fā)言人指出在我國(guó)人工智能人才缺口超過(guò)500萬(wàn)，稀缺的專(zhuān)業(yè)人才資源是制約全球人工智能技術(shù)發(fā)展和應(yīng)用落地的一大短板。人工智能的專(zhuān)業(yè)人才既要掌握數(shù)據(jù)挖掘、語(yǔ)音圖像識(shí)別等計(jì)算機(jī)層面知識(shí)，又要了解人工智能應(yīng)用領(lǐng)域的客觀狀況。AlphaGo之所以能戰(zhàn)勝人類(lèi)圍棋世界冠軍，在一定程度上是因?yàn)槠湓O(shè)計(jì)者DemisHassabis本人就是天才棋手①。因此，人工智能老年健康領(lǐng)域的專(zhuān)業(yè)人才需要集計(jì)算機(jī)專(zhuān)業(yè)技術(shù)與健康養(yǎng)老服務(wù)行業(yè)實(shí)踐于一身，才能研發(fā)出適合老年群體的智能健康醫(yī)療設(shè)備。目前國(guó)內(nèi)的人工智能專(zhuān)業(yè)性人才缺乏，且多集中于制造業(yè)、互聯(lián)網(wǎng)等領(lǐng)域的技術(shù)開(kāi)發(fā)工作，雖然一些科技公司與醫(yī)療機(jī)構(gòu)合作取得初步的成果，但在醫(yī)療領(lǐng)域結(jié)合上缺乏深度，直接針對(duì)健康服務(wù)領(lǐng)域的人工智能人才更是不足，阻礙了老年健康領(lǐng)域人工智能技術(shù)的推行。

三、未來(lái)選擇：人工智能時(shí)代老年健康管理的關(guān)鍵路徑

人工智能時(shí)代的到來(lái)，為老年健康管理創(chuàng)造了全新的環(huán)境，同時(shí)也對(duì)政府、社區(qū)、醫(yī)療機(jī)構(gòu)、養(yǎng)老服務(wù)機(jī)構(gòu)等提出了更高的要求。面對(duì)人工智能的迅速發(fā)展，需積極推進(jìn)人工智能與老年健康管理的深度融合，以促進(jìn)適應(yīng)時(shí)代訴求的老年健康管理智能化。

（一）構(gòu)建人工智能嵌入老年健康管理的管理機(jī)制

DouglassC.North指出制度是社會(huì)的游戲規(guī)則，規(guī)定了人與人之間的行為范式②。人工智能時(shí)代老年健康管理迫切需要現(xiàn)有機(jī)制的突破與創(chuàng)新，當(dāng)前必須做好三個(gè)層面的具體工作。

一是形成專(zhuān)業(yè)的領(lǐng)導(dǎo)機(jī)制。人工智能科學(xué)嵌入老年健康管理離不開(kāi)政府部門(mén)的統(tǒng)一規(guī)劃和部署。2018年國(guó)家醫(yī)療保障局成立，整合了此前散落在人社、民政、衛(wèi)計(jì)委、發(fā)改委等多個(gè)部門(mén)的相關(guān)醫(yī)療職能，改變了“九龍治水”的管理局面，為人工智能在醫(yī)療行業(yè)、健康領(lǐng)域的嵌入提供了契機(jī)。在老年健康領(lǐng)域推廣人工智能應(yīng)納入醫(yī)療保障局的工作內(nèi)容，積極推動(dòng)醫(yī)療機(jī)構(gòu)、養(yǎng)老機(jī)構(gòu)、社區(qū)養(yǎng)老服務(wù)中心等與科技企業(yè)的合作，全方位部署人工智能在老年健康管理中的應(yīng)用格局，從傳感器，到智能化的可穿戴設(shè)備，健康服務(wù)機(jī)器人、智能護(hù)理床、陪護(hù)機(jī)器人等服務(wù)機(jī)器人，從智能家居設(shè)備、養(yǎng)老服務(wù)機(jī)構(gòu)智能設(shè)備，到智能醫(yī)療機(jī)器，從老年人健康數(shù)據(jù)建設(shè)到疾病的預(yù)防、治療、康復(fù)與護(hù)理等，培養(yǎng)一支兼具智能理念和實(shí)踐經(jīng)驗(yàn)的新型領(lǐng)導(dǎo)隊(duì)伍，確保政府部門(mén)在人工智能應(yīng)用中始終掌握主動(dòng)權(quán)。

二是培養(yǎng)多元主體信息共享機(jī)制。人工智能的發(fā)展與應(yīng)用依賴(lài)于數(shù)據(jù)，因此，人工智能嵌入老年健康管理，一方面需要挖掘分析大量老年健康數(shù)據(jù)，以便人工智能設(shè)備的研發(fā)，另一方面需要醫(yī)療機(jī)構(gòu)、養(yǎng)老機(jī)構(gòu)、社區(qū)居家服務(wù)中心、老年人等相互間的數(shù)據(jù)連通與安全共享，促使多方有效參與老年健康管理。加快健康養(yǎng)老信息平臺(tái)建設(shè)迫在眉睫，要著力提升多元參與主體的數(shù)據(jù)素養(yǎng)和技術(shù)素養(yǎng)水平，促進(jìn)多元主體相互間協(xié)同配合，協(xié)調(diào)老年健康數(shù)據(jù)在各部門(mén)間的流通，實(shí)現(xiàn)數(shù)據(jù)信息的交互及供需的有效匹配，從而打破數(shù)據(jù)壁壘，為提升老年健康管理水平提供數(shù)據(jù)支撐。

三是建構(gòu)道德倫理矯正機(jī)制。享受人工智能給老年健康管理帶來(lái)巨大便利的同時(shí)，也必須正視其對(duì)道德倫理的挑戰(zhàn)。首先，進(jìn)一步完善信息保護(hù)機(jī)制，減少甚至消除老年人對(duì)個(gè)人信息數(shù)據(jù)泄露的擔(dān)憂。其次，科學(xué)認(rèn)識(shí)和使用人工智能。雖然現(xiàn)有的人工智能在某些層面和維度接近、達(dá)到甚至超過(guò)了人類(lèi)智能，但其工具性色彩沒(méi)有改變，人工智能在老年健康管理中的應(yīng)用旨在提高健康管理水平，而不是取代醫(yī)護(hù)人員和親朋好友。兒女的關(guān)心、好友的慰問(wèn)以及老年人必要的社交互動(dòng)都不可或缺。最后應(yīng)通過(guò)技術(shù)發(fā)展，為人工智能注入情感，促使人機(jī)交互更加和諧。

（二）構(gòu)建以人工智能為核心載體的老年健康技術(shù)系統(tǒng)

推進(jìn)各級(jí)醫(yī)療機(jī)構(gòu)和各地養(yǎng)老機(jī)構(gòu)在老年健康管理中發(fā)揮更大的作用，需要通過(guò)智能化處理系統(tǒng)和便捷高效的急救處理流程，即系統(tǒng)能自動(dòng)采集老年人身體狀況數(shù)據(jù)并進(jìn)行分析，當(dāng)發(fā)生意外跌倒或生命體征數(shù)據(jù)出現(xiàn)異常，智能呼叫相應(yīng)的醫(yī)療機(jī)構(gòu)，使老人及時(shí)、準(zhǔn)確地獲取醫(yī)療服務(wù)。為此，應(yīng)重點(diǎn)做好兩個(gè)層面的工作。

一方面，建設(shè)針對(duì)老年健康管理的智能處理系統(tǒng)。智能化系統(tǒng)基于計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)和信息技術(shù)，強(qiáng)化老年健康的數(shù)據(jù)挖掘系統(tǒng)和數(shù)據(jù)存儲(chǔ)系統(tǒng)建設(shè)，有效整合老年健康管理智能化進(jìn)程中的各類(lèi)非數(shù)值型、非結(jié)構(gòu)化數(shù)據(jù)，同時(shí)有針對(duì)性地引進(jìn)合適的人工智能技術(shù)，如生物識(shí)別技術(shù)、自然語(yǔ)言處理、機(jī)器學(xué)習(xí)、虛擬等，提升人機(jī)交互過(guò)程中老年健康數(shù)據(jù)的處理效率，并以此形成由知識(shí)庫(kù)、數(shù)據(jù)庫(kù)、推理機(jī)、解釋器和知識(shí)獲取等組成的老年健康管理系統(tǒng)，為提高老年健康管理水平奠定基礎(chǔ)。

另一方面，創(chuàng)新以人工智能為基礎(chǔ)的醫(yī)療流程。智能系統(tǒng)的生命在于應(yīng)用，老年健康管理途徑與方式的優(yōu)化必須以智能處理流程的創(chuàng)新為依托。其一，通過(guò)人工智能實(shí)現(xiàn)老年人健康狀況的自動(dòng)檢測(cè)，根據(jù)不間斷、全方位的健康數(shù)據(jù)跟蹤，智能評(píng)估老年人身體與心理的健康狀況，并基于數(shù)據(jù)分析提出智慧決策，確定老年人在健康方面應(yīng)采取的措施。其二，智能系統(tǒng)要在識(shí)別老年人緊急救助需求的基礎(chǔ)上，主動(dòng)通知醫(yī)療機(jī)構(gòu)，使老年人及時(shí)得到救助。至于醫(yī)療機(jī)構(gòu)的選擇應(yīng)符合分級(jí)診療原則與就近原則。這對(duì)于減少老年人獨(dú)居風(fēng)險(xiǎn)，為空巢老人提供“健康保險(xiǎn)”有積極的現(xiàn)實(shí)意義。

（三）構(gòu)建“?！蟆t(yī)/養(yǎng)”在人工智能領(lǐng)域的深度合作機(jī)制

學(xué)校是人才培養(yǎng)的重要陣地，科技企業(yè)是人工智能產(chǎn)業(yè)發(fā)展的主力軍，而醫(yī)療服務(wù)機(jī)構(gòu)與養(yǎng)老機(jī)構(gòu)是老年健康管理的重要參與者。推進(jìn)人工智能在老年健康管理領(lǐng)域的應(yīng)用，迫切需要三者的深度協(xié)作，以達(dá)到通識(shí)成材、借勢(shì)運(yùn)力、以智發(fā)展的目標(biāo)。

其一，探索高校與企業(yè)協(xié)同人才培養(yǎng)模式。相比美國(guó)人工智能人才數(shù)量，我國(guó)明顯滯后。據(jù)領(lǐng)英數(shù)據(jù)顯示，我國(guó)從業(yè)經(jīng)驗(yàn)10年以上的AI人才占AI人才總數(shù)比例不足40%，而美國(guó)這一比例超過(guò)70%；美國(guó)人工智能基礎(chǔ)層、技術(shù)層和應(yīng)用層的人才數(shù)量占比分別為22.7%、37.4%和39.9%，而中國(guó)為3.3%、34.9%和61.8%，人才培養(yǎng)勢(shì)在必行。如上文所述，人工智能的專(zhuān)業(yè)人才既要掌握數(shù)據(jù)挖掘、語(yǔ)音圖像識(shí)別等計(jì)算機(jī)層面知識(shí)，又要了解人工智能應(yīng)用領(lǐng)域的客觀狀況?？萍计髽I(yè)需要高校的理論與人才的支持，而高校則可借助企業(yè)的數(shù)據(jù)資源和技術(shù)平臺(tái)推進(jìn)科研理論進(jìn)展，將研究?jī)r(jià)值落地。因此，高校應(yīng)加強(qiáng)人工智能相關(guān)學(xué)科建設(shè)，吸引國(guó)際頂級(jí)科學(xué)家和高層次人才，加強(qiáng)與科技企業(yè)、國(guó)外高校及相關(guān)機(jī)構(gòu)的合作，將技術(shù)教學(xué)貫穿到實(shí)訓(xùn)項(xiàng)目中，讓學(xué)生在校所學(xué)與企業(yè)實(shí)踐有機(jī)結(jié)合，培養(yǎng)貫通人工智能基礎(chǔ)理論、軟硬件技術(shù)與醫(yī)療服務(wù)領(lǐng)域應(yīng)用的縱向跨界人才。人工智能校企合作將有助于人工智能在老年健康領(lǐng)域的加速發(fā)展，為人工智能應(yīng)用打開(kāi)新局面。

其二，搭建醫(yī)療服務(wù)機(jī)構(gòu)與企業(yè)合作平臺(tái)。近年來(lái)，阿里巴巴、百度、騰訊和華為等國(guó)內(nèi)企業(yè)在人工智能領(lǐng)域的崛起，為老年健康管理的轉(zhuǎn)型提供了技術(shù)支撐。人工智能本身就涉及多重技術(shù)，不同行業(yè)或領(lǐng)域的關(guān)鍵技術(shù)必然存在差異，加快人工智能在老年健康管理中的應(yīng)用，醫(yī)療服務(wù)機(jī)構(gòu)既要借助科技企業(yè)的技術(shù)優(yōu)勢(shì)，引入智能技術(shù)，又要借助科技企業(yè)的智力優(yōu)勢(shì)，培育服務(wù)人才。這就要求醫(yī)療機(jī)構(gòu)積極通過(guò)研發(fā)外包的途徑，由科技企業(yè)打造契合老年健康管理需求的智能軟件與硬件，加快老年健康管理智能產(chǎn)品的開(kāi)發(fā)與推廣，促進(jìn)產(chǎn)品從監(jiān)護(hù)提醒類(lèi)、健康監(jiān)測(cè)類(lèi)，到醫(yī)療設(shè)備類(lèi)、陪護(hù)聊天類(lèi)，關(guān)注老年人身體健康的同時(shí)注意開(kāi)發(fā)心理健康護(hù)理機(jī)器人，實(shí)現(xiàn)智能產(chǎn)品的多元化與精準(zhǔn)化。與此同時(shí)，醫(yī)療機(jī)構(gòu)通過(guò)與科技企業(yè)的合作，提高本機(jī)構(gòu)內(nèi)部人工智能的應(yīng)用能力。

（四）構(gòu)建老年健康管理人工智能產(chǎn)品的定價(jià)與補(bǔ)貼機(jī)制

人工智能在老年健康領(lǐng)域推行受阻的一個(gè)很重要的原因是企業(yè)囿于無(wú)利可圖與老人抱怨收費(fèi)高現(xiàn)象并存。老年健康領(lǐng)域人工智能產(chǎn)品與服務(wù)的價(jià)格既不能完全市場(chǎng)化也不能?chē)?yán)控低價(jià)，應(yīng)建立合理的定價(jià)機(jī)制與相應(yīng)的財(cái)政保障機(jī)制，以平衡市場(chǎng)主體盈利與老年人經(jīng)濟(jì)承受力來(lái)促進(jìn)人工智能在老年健康領(lǐng)域的廣泛應(yīng)用。

一方面，合理確定老年健康領(lǐng)域人工智能產(chǎn)品的價(jià)格。老年人的健康管理產(chǎn)品與服務(wù)具有一定的福利性，過(guò)高的價(jià)格會(huì)忽略老年人的經(jīng)濟(jì)承受能力，過(guò)低的價(jià)格又影響社會(huì)資本的收益率與參與積極性，阻礙該領(lǐng)域的進(jìn)一步發(fā)展。根據(jù)資本資產(chǎn)定價(jià)模型，任何資產(chǎn)的期望收益率都由無(wú)風(fēng)險(xiǎn)利率和對(duì)所承擔(dān)風(fēng)險(xiǎn)的補(bǔ)償—風(fēng)險(xiǎn)溢價(jià)兩部分構(gòu)成，考慮到服務(wù)對(duì)象的特殊性，老年健康領(lǐng)域人工智能產(chǎn)品合理的投資收益率應(yīng)等于或略低于市場(chǎng)平均投資收益率，兼顧經(jīng)濟(jì)效益與社會(huì)效益。

另一方面，建立相應(yīng)的財(cái)政補(bǔ)貼機(jī)制。雖然老年人收入來(lái)源更加多元，自報(bào)需要照護(hù)服務(wù)的比例不斷提高，越來(lái)越多的老年人有能力購(gòu)買(mǎi)健康管理設(shè)備，但價(jià)格仍然是影響其選擇與否的關(guān)鍵因素之一。而且受年齡、身體狀況、收入等多重因素影響，有必要分地區(qū)、分群體進(jìn)行大面積的調(diào)查統(tǒng)計(jì)，找到不同身體狀況與經(jīng)濟(jì)狀況的老年人有能力和意愿支付的平均價(jià)格。根據(jù)計(jì)算出來(lái)的市場(chǎng)價(jià)格與老年人可支付的價(jià)格，分類(lèi)別分等級(jí)進(jìn)行補(bǔ)貼，對(duì)于經(jīng)濟(jì)困難的失能半失能老人要免費(fèi)配置相應(yīng)的智能設(shè)備。

此外，加強(qiáng)老年健康管理人工智能應(yīng)用狀況的監(jiān)管體系和績(jī)效評(píng)價(jià)體系。當(dāng)前人工智能技術(shù)整體還處在較低的發(fā)展層次，在認(rèn)知能力、感知行為、風(fēng)險(xiǎn)對(duì)抗等諸多方面仍比較笨拙，應(yīng)在加強(qiáng)人工智能嵌入的可能性風(fēng)險(xiǎn)管理的基礎(chǔ)上，采取第三方評(píng)估方式，科學(xué)評(píng)價(jià)人工智能應(yīng)用過(guò)程的技術(shù)適用、服務(wù)質(zhì)量等環(huán)節(jié)。推進(jìn)老年健康管理領(lǐng)域的人工智能應(yīng)用的不斷改進(jìn)與發(fā)展。

篇5

算法是指由計(jì)算機(jī)執(zhí)行的一系列獨(dú)立的指令和動(dòng)作。從初始狀態(tài)和初始輸入開(kāi)始，這些指令描述了完整的計(jì)算步驟――通過(guò)一系列有限的、確切的指令，產(chǎn)生并輸出答案和數(shù)據(jù)，最終止于結(jié)束狀態(tài)。

人工智能的算法是一套利用機(jī)器智能解決問(wèn)題的復(fù)雜手段。過(guò)去，我們給計(jì)算機(jī)下達(dá)規(guī)則式的指令來(lái)解決問(wèn)題；現(xiàn)在，我們只要告訴計(jì)算機(jī)想解決的問(wèn)題，它就可以自行選擇算法來(lái)解決問(wèn)題――這便是人工智能帶來(lái)的根本性變革。

人工智能最重要的是學(xué)習(xí)能力，即根據(jù)機(jī)器以往的經(jīng)驗(yàn)來(lái)不斷優(yōu)化算法。第一次人工智能的浪潮始于上世紀(jì)70年代，當(dāng)時(shí)的人工智能算法采用的是符號(hào)邏輯推理規(guī)則，以實(shí)現(xiàn)知識(shí)表征。由于缺乏自我學(xué)習(xí)能力，那時(shí)的人工智能無(wú)法解決新領(lǐng)域中出現(xiàn)的問(wèn)題。第二代人工智能雖然在學(xué)習(xí)和感知能力上表現(xiàn)更佳，但由于當(dāng)時(shí)的機(jī)器學(xué)習(xí)模型不具備大量吸收訓(xùn)練數(shù)據(jù)的能力，與人類(lèi)的水平仍有很大差距。

算法的發(fā)展

大約在10年前，深層與結(jié)構(gòu)化機(jī)器學(xué)習(xí)，或稱(chēng)為深度學(xué)習(xí)的新范式，讓人工智能算法的智能程度越來(lái)越高。傳統(tǒng)的機(jī)器學(xué)習(xí)方法讓電腦學(xué)習(xí)的“知識(shí)”，要由人來(lái)設(shè)計(jì)并輸入，因?yàn)樾枰莆沾罅康膶?zhuān)業(yè)知識(shí)，導(dǎo)致特征工程成為機(jī)器學(xué)習(xí)的瓶頸。深度學(xué)習(xí)打破了這一瓶頸，通過(guò)多層結(jié)構(gòu)算法，機(jī)器對(duì)數(shù)據(jù)集的“特征”進(jìn)行篩選和提取，通過(guò)反復(fù)訓(xùn)練，最終獲得了提取抽象概念的能力。

篇6

一、美麗的誤解：算法默認(rèn)是公平的

建立在算法模型基礎(chǔ)上的人工智能給社會(huì)生活帶來(lái)巨大便利，如網(wǎng)絡(luò)約車(chē)、區(qū)塊鏈、互聯(lián)網(wǎng)金融等帶來(lái)了社會(huì)進(jìn)步，但其潛在的弊端不容忽視。2016年哈佛大學(xué)肯尼迪學(xué)院的分析報(bào)告指出，目前針對(duì)犯罪傾向性預(yù)測(cè)的人工智能系統(tǒng)，無(wú)論技術(shù)人員如何調(diào)整機(jī)器學(xué)習(xí)的策略和算法，人種和膚色都成為無(wú)法抹去的高優(yōu)先識(shí)別變量。那么看似技術(shù)中立的算法為什么會(huì)產(chǎn)生歧視？

算法本質(zhì)是互聯(lián)網(wǎng)的編程技術(shù)，但這種編程技術(shù)絕非中立。谷歌公司的數(shù)碼相冊(cè)軟件將深色皮膚的人標(biāo)記為大猩猩，展示了科技錯(cuò)誤如何轉(zhuǎn)變成傷害，進(jìn)而導(dǎo)致社會(huì)不安與仇恨。正如這里所示，算法歧視在很多情況下是難以預(yù)料的、無(wú)意識(shí)的副產(chǎn)品，而非編程人員有意識(shí)的選擇，更增加了識(shí)別問(wèn)題根源或者解決問(wèn)題的難度。那么算法歧視是如何出現(xiàn)的？首先，算法結(jié)果建立在其所使用的基礎(chǔ)數(shù)據(jù)之上，基礎(chǔ)數(shù)據(jù)的不完善將直接影響算法輸出的科學(xué)性。數(shù)據(jù)本應(yīng)是社會(huì)現(xiàn)實(shí)的反映，但如果編程數(shù)據(jù)本身不正確、不完整或過(guò)時(shí)，輸出的結(jié)果則會(huì)以偏概全。我國(guó)的裁判文書(shū)上網(wǎng)制度有待完善，各省關(guān)于類(lèi)案類(lèi)判制度的試點(diǎn)也還存在“數(shù)據(jù)孤島”等“先天不足”，這不可避免地會(huì)損害算法輸出結(jié)果的公平性。其次，算法的設(shè)計(jì)、目的、成功標(biāo)準(zhǔn)、數(shù)據(jù)使用體現(xiàn)了設(shè)計(jì)者、開(kāi)發(fā)者的主觀選擇，他們可能將自己的偏見(jiàn)嵌入算法系統(tǒng)，這導(dǎo)致算法繼承了人類(lèi)決策者的種種偏見(jiàn)。第三，算法決策是在用過(guò)去預(yù)測(cè)未來(lái)，而過(guò)去的歧視可能會(huì)在算法中得到鞏固并在未來(lái)得到加強(qiáng)，因?yàn)殄e(cuò)誤輸入形成的錯(cuò)誤輸出作為反饋，將進(jìn)一步加深錯(cuò)誤。第四，算法決策不僅會(huì)將過(guò)去的歧視做法代碼化，而且會(huì)創(chuàng)造自己的現(xiàn)實(shí)，形成一個(gè)“自我實(shí)現(xiàn)的歧視性反饋循環(huán)”。

二、算法歧視的治理難點(diǎn)

人工智能的算法決策具有典型的“黑箱”特點(diǎn)，連設(shè)計(jì)者可能都不知道算法如何決策，要在系統(tǒng)中發(fā)現(xiàn)有沒(méi)有存在歧視和歧視根源，在技術(shù)上非常困難。如果按照現(xiàn)有的法律責(zé)任規(guī)則，由于系統(tǒng)的自主學(xué)習(xí)、決策能力很強(qiáng)，它的開(kāi)發(fā)者無(wú)法預(yù)測(cè)最終將輸出什么結(jié)果，那么黑箱的存在難以查找事故原因，將不可避免地產(chǎn)生責(zé)任鴻溝。除了如何通過(guò)設(shè)計(jì)確保算法和人工智能系統(tǒng)的公平性外，算法的治理難點(diǎn)還有以下方面。

首先，法律工具主義思維盛行。工具主義是指將各種科技成果視為解決人類(lèi)問(wèn)題、增強(qiáng)人類(lèi)能力的工具，其在法律領(lǐng)域是實(shí)用主義法律觀的體現(xiàn)。電腦量刑、類(lèi)案類(lèi)判輸出的結(jié)果之所以往往為民眾質(zhì)疑，是因?yàn)橹恢v手段不問(wèn)目的的工具主義割裂了法律和道德的關(guān)系，導(dǎo)致輸出結(jié)果無(wú)法取得社會(huì)認(rèn)同。工具理性取代價(jià)值理性的弊端在現(xiàn)代化早期已經(jīng)暴露無(wú)遺了，技術(shù)本身并不是目的，也無(wú)法自動(dòng)形成自己的目的。

其次，算法的透明性問(wèn)題難以公開(kāi)。算法的輸出是“黑箱”過(guò)程，即便人工智能最終的應(yīng)用出現(xiàn)嚴(yán)重后果，算法的過(guò)程也無(wú)從得知。人們無(wú)法判斷損害到底如何造成、更不清楚算法本身是如何編寫(xiě)的。對(duì)于掌握先進(jìn)科技的企業(yè)而言，算法往往屬于企業(yè)的“商業(yè)秘密”，是受到法律名正言順保護(hù)的“黑箱”。當(dāng)利用犯罪風(fēng)險(xiǎn)評(píng)估軟件對(duì)犯罪嫌疑人進(jìn)行評(píng)估時(shí)，決定司法判決結(jié)果的就不再是規(guī)則，而是代碼。而編程人員將既定規(guī)則寫(xiě)進(jìn)代碼時(shí)，不可避免地會(huì)對(duì)這些規(guī)則進(jìn)行調(diào)整，但公眾、官員以及法官并不知曉，無(wú)從審查嵌入到自主決策系統(tǒng)中的規(guī)則的透明性、可責(zé)性以及準(zhǔn)確性。在缺乏必要的問(wèn)責(zé)機(jī)制的情況下，無(wú)法矯正的算法歧視對(duì)刑事司法是一種嘲諷。

第三，運(yùn)用法律規(guī)制算法歧視在操作層面還需考慮以下方面：第一，公平可以量化、形式化嗎？如何被翻譯成操作性的算法？第二，公平被量化為計(jì)算問(wèn)題會(huì)帶來(lái)風(fēng)險(xiǎn)嗎？第三，如果公平是機(jī)器學(xué)習(xí)和人工智能的目標(biāo)，誰(shuí)來(lái)決定公平的考量因素？第四，如何讓算法、機(jī)器學(xué)習(xí)、人工智能具有公平理念，自主意識(shí)到數(shù)據(jù)挖掘和處理中的歧視問(wèn)題？

三、通向公正的算法規(guī)制

篇7

互聯(lián)網(wǎng)時(shí)代不但提供了各種迅速匯聚信息的搜索引擎，也為人與人之間的

溝通帶來(lái)前人難以想象的便利，在中國(guó)更是興起了以馬云為成功典范、全民狂歡式的O2O（Online to Offline 線上線下模式）的電商經(jīng)濟(jì)。這是我們的時(shí)代，它造就了我們的生存方式。然而，對(duì)于互聯(lián)網(wǎng)時(shí)代的批判與反思都尚且無(wú)法塵埃落定之際，阿爾法狗大敗李世石的棋局也讓全世界對(duì)人類(lèi)未來(lái)有了更新的認(rèn)知：無(wú)論我們是否已經(jīng)做好準(zhǔn)備（顯然大多數(shù)人沒(méi)有），人工智能所裹挾的未來(lái)似乎已經(jīng)降臨。

在西方文學(xué)史上，我們能清晰地觸摸到技術(shù)的烙印：漫長(zhǎng)的中世紀(jì)是19世紀(jì)浪漫主義者眼中的黃金時(shí)代，是他們的鄉(xiāng)愁與烏托邦。盡管征戰(zhàn)連連，普通民眾的生存條件惡劣，但那畢竟是持續(xù)了千年的“穩(wěn)定”狀態(tài)。在這樣的時(shí)代，生活的變革并不劇烈，一個(gè)人的世界就是父輩口中的那個(gè)世界，它不會(huì)在某一天變得全然陌生。這是工業(yè)時(shí)代（機(jī)械時(shí)代）對(duì)農(nóng)耕時(shí)代的緬懷。而我們的時(shí)代給世界帶來(lái)的“陌生化”，比起工業(yè)時(shí)代而言則有過(guò)之而無(wú)不及。技術(shù)的頻繁更新（各種補(bǔ)丁、最新版本的下載通知）僅僅是其“變革”力量的冰山一角而已。一方面是剛剛用熟的工具，還沒(méi)變得趁手，已然變幻了模樣；另一方面，則是我們自身隨之發(fā)生的改變。以博客―微博―微信朋友圈的更新為例：僅僅在十年之內(nèi)，無(wú)論空間距離如何遙遠(yuǎn)，人們的即時(shí)交流已經(jīng)如此方便，而人的表達(dá)方式也已經(jīng)全然不同。這一點(diǎn)，從行文篇幅急劇縮短、配圖的日益豐富都表露無(wú)遺。同樣是互聯(lián)網(wǎng)，為人的各種煩瑣事務(wù)決策提供了充分的信息源，但是海德格爾有關(guān)人在技術(shù)時(shí)代被“預(yù)置”的擔(dān)憂卻成為事實(shí)：一位母親在為自己的孩子挑選保姆之際，可能非常感謝家政公司的清晰網(wǎng)頁(yè)與詳盡資料，但是“保姆超市”這一稱(chēng)謂卻很可能讓她備感不適，同時(shí)讓她真切體會(huì)到自己也不過(guò)是一堆“人力資源”資料中一紙信息而已。事實(shí)上，我們的父輩已經(jīng)親歷了科技所能帶來(lái)的巨大社會(huì)變革：網(wǎng)絡(luò)和手機(jī)上網(wǎng)。很多老年人無(wú)法像年輕人一樣熟練地操作電子產(chǎn)品，但是他們的生活由此所受到的沖擊一點(diǎn)也不比年輕人少，而且這種沖擊很可能是以負(fù)面影響居多。木心的《從前慢》一詩(shī)如果從這個(gè)方向來(lái)解讀，就絕非是對(duì)前網(wǎng)絡(luò)時(shí)代的浪漫主義抒懷，而是今天很多老年人心境的真實(shí)寫(xiě)照，他們?cè)诰W(wǎng)絡(luò)生活面前手足無(wú)措，并日益與年輕一代隔絕。他們用了將近一生的時(shí)間來(lái)熟悉、學(xué)習(xí)并參與其建造的那個(gè)世界消失了，或者忽然之間陌生了。

比起互聯(lián)網(wǎng)時(shí)代，人工智能時(shí)代帶給世界的變化會(huì)更加劇烈和難以想象。無(wú)論是否正視人工智能的發(fā)展前景及其對(duì)人類(lèi)的影響，任何人類(lèi)在技術(shù)上的重大突破，首先給予普通受眾的就是心理上的強(qiáng)烈沖擊，簡(jiǎn)言之，就是從對(duì)待天方夜譚式的不相信，到親見(jiàn)親歷的難以相信和恐懼，然后再到習(xí)以為常。在交通工具的發(fā)明史上，是蒸汽火車(chē)與馬車(chē)的競(jìng)賽，第一架飛機(jī)的試飛；在溝通交流的發(fā)明史上，是貝爾的電話；在毀滅性武器的發(fā)明史上，則是廣島的原子彈投放。強(qiáng)人工智能與超人工智能的出現(xiàn)所引發(fā)的心理地震，可能遵循的是同一條曲線。

雖然棋種不同，機(jī)器人戰(zhàn)勝?lài)?guó)手的新聞，二十年前早有報(bào)道。而阿爾法狗引發(fā)的大量討論與關(guān)注，其焦點(diǎn)并非是它所代表的精于計(jì)算的弱人工智能（在某個(gè)特定領(lǐng)域遠(yuǎn)遠(yuǎn)超越人類(lèi)但是能為人類(lèi)所用），而是在它之后可能出現(xiàn)的強(qiáng)人工智能（機(jī)器在哲學(xué)的意義上變得和人一樣：擁有自覺(jué)意識(shí)的機(jī)器）與超人工智能（人類(lèi)無(wú)法想象之物，或人類(lèi)全新的存在形式，比如人機(jī)一體）。它們不僅涉及非常棘手的人機(jī)之間的倫理問(wèn)題，而且會(huì)帶來(lái)一個(gè)人類(lèi)進(jìn)程上前所未有的悖論：我們像上帝一樣創(chuàng)造了某物，但是它遠(yuǎn)遠(yuǎn)比我們強(qiáng)大，并可能在極短的時(shí)間內(nèi)成為遠(yuǎn)遠(yuǎn)超乎我們的理解與想象的某物：“像神一樣地永生還是像恐龍一樣徹底毀滅?！边@樣的形而上命題在不久的將來(lái)很有可能成為現(xiàn)實(shí)；換言之，人類(lèi)正在創(chuàng)造一個(gè)不可知的上帝。另外，如果人類(lèi)可以造出和自己一樣的、甚至迅速超越自己的機(jī)器，那么人類(lèi)自身是否也是被造出的機(jī)器，人類(lèi)文明的發(fā)展史，在這些發(fā)展史之中所結(jié)晶的人文主義者所珍視的一切，是否是某個(gè)被預(yù)置的實(shí)驗(yàn)結(jié)果？

根據(jù)強(qiáng)人工智能領(lǐng)域相關(guān)專(zhuān)家的保守估計(jì)，強(qiáng)人工智可能在2075年實(shí)現(xiàn)。這場(chǎng)變革很可能為我們以及我們的下一代所親見(jiàn)與親歷。難怪跨學(xué)科的杰出人物弗諾?文奇（Vernor Vinge）說(shuō)，“我們正站在變革的邊緣，而這次變革將和人類(lèi)的出現(xiàn)一般意義重大。”當(dāng)然，從另一個(gè)角度（技術(shù)的不可靠）而言，前文所提出的問(wèn)題也會(huì)被非常干脆地一筆勾銷(xiāo)：不需要等到超人工智能的出現(xiàn)，僅僅是忠實(shí)執(zhí)行人類(lèi)指令的弱人工智能就可能將人類(lèi)消滅。我國(guó)翻譯出版的第一部西方短篇科幻小說(shuō)集《魔鬼三角與UFO》所選的《機(jī)器人“俾斯麥”》說(shuō)的正是這樣的故事：想要減肥的一家人，定制了一個(gè)機(jī)器人，想用它超強(qiáng)的執(zhí)行力監(jiān)督全家的減肥進(jìn)程。故事的結(jié)尾不難想象，機(jī)器人為了徹底執(zhí)行“減肥”這一任務(wù)，在房屋周?chē)贾昧穗娋W(wǎng)，一家人誰(shuí)也出不去，最終因反抗機(jī)器人的專(zhuān)制而死于非命。

二

英國(guó)系列短劇《黑鏡》（The Black Mirror）是當(dāng)代反烏托邦的代表之作，其中討論人工智能的單元非常有趣?？萍紗?wèn)題是這部在豆瓣上評(píng)價(jià)甚高的系列劇關(guān)注的主題之一。不僅是網(wǎng)絡(luò)時(shí)代的諸種面相在《黑鏡》系列中得到了戲劇性的展示，比如偷窺、“屏蔽”等等；人工智能在人類(lèi)生活中可能存在的形式、對(duì)人類(lèi)生活可能造成的影響也在該劇中得到極富戲劇形式的展現(xiàn)。它們大致可歸納為三個(gè)主題，分別與第一季第三集（《關(guān)于你的一切》）、第二季第一集（《馬上回來(lái)》）和第二季圣誕特別篇《白色圣誕》相對(duì)應(yīng)。盡管第一季第二集（《1500萬(wàn)的價(jià)值》）是以一個(gè)虛擬未來(lái)為故事背景的，但是在科幻外殼之下，它的主題仍然是商業(yè)利益對(duì)于個(gè)人自由的收買(mǎi)，并從另一個(gè)角度提示了資本與技術(shù)結(jié)合的巨大能量。在下文討論的三個(gè)劇集中，編劇對(duì)科技所持的批判與悲觀立場(chǎng)固然一覽無(wú)余，但僅僅停留在這種悲觀立場(chǎng)的解讀顯然是不充分的；由這些劇集所提出和所形成的一些有關(guān)科技的“文學(xué)”（影視）敘事模式，以及它們所引發(fā)的一些問(wèn)題仍然值得更一步的討論。

意識(shí)復(fù)制：金屬容器里的人類(lèi)意識(shí)副本

《白色圣誕》的敘事采用了俄羅斯套娃的模式，包含了好幾個(gè)故事，其中討論的人工智能是這部系列劇中最令人感到恐怖的。雖然這種技術(shù)有幾種實(shí)施方式，但其核心就是意識(shí)與身體的分離――意識(shí)的復(fù)制。當(dāng)然，劇中也涉及智能眼這種與記憶粒類(lèi)似的植入人體的人工智能，因前文已做討論，這里不再贅述。人的意識(shí)可以被復(fù)制，而且在未來(lái)這只不過(guò)是一個(gè)小手術(shù)而已。在該劇的第二個(gè)故事中，一位女子就做了這個(gè)手術(shù)。復(fù)制的意識(shí)被安置在一個(gè)蛋形金屬容器內(nèi)，在專(zhuān)業(yè)人員的“調(diào)教”下，“它”明白了自己的使命：為“自己”服務(wù)！或者說(shuō)，為那個(gè)被復(fù)制的意識(shí)與身體服務(wù)！這真是關(guān)于人的“自我奴役”的最佳隱喻與諷刺了。而且，這種意識(shí)復(fù)制也給哲學(xué)家制造了很大的難題。人是因?yàn)槠渚窳α勘环Q(chēng)之為人的。而被復(fù)制的意識(shí)在人的倫理學(xué)中應(yīng)該占據(jù)一種什么樣的位置呢？人可以毫無(wú)顧慮地讓自己的意識(shí)為自己服務(wù)嗎？或者使其成為最完美的奴役？因?yàn)檫@個(gè)被復(fù)制的意識(shí)是最了解它曾經(jīng)所屬的身體所需的。

最后的那個(gè)故事，則是專(zhuān)業(yè)人員如何誘使一個(gè)殺人犯承認(rèn)自己的罪行。殺人犯的意識(shí)被復(fù)制出來(lái)，同樣盛放在蛋形金屬容器里面。專(zhuān)業(yè)技術(shù)人員為被復(fù)制的意識(shí)虛擬了一個(gè)場(chǎng)景，就是案發(fā)現(xiàn)場(chǎng)的木屋，并且虛擬了時(shí)間，他自己的意識(shí)也進(jìn)入其中，以講故事的友好姿態(tài)獲得殺人犯（意識(shí)）的信任，對(duì)方投桃報(bào)李，將罪行的前因后果全都和盤(pán)托出。審問(wèn)金屬容器中的意識(shí)副本，遠(yuǎn)比審問(wèn)現(xiàn)實(shí)中的罪犯本人來(lái)得容易，對(duì)一個(gè)罪犯的囚禁與懲罰，也可以通過(guò)扭曲他的意識(shí)副本的時(shí)間和空間而實(shí)現(xiàn)。顯然，劇中已經(jīng)將人自身與其意識(shí)副本等同，否則意識(shí)副本的懺悔，是無(wú)法用來(lái)給罪犯本人定罪的。

如果說(shuō)前面兩個(gè)故事的人工智能，還讓人保有人的身體，那么《白色圣誕》中的人工智能就走得太遠(yuǎn)，直接將人的意識(shí)從它所屬的身體中復(fù)制剝離開(kāi)。劇中這種技術(shù)的實(shí)施指向兩個(gè)目的：一是為“自己”服務(wù)；二是實(shí)現(xiàn)法制正義，讓罪犯伏法?？剂科渲械膫惱硪饬x，上文所提到的問(wèn)題就會(huì)一再浮現(xiàn)：人是否有權(quán)讓自己的意識(shí)成為這樣的一種奴役？人是否有權(quán)對(duì)他人的意識(shí)做這樣一種處置，即使是一個(gè)罪犯的意識(shí)？顯然，做手術(shù)的女子在得到自我意識(shí)的服務(wù)時(shí)極為享受；但是這份被復(fù)制的意識(shí)，最初是極其抗拒被困在金屬容器中的安排的。

三

拋開(kāi)劇中所涉及的倫理問(wèn)題不談，僅僅著眼于這種技術(shù)本身，也足以讓人隱隱生畏。既然意識(shí)能夠從身體中被復(fù)制或剝離，那么人也同樣可以為自我意識(shí)找到新的身體――像仿真機(jī)器人那樣的身體，或者干脆就是金屬機(jī)器的身體。乍聽(tīng)起來(lái)，這是天方夜譚，但是在現(xiàn)實(shí)生活中，已經(jīng)有人在做將自我意識(shí)上傳到電腦，以到達(dá)“永生”的實(shí)驗(yàn)了。人的脆弱，人的局限很多時(shí)候都體現(xiàn)在肉體上。病痛，衰老對(duì)每一個(gè)人而言都是不可逃脫的命運(yùn)，肉體的衰亡也必定導(dǎo)致意識(shí)的消失。如果意識(shí)脫離身體這種人工智能成為現(xiàn)實(shí)，人的存在方式就有可能發(fā)生根本性的轉(zhuǎn)折。人與機(jī)器之間的界限將變得越來(lái)越模糊。為了拋棄人的脆弱與局限性，人有可能將自身改造為機(jī)器的那種樣式。到那個(gè)時(shí)候，恐怕所有的文學(xué)都不再具有閱讀的價(jià)值，因?yàn)槲膶W(xué)中所描述的，正是肉身與精神兼具的人，是必然從年輕走向衰老的鮮活的身體。

篇8

新事物的發(fā)展會(huì)對(duì)社會(huì)原有規(guī)范產(chǎn)生沖擊，因此社會(huì)規(guī)范需要不斷調(diào)整來(lái)應(yīng)對(duì)這些問(wèn)題。人工智能的出現(xiàn)對(duì)傳統(tǒng)社會(huì)規(guī)范特別是刑法犯罪主體認(rèn)定、罪名設(shè)置等提出了深刻地挑戰(zhàn)。[1]面對(duì)這些刑法應(yīng)該如何應(yīng)對(duì)值得我們深入思考。

一、人工智能對(duì)刑法傳統(tǒng)制度的沖擊

人工智能大致可分為弱人工智能、強(qiáng)人工智能和超人工智能階段。超人工智能在當(dāng)下來(lái)看太過(guò)科幻化，我們暫且不在本文中討論。弱人工智能具有超強(qiáng)的運(yùn)算和學(xué)習(xí)能力，但只能在人類(lèi)設(shè)定的算法程序下實(shí)施著特定動(dòng)作；而強(qiáng)人工智能除了具備弱人工智能的優(yōu)點(diǎn)外還可能像人類(lèi)一樣擁有自主意識(shí)。

（一）弱人工智能對(duì)刑法的影響

1.弱人工智能對(duì)犯罪主體認(rèn)定的沖擊。無(wú)人駕駛汽車(chē)造成的交通案件是人工智能對(duì)犯罪主體認(rèn)定提出挑戰(zhàn)的典型代表。無(wú)人駕駛技術(shù)參與的交通肇事與一般交通肇事在本質(zhì)上是一樣的，唯一的爭(zhēng)論焦點(diǎn)就在于人工智能可否成為交通事故的責(zé)任者。在現(xiàn)行刑法領(lǐng)域內(nèi)，犯罪都是“人”在實(shí)施的，這里的“人”指的是自然人和法人，從目前的刑法條文來(lái)看人工智能不是犯罪構(gòu)成要件中的“人”。[2]無(wú)人駕駛汽車(chē)可以完全由人工智能來(lái)操作，那么在“人”退居幕后的情況下交通肇事的行為是由誰(shuí)實(shí)施的呢？刑法學(xué)上刑事主體的歸責(zé)原則是“無(wú)行為無(wú)犯罪”，如今人工智能仍只是被視為高科技產(chǎn)品，違反交通法規(guī)并不是它的“本意”。既然其沒(méi)有支配行為的意志，將其認(rèn)定為犯罪主體在目前來(lái)看是不合適的。

2.弱人工智能對(duì)罪名設(shè)置的影響。弱人工智能在現(xiàn)階段仍被視為工具，它在特定程序的控制下“聽(tīng)命”于人類(lèi)，這使其很容易被不懷好意之徒利用而成為“得力”的犯罪工具，但是由于人工智能的類(lèi)人化特點(diǎn)使其與傳統(tǒng)的犯罪工具相比大相徑庭，例如有人利用人工智能進(jìn)行在現(xiàn)階段應(yīng)該如何定罪呢？我們發(fā)現(xiàn)現(xiàn)行刑法并沒(méi)有針對(duì)這種行為的罪名設(shè)置，根據(jù)罪刑法定原則無(wú)法對(duì)其定罪。

（二）強(qiáng)人工智能對(duì)刑法的影響

1.人工智能對(duì)主體責(zé)任判斷的沖擊。強(qiáng)人工智能可能像人類(lèi)一樣擁有自主意識(shí)而被賦予主體資格獨(dú)立承擔(dān)刑事責(zé)任，而刑事責(zé)任的承擔(dān)需要分析積極因素和消極因素兩個(gè)方面，積極因素包括罪過(guò)（故意、過(guò)失）、目的等，消極因素包括責(zé)任阻卻事由等，所以說(shuō)刑事責(zé)任的判斷是需要分析主體的主觀意識(shí)的。而主觀意識(shí)往往是不可觀的，在傳統(tǒng)犯罪中我們可以通過(guò)客觀行為判斷出主體的主觀意識(shí)；而強(qiáng)人工智能體的算法邏輯和人類(lèi)的思維邏輯可能是完全不同的，也就是說(shuō)我們無(wú)法通過(guò)客觀行為來(lái)判斷它的主觀意識(shí)，那么在這種情況下我們?cè)撊绾闻袛嗳斯ぶ悄艿闹饔^意識(shí)呢？

2.人工智能對(duì)刑罰制度的影響。人工智能從本質(zhì)上來(lái)講是由特定程序控制的計(jì)算機(jī)。鑒于人工智能心智和形體可分離的特殊性，一旦被賦予刑事主體資格，在人工智能觸犯刑法時(shí)要規(guī)制的是控制它行為的特定程序，而不是該程序的外在載體即計(jì)算機(jī)。因此我們對(duì)人工智能適用刑罰時(shí)，重點(diǎn)是如何限制其程序的自由或者剝奪其程序的生命等。簡(jiǎn)單的切斷電源、斷開(kāi)網(wǎng)絡(luò)或者單純地限制人工智能形體的自由，并不能達(dá)到規(guī)制人工智能的目的，因?yàn)槿斯ぶ悄艿某绦蚴怯深A(yù)先輸入的命令語(yǔ)句所決定的，以上措施可使人工智能體暫時(shí)無(wú)法工作但是其內(nèi)在特定程序并未改變，在接通電源和網(wǎng)絡(luò)或者解除對(duì)其自由地限制后很難保證其不會(huì)犯同樣的罪行。

二、人工智能時(shí)代刑法的制度重構(gòu)

（一）刑法對(duì)弱人工智能階段所產(chǎn)生問(wèn)題的回應(yīng)

1.刑法關(guān)于弱人工智能對(duì)犯罪主體認(rèn)定帶來(lái)的沖擊的回應(yīng)

以無(wú)人駕駛汽車(chē)造成的交通肇事案件為例，按照“無(wú)行為無(wú)犯罪”的傳統(tǒng)刑法規(guī)則原則來(lái)看，似乎傳統(tǒng)意義上的肇事者已經(jīng)“難覓蹤跡”了。[3]筆者認(rèn)為，可以從如下方面來(lái)應(yīng)對(duì)人工智能對(duì)犯罪主體認(rèn)定帶來(lái)的沖擊：

（1）以交通肇事罪追究無(wú)人駕駛汽車(chē)使用者的責(zé)任。在無(wú)人駕駛汽車(chē)的行駛中，雖然無(wú)人駕駛汽車(chē)主要靠車(chē)內(nèi)智能駕駛儀來(lái)實(shí)現(xiàn)車(chē)輛的行駛，但這并不是說(shuō)免除了使用者的一切注意義務(wù)，特別是車(chē)輛在情況復(fù)雜的道路上行駛時(shí)，使用者更要盡到注意義務(wù)，若是由于使用者未盡到注意義務(wù)造成重大交通事故，則可以交通肇事罪追究無(wú)人駕駛汽車(chē)使用者的責(zé)任。

（2）以產(chǎn)品犯罪追究無(wú)人駕駛汽車(chē)生產(chǎn)者和銷(xiāo)售者的責(zé)任。在現(xiàn)階段無(wú)人駕駛汽車(chē)仍被當(dāng)做產(chǎn)品來(lái)看待，那么無(wú)人駕駛汽車(chē)的生產(chǎn)者和銷(xiāo)售者就要為此承擔(dān)一定程度的產(chǎn)品質(zhì)量保證責(zé)任，如果不是由于現(xiàn)有技術(shù)瓶頸，而是無(wú)人駕駛汽車(chē)存在質(zhì)量問(wèn)題導(dǎo)致重大交通事故的發(fā)生，則可以生產(chǎn)銷(xiāo)售偽劣產(chǎn)品罪等產(chǎn)品犯罪來(lái)追究生產(chǎn)者和銷(xiāo)售者的責(zé)任。[4]

（3）由社會(huì)保險(xiǎn)來(lái)承擔(dān)責(zé)任。如果說(shuō)該事故是由于當(dāng)下技術(shù)瓶頸等非人為因素造成的，是社會(huì)發(fā)展所帶來(lái)的風(fēng)險(xiǎn)。[5]那么此時(shí)可以選擇由社會(huì)保險(xiǎn)來(lái)承擔(dān)這份責(zé)任。

2.刑法關(guān)于弱人工智能對(duì)罪名設(shè)置影響的回應(yīng)。針對(duì)可能有人利用人工智能犯罪而法無(wú)明文規(guī)定的情況，在罪名設(shè)置方面有增設(shè)新的罪名或者對(duì)傳統(tǒng)刑法罪名進(jìn)行修正兩種方案。增設(shè)新的罪名如“濫用人工智能罪”等口袋罪名，在人工智能的外延尚未徹底界定清楚的情況下貿(mào)然增設(shè)口袋罪會(huì)顯得過(guò)于寬泛而無(wú)法準(zhǔn)確定罪量刑。鑒于此筆者認(rèn)為可以對(duì)傳統(tǒng)刑法罪名作出針對(duì)性修改使其可以囊括該種類(lèi)型的犯罪行為，這樣就可以達(dá)到制裁此類(lèi)犯罪維護(hù)社會(huì)秩序的目的。

（二）刑法對(duì)強(qiáng)人工智能階段所產(chǎn)生問(wèn)題的回應(yīng)

1.強(qiáng)人工智能階段刑法對(duì)人工智能主體責(zé)任判斷的回應(yīng)。上文中我們提到由于人工智能的特殊性我們可能無(wú)法通過(guò)傳統(tǒng)方式分析出它的主觀意識(shí)。[6]對(duì)于此筆者認(rèn)為，既然人工智能是由算法程序控制的，我們不妨通過(guò)探究算法邏輯并摸索出算法程序的特點(diǎn)，進(jìn)而通過(guò)分析人工智能的算法程序來(lái)判斷它的主觀意識(shí)，最終得出其應(yīng)當(dāng)承擔(dān)的刑事責(zé)任。

2.強(qiáng)人工智能階段刑法對(duì)人工智能刑罰制度的回應(yīng)。由于人工智能體的特殊性，現(xiàn)行刑罰制度無(wú)法對(duì)其直接適用，因此我們需要?jiǎng)?chuàng)造出針對(duì)人工智能程序的特有刑罰。比如我們可以考慮通過(guò)更高級(jí)別的命令語(yǔ)句修改或者重新編寫(xiě)其程序，以此降低或者終止它的學(xué)習(xí)和運(yùn)算能力，這樣就可以達(dá)到規(guī)制人工智能程序的目的。

結(jié)語(yǔ)

人工智能已全面參與到我們的生產(chǎn)生活之中，并對(duì)我們的現(xiàn)行社會(huì)規(guī)范產(chǎn)生了深刻的影響，刑法作為人類(lèi)社會(huì)穩(wěn)定的重要調(diào)節(jié)器受到了人工智能的多方面挑戰(zhàn)。因此刑法需要做出針對(duì)性的改變，盡量減少人工智能對(duì)人類(lèi)社會(huì)造成的消極影響并讓其更好的服務(wù)于人類(lèi)的當(dāng)下與未來(lái)。

參考文獻(xiàn) 

[1] 王軍：《人工智能的倫理問(wèn)題：挑戰(zhàn)與應(yīng)對(duì)》，載《倫理學(xué)研究》2018年第4期。 

[2] 何麗：《基于人工智能視域下的法律主體研究》，載《政法學(xué)刊》2018年第3期。 

[3] 譚釗：《淺談無(wú)人駕駛汽車(chē)的前景和面臨的挑戰(zhàn)》，載《東方法學(xué)》2017年第8期。 

[4] 林偉杰：《產(chǎn)品質(zhì)量法釋義》，中國(guó)民藝出版社2006年4月版。 

篇9

一、人工智能技術(shù)的定義及其技術(shù)特點(diǎn)

（1）人工智能技術(shù)是指通過(guò)計(jì)算機(jī)的算法對(duì)人腦控制人類(lèi)的活動(dòng)進(jìn)行技術(shù)模擬，發(fā)出與人類(lèi)行為相似的系統(tǒng)指令，從而能夠解決傳統(tǒng)學(xué)科難以解決的問(wèn)題。人工智能技術(shù)作為一門(mén)新興的學(xué)科，不僅包含數(shù)學(xué)、計(jì)算機(jī)學(xué)等傳統(tǒng)學(xué)科，也包括了哲學(xué)、心理學(xué)、倫理學(xué)等學(xué)科。因此，人工智能技術(shù)可以說(shuō)是全面地模擬人腦，以期達(dá)到人腦控制下的行為反應(yīng)，最終達(dá)到單純依靠機(jī)械來(lái)完成高危險(xiǎn)、復(fù)雜的工作。（2）人工智能最大的技術(shù)特點(diǎn)即為可以利用計(jì)算機(jī)模擬運(yùn)算來(lái)達(dá)到人腦思考的效果。與人腦思考相比，人工智能技術(shù)能夠更有效地進(jìn)行信息的采集、問(wèn)題的分析與處理，在這種優(yōu)勢(shì)的促進(jìn)下，復(fù)雜的腦力活動(dòng)將逐漸被計(jì)算機(jī)的智能運(yùn)算所代替。通過(guò)這種方式，可以極大的減少人力勞動(dòng)與人力成本的資源投入，同時(shí)提高工作效率，實(shí)現(xiàn)產(chǎn)業(yè)結(jié)構(gòu)的優(yōu)化配置，最終提高生產(chǎn)力的發(fā)展水平。

二、人工智能在電氣自動(dòng)化控制中的應(yīng)用

如何保證電氣設(shè)備有條不紊地運(yùn)轉(zhuǎn)一直是電氣自動(dòng)化領(lǐng)域中亟須解決的問(wèn)題，然而這個(gè)問(wèn)題本身具有極大的復(fù)雜性，電氣自動(dòng)化控制領(lǐng)域中的人才培養(yǎng)十分不宜且后備力量嚴(yán)重不足。而人工智能技術(shù)的出現(xiàn)則有效的緩解了人才缺乏的壓力，通過(guò)計(jì)算機(jī)的智能運(yùn)算，可以有效的代替人腦對(duì)電氣產(chǎn)品進(jìn)行設(shè)計(jì)，而且當(dāng)電氣自動(dòng)化工作過(guò)程中出現(xiàn)問(wèn)題時(shí)，計(jì)算機(jī)也會(huì)及時(shí)做出反應(yīng)。在電氣自動(dòng)化控制領(lǐng)域中實(shí)施人工智能技術(shù)，可以有效的降低生產(chǎn)成本，實(shí)現(xiàn)電氣系統(tǒng)控制下生產(chǎn)結(jié)構(gòu)的優(yōu)化。（1）電氣類(lèi)產(chǎn)品設(shè)計(jì)時(shí)，人工智能可以對(duì)產(chǎn)品設(shè)計(jì)進(jìn)行優(yōu)化。由于傳統(tǒng)的設(shè)計(jì)方式在前期會(huì)有一個(gè)漫長(zhǎng)的產(chǎn)品試驗(yàn)過(guò)程，需通過(guò)歸納法得到相關(guān)設(shè)計(jì)經(jīng)驗(yàn)后再由產(chǎn)品設(shè)計(jì)師進(jìn)行手工完成，而這一過(guò)程很難達(dá)到產(chǎn)品預(yù)期的效果，且前期的試驗(yàn)與后期的制作方式都需要投入大量的人力物力與財(cái)力，所以，這樣的生產(chǎn)方式顯然不適用于當(dāng)今社會(huì)科技快速發(fā)展的需要。人工智能技術(shù)的加入極大的改善了這種情況，優(yōu)化了產(chǎn)品的設(shè)計(jì)過(guò)程。首先，CAD等電腦設(shè)計(jì)系統(tǒng)軟件的出現(xiàn)，輔助人們進(jìn)行前期產(chǎn)品的試驗(yàn)，由于計(jì)算機(jī)相比于人腦具有準(zhǔn)確率高、運(yùn)算快速等特點(diǎn)，因此這一前期的試驗(yàn)周期得到了極大的縮短。（2）面對(duì)電氣自動(dòng)化控制過(guò)程中出現(xiàn)的故障與事故，人工智能技術(shù)可以及時(shí)預(yù)防與解決問(wèn)題。人工智能技術(shù)的出現(xiàn)與發(fā)展則有效地改善了這種情況，特別是處理在變壓器、發(fā)動(dòng)機(jī)等問(wèn)題上，人工智能技術(shù)的表現(xiàn)尤為突出。例如，如果變壓器工作不暢，出現(xiàn)故障時(shí)，早期的解決方法一般是先對(duì)變壓器產(chǎn)生的氣體進(jìn)行收集、提取，然后分析得到的氣體，最后根據(jù)分析得出的結(jié)論來(lái)判斷故障出現(xiàn)的原因。這種方法不僅耗費(fèi)大量人力與財(cái)力，最重要的是分析問(wèn)題的周期相當(dāng)長(zhǎng)，此外，這種解決方法并不能保持一個(gè)較高的準(zhǔn)確率，一旦出現(xiàn)不到位的診斷，后果不堪設(shè)想。人工智能技術(shù)則不會(huì)出現(xiàn)這種問(wèn)題，計(jì)算機(jī)會(huì)根據(jù)專(zhuān)家的技術(shù)指導(dǎo)與平常機(jī)器故障的樣本收集，對(duì)所產(chǎn)生的問(wèn)題進(jìn)行及時(shí)有效的分析，最終生成解決方案，不僅可以提高分析問(wèn)題的準(zhǔn)確率，也可以縮短分析問(wèn)題的周期，全面的提高處理問(wèn)題的效率。（3）人工智能技術(shù)可以簡(jiǎn)化電氣自動(dòng)化的控制流程。電氣自動(dòng)化領(lǐng)域的操作流程非常的繁瑣，對(duì)于操作的步驟要求也非常嚴(yán)格，一旦出現(xiàn)細(xì)微的操作問(wèn)題，則可能引起嚴(yán)重的機(jī)器故障發(fā)生，并造成無(wú)法估量的損失。如何保證電氣設(shè)備能夠有效穩(wěn)定的運(yùn)作，并在控制過(guò)程中盡量實(shí)現(xiàn)操作的簡(jiǎn)單化、程序化是每個(gè)研究人員關(guān)心的難題。人工智能技術(shù)的出現(xiàn)與發(fā)展有效的解決了這個(gè)難題，通過(guò)對(duì)日常資料的儲(chǔ)存與分析，可以在機(jī)器發(fā)生事故時(shí)采取有效及時(shí)的措施，最大程度上保證社會(huì)的和諧發(fā)展。此外，人工智能技術(shù)通過(guò)對(duì)電氣設(shè)備的遠(yuǎn)端操控，實(shí)現(xiàn)了控制流程的簡(jiǎn)單化、程序化，方便技術(shù)人員對(duì)電氣設(shè)備進(jìn)行定期的檢查與維修，節(jié)約時(shí)間的同時(shí)，也降低運(yùn)行成本。

三、總結(jié)

計(jì)算機(jī)技術(shù)的發(fā)展促進(jìn)了人工智能技術(shù)的不斷創(chuàng)新與發(fā)展，這項(xiàng)技術(shù)已經(jīng)在社會(huì)各個(gè)領(lǐng)域中起到了極大的作用，方便了人們的生活，并不斷促進(jìn)社會(huì)進(jìn)步。電氣自動(dòng)化控制行業(yè)與居民的安定生活、社會(huì)的和諧發(fā)展息息相關(guān)，因此更應(yīng)大力發(fā)展人工智能技術(shù)。本文主要闡述了人工智能技術(shù)的定義特點(diǎn)以及在電氣自動(dòng)化控制中的具體應(yīng)用，希望能為我國(guó)的電氣設(shè)備的發(fā)展上提供幫助。

參 考 文 獻(xiàn)

篇10

提到機(jī)器人法則，你第一時(shí)間想到的，可能是科幻作家阿西莫夫在短篇小說(shuō)集《我，機(jī)器人》中描述的機(jī)器人三定律：一，機(jī)器人不得傷害人類(lèi)，或袖手旁觀坐視人類(lèi)受到傷害；二，除非違背第一法則，否則機(jī)器人必須服從人類(lèi)的命令；三，除非違背第一、二法則，否則機(jī)器人必須保護(hù)自己。

阿西莫夫的機(jī)器人三定律就因其高度的概括性和嚴(yán)密的邏輯而為人稱(chēng)道，被許多科幻作品引用并發(fā)揚(yáng)光大。連現(xiàn)代人工智能的研究亦多考慮此法則，甚至將其應(yīng)用在實(shí)際開(kāi)發(fā)中。但阿西莫夫設(shè)計(jì)法則的本意并非要證明其完美無(wú)缺，恰恰相反，他在小說(shuō)中不斷探討上述法則的局限性，引導(dǎo)讀者思考這樣的問(wèn)題：機(jī)器人與人類(lèi)到底應(yīng)當(dāng)以怎樣的方式共處？機(jī)器人是否可能擁有靈魂，而不只是徒具人類(lèi)外形的機(jī)器？如果一個(gè)機(jī)器人有了靈魂，那么它是否仍應(yīng)服從這些法則？

在《機(jī)器紀(jì)元》中所設(shè)置的二法則，隱含了與阿西莫夫的機(jī)器人三定律完全不同的意味。機(jī)器人三定律并未限制機(jī)器人的自我完善和自我發(fā)展，而是明確規(guī)定了機(jī)器人對(duì)人類(lèi)的從屬地位。《機(jī)器紀(jì)元》的二法則別出心裁：一方面，沒(méi)有要求機(jī)器人必須完全服從人類(lèi)；另一方面，不能傷害的對(duì)象并未指定人類(lèi)，而是要求不得傷害任何生命。一個(gè)具有了自己的意志和靈魂的機(jī)器人是不是生命？如果必須在傷害人類(lèi)和傷害這樣的機(jī)器人之間做選擇的話，應(yīng)當(dāng)如何選擇？

電影中的人類(lèi)采用了簡(jiǎn)單粗暴的辦法：限制機(jī)器人的應(yīng)用、限制機(jī)器人的自我發(fā)展，不讓機(jī)器人去考慮人與機(jī)器人孰輕孰重，更不讓機(jī)器人有機(jī)會(huì)發(fā)展出自己的意志與靈魂。

False Tale

無(wú)所適從的定義

其實(shí)，無(wú)論阿西莫夫的機(jī)器人三定律，還是《機(jī)器紀(jì)元》的二法則，都有一個(gè)很明顯的問(wèn)題：以不得傷害人類(lèi)為例，這條法則沒(méi)有定義清楚什么是傷害，怎樣的程度是傷害，怎樣就不是?？赡芤恍┤擞X(jué)得在機(jī)器人的監(jiān)督下鍛煉身體有益身心健康，而另一些人卻會(huì)覺(jué)得每天被機(jī)器人逼著跑步讓人身心俱疲。那么機(jī)器人該怎么做？是聽(tīng)任主人疏于鍛煉，身體受損，還是逼迫主人運(yùn)動(dòng)？

其次，這些法則也沒(méi)有定義清楚，如果機(jī)器人陷入了不得不傷害人類(lèi)的情況時(shí)，應(yīng)當(dāng)如何判斷。例如，假設(shè)未來(lái)機(jī)器人替代人類(lèi)成為汽車(chē)司機(jī)，當(dāng)機(jī)器人司機(jī)在駕車(chē)時(shí)，發(fā)現(xiàn)有人沖上了馬路，剎車(chē)已經(jīng)來(lái)不及了，不改變方向會(huì)撞傷他，而改變方向會(huì)導(dǎo)致車(chē)輛撞上障礙物傷害乘車(chē)者，那么機(jī)器人應(yīng)該如何反應(yīng)？

這就是機(jī)器人三定律及其他類(lèi)似法則所碰到的問(wèn)題。人類(lèi)的道德、倫理、社會(huì)習(xí)慣、心理差異，很難用簡(jiǎn)單的語(yǔ)言概括成型，就連人類(lèi)自己都為此傷透腦筋，更何況只能遵循邏輯來(lái)判斷的機(jī)器人呢？

蹣跚學(xué)步的倫理

篇11

人工智能時(shí)代，網(wǎng)絡(luò)空間安全威脅全面泛化，如何利用人工智能思想和技術(shù)應(yīng)對(duì)各類(lèi)安全威脅，是國(guó)內(nèi)外產(chǎn)業(yè)界共同努力的方向。本報(bào)告從風(fēng)險(xiǎn)演進(jìn)和技術(shù)邏輯的角度，將網(wǎng)絡(luò)空間安全分為網(wǎng)絡(luò)系統(tǒng)安全、網(wǎng)絡(luò)內(nèi)容安全和物理網(wǎng)絡(luò)系統(tǒng)安全三大領(lǐng)域；在此基礎(chǔ)上，本報(bào)告借鑒 Gartner 公司的 ASA 自適應(yīng)安全架構(gòu)模型，從預(yù)測(cè)、防御、檢測(cè)、響應(yīng)四個(gè)維度，提出人工智能技術(shù)在網(wǎng)絡(luò)空間安全領(lǐng)域的具體應(yīng)用模式。與此同時(shí)，本報(bào)告結(jié)合國(guó)內(nèi)外企業(yè)最佳實(shí)踐，詳細(xì)闡釋人工智能賦能網(wǎng)絡(luò)空間安全（AI+安全）的最新進(jìn)展。最后，本報(bào)告提出，人工智能安全將成為人工智能產(chǎn)業(yè)發(fā)展最大藍(lán)海，人工智能的本體安全決定安全應(yīng)用的發(fā)展進(jìn)程，「人工+「智能將長(zhǎng)期主導(dǎo)安全實(shí)踐，人工智能技術(shù)路線豐富將改善安全困境，網(wǎng)絡(luò)空間安全將驅(qū)動(dòng)人工智能?chē)?guó)際合作。

目 錄

第一章 人工智能技術(shù)的發(fā)展沿革

(一) 人工智能技術(shù)的關(guān)鍵階段

(二) 人工智能技術(shù)的驅(qū)動(dòng)因素

(三) 人工智能技術(shù)的典型代表

(四) 人工智能技術(shù)的廣泛應(yīng)用

第二章 網(wǎng)絡(luò)空間安全的內(nèi)涵與態(tài)勢(shì)

(一) 網(wǎng)絡(luò)空間安全的內(nèi)涵

(二) 人工智能時(shí)代網(wǎng)絡(luò)空間安全發(fā)展態(tài)勢(shì)

1、網(wǎng)絡(luò)空間安全威脅趨向智能2、網(wǎng)絡(luò)空間安全邊界開(kāi)放擴(kuò)張3、網(wǎng)絡(luò)空間安全人力面臨不足4、網(wǎng)絡(luò)空間安全防御趨向主動(dòng)

第三章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用模式

(一) AI+安全的應(yīng)用優(yōu)勢(shì)

(二) AI+安全的產(chǎn)業(yè)格局

(三) AI+安全的實(shí)現(xiàn)模式

1、人工智能應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全2、人工智能應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全3、人工智能應(yīng)用于物理網(wǎng)絡(luò)系統(tǒng)安全

第四章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用案例

網(wǎng)絡(luò)系統(tǒng)安全篇

（一）病毒及惡意代碼檢測(cè)與防御

（二）網(wǎng)絡(luò)入侵檢測(cè)與防御

第三章 人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用模式

人工智能技術(shù)日趨成熟，人工智能在網(wǎng)絡(luò)空間安全領(lǐng)域的應(yīng)用（簡(jiǎn)稱(chēng) AI+安全）不僅能夠全面提高網(wǎng)絡(luò)空間各類(lèi)威脅的響應(yīng)和應(yīng)對(duì)速度，而且能夠全面提高風(fēng)險(xiǎn)防范的預(yù)見(jiàn)性和準(zhǔn)確性。因此，人工智能技術(shù)已經(jīng)被全面應(yīng)用于網(wǎng)絡(luò)空間安全領(lǐng)域，在應(yīng)對(duì)智能時(shí)代人類(lèi)各類(lèi)安全難題中發(fā)揮著巨大潛力。

（一）AI+安全的應(yīng)用優(yōu)勢(shì)

人們應(yīng)對(duì)和解決安全威脅，從感知和意識(shí)到不安全的狀態(tài)開(kāi)始，通過(guò)經(jīng)驗(yàn)知識(shí)加以分析，針對(duì)威脅形態(tài)做出決策，選擇最優(yōu)的行動(dòng)脫離不安全狀態(tài)。類(lèi)人的人工智能，正是令機(jī)器學(xué)會(huì)從認(rèn)識(shí)物理世界到自主決策的過(guò)程，其內(nèi)在邏輯是通過(guò)數(shù)據(jù)輸入理解世界，或通過(guò)傳感器感知環(huán)境，然后運(yùn)用模式識(shí)別實(shí)現(xiàn)數(shù)據(jù)的分類(lèi)、聚類(lèi)、回歸等分析，并據(jù)此做出最優(yōu)的決策推薦。

當(dāng)人工智能運(yùn)用到安全領(lǐng)域，機(jī)器自動(dòng)化和機(jī)器學(xué)習(xí)技術(shù)能有效且高效地幫助人類(lèi)預(yù)測(cè)、感知和識(shí)別安全風(fēng)險(xiǎn)，快速檢測(cè)定位危險(xiǎn)來(lái)源，分析安全問(wèn)題產(chǎn)生的原因和危害方式，綜合智慧大腦的知識(shí)庫(kù)判斷并選擇最優(yōu)策略，采取緩解措施或抵抗威脅，甚至提供進(jìn)一步緩解和修復(fù)的建議。這個(gè)過(guò)程不僅將人們從繁重、耗時(shí)、復(fù)雜的任務(wù)中解放出來(lái)，且面對(duì)不斷變化的風(fēng)險(xiǎn)環(huán)境、異常的攻擊威脅形態(tài)比人更快、更準(zhǔn)確，綜合分析的靈活性和效率也更高。

因此，人工智能的「思考和行動(dòng)邏輯與安全防護(hù)的邏輯從本質(zhì)上是自洽的，網(wǎng)絡(luò)空間安全天然是人工智能技術(shù)大顯身手的領(lǐng)域。

（1）基于大數(shù)據(jù)分析的高效威脅識(shí)別：大數(shù)據(jù)為機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法提供源源動(dòng)能，使人工智能保持良好的自我學(xué)習(xí)能力，升級(jí)的安全分析引擎，具有動(dòng)態(tài)適應(yīng)各種不確定環(huán)境的能力，有助于更好地針對(duì)大量模糊、非線性、異構(gòu)數(shù)據(jù)做出因地制宜的聚合、分類(lèi)、序列化等分析處理，甚至實(shí)現(xiàn)了對(duì)行為及動(dòng)因的分析，大幅提升檢測(cè)、識(shí)別已知和未知網(wǎng)絡(luò)空間安全威脅的效率，升級(jí)精準(zhǔn)度和自動(dòng)化程度。

（2）基于深度學(xué)習(xí)的精準(zhǔn)關(guān)聯(lián)分析：人工智能的深度學(xué)習(xí)算法在發(fā)掘海量數(shù)據(jù)中的復(fù)雜關(guān)聯(lián)方面表現(xiàn)突出，擅長(zhǎng)綜合定量分析相關(guān)安全性，有助于全面感知內(nèi)外部安全威脅。人工智能技術(shù)對(duì)各種網(wǎng)絡(luò)安全要素和百千級(jí)維度的安全風(fēng)險(xiǎn)數(shù)據(jù)進(jìn)行歸并融合、關(guān)聯(lián)分析，再經(jīng)過(guò)深度學(xué)習(xí)的綜合理解、評(píng)估后對(duì)安全威脅的發(fā)展趨勢(shì)做出預(yù)測(cè)，還能夠自主設(shè)立安全基線達(dá)到精細(xì)度量網(wǎng)絡(luò)安全性的效果，從而構(gòu)建立體、動(dòng)態(tài)、精準(zhǔn)和自適應(yīng)的網(wǎng)絡(luò)安全威脅態(tài)勢(shì)感知體系。

（3）基于自主優(yōu)化的快速應(yīng)急響應(yīng)：人工智能展現(xiàn)出強(qiáng)大的學(xué)習(xí)、思考和進(jìn)化能力，能夠從容應(yīng)對(duì)未知、變化、激增的攻擊行為，并結(jié)合當(dāng)前威脅情報(bào)和現(xiàn)有安全策略形成適應(yīng)性極高的安全智慧，主動(dòng)快速選擇調(diào)整安全防護(hù)策略，并付諸實(shí)施，最終幫助構(gòu)建全面感知、適應(yīng)協(xié)同、智能防護(hù)、優(yōu)化演進(jìn)的主動(dòng)安全防御體系。

（4）基于進(jìn)化賦能的良善廣域治理：隨著網(wǎng)絡(luò)空間內(nèi)涵外延的不斷擴(kuò)展，人類(lèi)面臨的安全威脅無(wú)論從數(shù)量、來(lái)源、形態(tài)、程度和修復(fù)性上都在超出原本行之有效的分工和應(yīng)對(duì)能力，有可能處于失控邊緣，人工智能對(duì)人的最高智慧的極限探索，也將拓展網(wǎng)絡(luò)治理的理念和方式，實(shí)現(xiàn)安全治理的突破性創(chuàng)新。人工智能不僅能解決當(dāng)下的安全難題，而通過(guò)在安全場(chǎng)景的深化應(yīng)用和檢驗(yàn)，發(fā)現(xiàn)人工智能的缺陷和不足，為下一階段的人工智能發(fā)展和應(yīng)用奠定基礎(chǔ)，指明方向，推動(dòng)人工智能技術(shù)的持續(xù)變革及其更廣域的賦能。

（二）AI+安全的產(chǎn)業(yè)格局

人工智能以其獨(dú)特的優(yōu)勢(shì)正在各類(lèi)安全場(chǎng)景中形成多種多樣的解決方案。從可觀察的市場(chǎng)指標(biāo)來(lái)看，近幾年來(lái)人工智能安全市場(chǎng)迅速成長(zhǎng)， 公司在 2018 年的研究表明，在網(wǎng)絡(luò)安全中人工智能應(yīng)用場(chǎng)景增多，同時(shí)地域覆蓋范圍擴(kuò)大，將進(jìn)一步擴(kuò)大技術(shù)在安全領(lǐng)域的應(yīng)用，因此人工智能技術(shù)在安全市場(chǎng)內(nèi)將快速發(fā)展，預(yù)計(jì)到 2024 年，可用在安全中的人工智能技術(shù)市場(chǎng)規(guī)模將超過(guò) 350 億美元，在 2017-2024 年之間年復(fù)合增長(zhǎng)率（CAGR）可達(dá) 31%。

MarketsandMarkets 公司在 2018 年 1 月的《安全市場(chǎng)中人工智能》報(bào)告則認(rèn)為，2016 年 AI 安全市場(chǎng)規(guī)模就已達(dá) 29.9 億美元、2017 年更是達(dá)到 39.2 億美元，預(yù)測(cè)在 2025 年將達(dá)到 348.1 億美元，年復(fù)合增長(zhǎng)率為 31.38%。而愛(ài)爾蘭的 Research and Markets 公司在 2018 年 4 月份了專(zhuān)門(mén)的市場(chǎng)研究報(bào)告，認(rèn)為到 2023 年人工智能在安全領(lǐng)域應(yīng)用的市場(chǎng)規(guī)模將達(dá) 182 億美元，年復(fù)合增長(zhǎng)率為 34.5%。由于機(jī)器學(xué)習(xí)對(duì)付網(wǎng)絡(luò)犯罪較為有效，因此機(jī)器學(xué)習(xí)作為單一技術(shù)將占領(lǐng)最大的一塊市場(chǎng)，到 2023 年其市場(chǎng)規(guī)模預(yù)計(jì)可達(dá) 60 億美元。

除了傳統(tǒng)安全公司致力于人工智能安全，大型互聯(lián)網(wǎng)企業(yè)也在積極開(kāi)展人工智能安全實(shí)踐，如 Google、Facebook、Amazon、騰訊、阿里巴巴等均在圍繞自身業(yè)務(wù)積極布局人工智能安全應(yīng)用。

（三）AI+安全的實(shí)現(xiàn)模式

人工智能是以計(jì)算機(jī)科學(xué)為基礎(chǔ)的綜合交叉學(xué)科，涉及技術(shù)領(lǐng)域眾多、應(yīng)用范疇廣泛，其知識(shí)、技術(shù)體系實(shí)際與整個(gè)科學(xué)體系的演化和發(fā)展密切相關(guān)。因此，如何根據(jù)各類(lèi)場(chǎng)景安全需求的變化，進(jìn)行 AI 技術(shù)的系統(tǒng)化配置尤為關(guān)鍵。

本報(bào)告采用 Gartner 公司 2014 年提出的自適應(yīng)安全架構(gòu)（ASA，Adaptive SecurityArchitecture）來(lái)分析安全場(chǎng)景中人工智能技術(shù)的應(yīng)用需求，此架構(gòu)重在持續(xù)監(jiān)控和行為分析，統(tǒng)合安全中預(yù)測(cè)、防御、檢測(cè)、響應(yīng)四層面，直觀的采用四象限圖來(lái)進(jìn)行安全建模。其中「預(yù)測(cè)指檢測(cè)安全威脅行動(dòng)的能力；「防御表示現(xiàn)有預(yù)防攻擊的產(chǎn)品和流程；「檢測(cè)用以發(fā)現(xiàn)、監(jiān)測(cè)、確認(rèn)及遏制攻擊行為的手段；「響應(yīng)用來(lái)描述調(diào)查、修復(fù)問(wèn)題的能力。

本報(bào)告將 AI+安全的實(shí)現(xiàn)模式按照階段進(jìn)行分類(lèi)和總結(jié)，識(shí)別各領(lǐng)域的外在和潛在的安全需求，采用 ASA 分析應(yīng)用場(chǎng)景的安全需求及技術(shù)要求，結(jié)合算法和模型的多維度分析， 尋找 AI+安全實(shí)現(xiàn)模式與適應(yīng)條件，揭示技術(shù)如何響應(yīng)和滿足安全需求，促進(jìn)業(yè)務(wù)系統(tǒng)實(shí)現(xiàn)持續(xù)的自我進(jìn)化、自我調(diào)整，最終動(dòng)態(tài)適應(yīng)網(wǎng)絡(luò)空間不斷變化的各類(lèi)安全威脅。

1、人工智能應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全

人工智能技術(shù)較早應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全領(lǐng)域，從機(jī)器學(xué)習(xí)、專(zhuān)家系統(tǒng)以及過(guò)程自動(dòng)化等到如今的深度學(xué)習(xí)，越來(lái)越多的人工智能技術(shù)被證實(shí)能有效增強(qiáng)網(wǎng)絡(luò)系統(tǒng)安全防御：

機(jī)器學(xué)習(xí) (ML， Machine Learning):在安全中使用機(jī)器學(xué)習(xí)技術(shù)可增強(qiáng)系統(tǒng)的預(yù)測(cè)能力，動(dòng)態(tài)防御攻擊，提升安全事件響應(yīng)能力。專(zhuān)家系統(tǒng)（ES， Expert System）：可用于安全事件發(fā)生時(shí)為人提供決策輔助或部分自主決策。過(guò)程自動(dòng)化 (AT， Automation )：在安全領(lǐng)域中應(yīng)用較為普遍，代替或協(xié)助人類(lèi)進(jìn)行檢測(cè)或修復(fù)，尤其是安全事件的審計(jì)、取證，有不可替代的作用。深度學(xué)習(xí)（DL， Deep Learning）：在安全領(lǐng)域中應(yīng)用非常廣泛，如探測(cè)與防御、威脅情報(bào)感知，結(jié)合其他技術(shù)的發(fā)展取得極高的成就。

如圖 3 所示，通過(guò)分析人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全，在四個(gè)層面均可有效提升安全效能：

預(yù)測(cè)：基于無(wú)監(jiān)督學(xué)習(xí)、可持續(xù)訓(xùn)練的機(jī)器學(xué)習(xí)技術(shù)，可以提前研判網(wǎng)絡(luò)威脅，用專(zhuān)家系統(tǒng)、機(jī)器學(xué)習(xí)和過(guò)程自動(dòng)化技術(shù)來(lái)進(jìn)行風(fēng)險(xiǎn)評(píng)估并建立安全基線，可以讓系統(tǒng)固若金湯。

防御：發(fā)現(xiàn)系統(tǒng)潛在風(fēng)險(xiǎn)或漏洞后，可采用過(guò)程自動(dòng)化技術(shù)進(jìn)行加固。安全事件發(fā)生時(shí)，機(jī)器學(xué)習(xí)還能通過(guò)模擬來(lái)誘導(dǎo)攻擊者，保護(hù)更有價(jià)值的數(shù)字資產(chǎn)，避免系統(tǒng)遭受攻擊。

檢測(cè)：組合機(jī)器學(xué)習(xí)、專(zhuān)家系統(tǒng)等工具連續(xù)監(jiān)控流量，可以識(shí)別攻擊模式，實(shí)現(xiàn)實(shí)時(shí)、無(wú)人參與的網(wǎng)絡(luò)分析，洞察系統(tǒng)的安全態(tài)勢(shì)，動(dòng)態(tài)靈活調(diào)整系統(tǒng)安全策略，讓系統(tǒng)適應(yīng)不斷變化的安全環(huán)境。

響應(yīng)：系統(tǒng)可及時(shí)將威脅分析和分類(lèi)，實(shí)現(xiàn)自動(dòng)或有人介入響應(yīng)，為后續(xù)恢復(fù)正常并審計(jì)事件提供幫助和指引。

因此人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)系統(tǒng)安全，正在改變當(dāng)前安全態(tài)勢(shì)，可讓系統(tǒng)彈性應(yīng)對(duì)日益細(xì)化的網(wǎng)絡(luò)攻擊。在安全領(lǐng)域使用人工智能技術(shù)也會(huì)帶來(lái)一些新問(wèn)題，不僅有人工智能技術(shù)用于網(wǎng)絡(luò)攻擊等伴生問(wèn)題，還有如隱私保護(hù)等道德倫理問(wèn)題，因此還需要多種措施保證其合理應(yīng)用。總而言之，利用機(jī)器的智慧和力量來(lái)支持和保障網(wǎng)絡(luò)系統(tǒng)安全行之有效。

2、人工智能應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全

人工智能技術(shù)可被應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域，參與網(wǎng)絡(luò)文本內(nèi)容檢測(cè)與分類(lèi)、視頻和圖片內(nèi)容識(shí)別、語(yǔ)音內(nèi)容檢測(cè)等事務(wù)，切實(shí)高效地協(xié)助人類(lèi)進(jìn)行內(nèi)容分類(lèi)和管理。面對(duì)包括視頻、圖片、文字等實(shí)時(shí)海量的信息內(nèi)容，人工方式開(kāi)展網(wǎng)絡(luò)內(nèi)容治理已經(jīng)捉襟見(jiàn)肘，人工智能技術(shù)在網(wǎng)絡(luò)內(nèi)容治理層面已然不可替代。

在網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域所應(yīng)用的人工智能技術(shù)如下：

自然語(yǔ)言處理（NLP， Natural Language Processing）：可用于理解文字、語(yǔ)音等人類(lèi)創(chuàng)造的內(nèi)容，在內(nèi)容安全領(lǐng)域不可或缺。圖像處理（IP， Image Processing）：對(duì)圖像進(jìn)行分析，進(jìn)行內(nèi)容的識(shí)別和分類(lèi)，在內(nèi)容安全中常用于不良信息處理。視頻分析技術(shù) (VA， Video Analysis)：對(duì)目標(biāo)行為的視頻進(jìn)行分析，識(shí)別出視頻中活動(dòng)的目標(biāo)及相應(yīng)的內(nèi)涵，用于不良信息識(shí)別。

如圖 4 所示，通過(guò)分析人工智能技術(shù)應(yīng)用于網(wǎng)絡(luò)內(nèi)容安全，在四個(gè)層面均可有效提升安全效能：

預(yù)防階段：內(nèi)容安全最重要的是合規(guī)性，由于各領(lǐng)域的監(jiān)管法律/政策的側(cè)重點(diǎn)不同而有所區(qū)別且動(dòng)態(tài)變化。在預(yù)防階段，可使用深度學(xué)習(xí)和自然語(yǔ)言處理進(jìn)行相關(guān)法律法規(guī)條文的理解和解讀，并設(shè)定內(nèi)容安全基線，再由深度學(xué)習(xí)工具進(jìn)行場(chǎng)景預(yù)測(cè)和風(fēng)險(xiǎn)評(píng)估，并及時(shí)將結(jié)果向網(wǎng)絡(luò)內(nèi)容管理人員報(bào)告。

防御階段：應(yīng)用深度學(xué)習(xí)等工具可完善系統(tǒng)，防范潛在安全事件的發(fā)生。

檢測(cè)階段：自然語(yǔ)言、圖像、視頻分析等智能工具能快速識(shí)別內(nèi)容，動(dòng)態(tài)比對(duì)安全基線，及時(shí)將分析結(jié)果交付給人類(lèi)伙伴進(jìn)行后續(xù)處置，除此之外，基于內(nèi)容分析的情感人工智能也已逐步應(yīng)用于輿情預(yù)警，取得不俗成果。

響應(yīng)階段：在后續(xù)調(diào)查或留存審計(jì)資料階段，過(guò)程自動(dòng)化同樣不可或缺。

3、人工智能應(yīng)用于物理網(wǎng)絡(luò)系統(tǒng)安全

隨著物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)、5G 等技術(shù)的成熟，網(wǎng)絡(luò)空間發(fā)生深刻變化，人、物、物理空間通過(guò)各類(lèi)系統(tǒng)實(shí)現(xiàn)無(wú)縫連接，由于涉及的領(lǐng)域眾多同時(shí)接入的設(shè)備數(shù)量巨大，傳感器網(wǎng)絡(luò)所產(chǎn)生的數(shù)據(jù)可能是高頻低密度數(shù)據(jù)，人工已經(jīng)難以應(yīng)對(duì)，采用人工智能勢(shì)在必行。但由于應(yīng)用場(chǎng)景極為復(fù)雜多樣，可供應(yīng)用的人工智能技術(shù)將更加廣泛，并會(huì)驅(qū)動(dòng)人工智能技術(shù)自身新發(fā)展。