文/陳健 陳志(中國(guó)科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院)

　　一、人工智能正推動(dòng)數(shù)據(jù)密集型科研范式的變革

　　“范式”是從事某一科學(xué)領(lǐng)域研究的科學(xué)家群體所共同遵從的世界觀和行為方式，是科學(xué)研究系統(tǒng)中的一系列理論界定、研究工具和科學(xué)方法等的規(guī)范或準(zhǔn)則?；诓煌目蒲蟹妒?，可以將不同的學(xué)科和科學(xué)共同體區(qū)分開(kāi)來(lái)。圖靈獎(jiǎng)得主吉姆·格雷將科學(xué)研究范式分為4個(gè)階段：(1)實(shí)驗(yàn)科學(xué);(2)理論科學(xué);(3)計(jì)算科學(xué);(4)數(shù)據(jù)密集型科學(xué)。其中，實(shí)驗(yàn)科學(xué)在研究方法上以歸納為主，以觀測(cè)和實(shí)驗(yàn)為依據(jù)，典型范例如牛頓的經(jīng)典力學(xué)。理論科學(xué)在研究方法上以演繹為主，一般依靠數(shù)學(xué)模型進(jìn)行理論建構(gòu)，典型范例如物理學(xué)中的相對(duì)論、弦理論等。計(jì)算科學(xué)通過(guò)計(jì)算機(jī)對(duì)復(fù)雜現(xiàn)象進(jìn)行仿真模擬與計(jì)算，典型范例如模擬核試驗(yàn)等。數(shù)據(jù)密集型科學(xué)作為科學(xué)研究的“第四范式”，是伴隨著超級(jí)計(jì)算、大規(guī)模計(jì)算應(yīng)用等技術(shù)的發(fā)展，在海量數(shù)據(jù)的驅(qū)動(dòng)下產(chǎn)生的，是由傳統(tǒng)的假設(shè)驅(qū)動(dòng)向基于科學(xué)數(shù)據(jù)進(jìn)行探索的科學(xué)方法的轉(zhuǎn)變，典型范例如基于大數(shù)據(jù)的霧霾影響因素研究。

　　在數(shù)據(jù)密集型科學(xué)范式中，海量數(shù)據(jù)的計(jì)算方法等問(wèn)題一直是瓶頸，而得益于深度學(xué)習(xí)等人工智能技術(shù)的發(fā)明和應(yīng)用，機(jī)器可以在科研大數(shù)據(jù)中自己學(xué)習(xí)并生成算法，從而使科研范式更具“智能化”。新一代人工智能技術(shù)以大數(shù)據(jù)為基礎(chǔ)，同時(shí)還體現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開(kāi)放、自主操控等新特征。因此，人工智能時(shí)代的科研范式(以下簡(jiǎn)稱“AI范式”)實(shí)際上是“第四范式”的進(jìn)一步延伸，甚至在某些領(lǐng)域顛覆現(xiàn)有的范式?！癆I范式”下的科學(xué)研究不僅僅是某項(xiàng)工具的改進(jìn)，也不僅僅是機(jī)器對(duì)人的簡(jiǎn)單替代，而是圍繞人工智能技術(shù)和科學(xué)問(wèn)題所形成的數(shù)據(jù)聚合、工具集成與人機(jī)協(xié)同的科研體系的綜合體現(xiàn)。

　　二、“AI范式”的特征及其對(duì)科技管理的挑戰(zhàn)

　　1.自動(dòng)化、全過(guò)程與探索式的科研路徑顛覆原有科研評(píng)價(jià)、激勵(lì)機(jī)制

　　深度學(xué)習(xí)等人工智能技術(shù)會(huì)導(dǎo)致利用大數(shù)據(jù)集和增強(qiáng)預(yù)測(cè)算法的研究方法替代常規(guī)的勞動(dòng)密集型研究。尤其是隨著自主智能方法的完善，未來(lái)的科學(xué)研究過(guò)程將成為一個(gè)從數(shù)據(jù)的采集、存儲(chǔ)、計(jì)算到?jīng)Q策都無(wú)需人為干預(yù)的知識(shí)發(fā)現(xiàn)過(guò)程和高度自動(dòng)化的“探索性實(shí)驗(yàn)”。只要數(shù)據(jù)源源不斷產(chǎn)生，機(jī)器就會(huì)不斷學(xué)習(xí)并自動(dòng)糾錯(cuò)，新知識(shí)、新發(fā)現(xiàn)都可能“無(wú)意間”產(chǎn)生。尤其是隨著深度學(xué)習(xí)模型的“黑箱”逐漸被打開(kāi)，模型執(zhí)行某項(xiàng)任務(wù)時(shí)的過(guò)程可以被識(shí)別出來(lái)，從而可以幫助研究者更好地理解這些數(shù)據(jù)背后的科學(xué)原理，這將大大擴(kuò)展人類的認(rèn)識(shí)領(lǐng)域。例如，加州大學(xué)圣地亞哥分校近期將一個(gè)深度學(xué)習(xí)算法的結(jié)構(gòu)映射在已知細(xì)胞內(nèi)分子系統(tǒng)的結(jié)構(gòu)上，創(chuàng)建了一個(gè)“可視的”人工神經(jīng)網(wǎng)絡(luò)——虛擬酵母細(xì)胞 DCell。經(jīng)過(guò)數(shù)百萬(wàn)種基因型的訓(xùn)練驗(yàn)證，DCell幾乎能夠準(zhǔn)確模擬細(xì)胞生長(zhǎng)，并對(duì)基因型-表型關(guān)聯(lián)的分子機(jī)制進(jìn)行計(jì)算機(jī)研究，從而預(yù)測(cè)遺傳變化的生理影響，并揭示基因與生理特征關(guān)系背后的機(jī)制。

　　在“AI范式”下，數(shù)據(jù)和算法很可能比科學(xué)家的知識(shí)和經(jīng)驗(yàn)更重要，但僅僅依靠數(shù)據(jù)和算法并不足以幫助我們深刻理解自然和社會(huì)現(xiàn)象的本質(zhì)規(guī)律，甚至可能導(dǎo)致“理論的終結(jié)”。因此，對(duì)科研成果創(chuàng)新性的衡量，對(duì)“突然發(fā)現(xiàn)”的價(jià)值的判斷，對(duì)深度學(xué)習(xí)的研究過(guò)程及數(shù)據(jù)與理論之間的“證據(jù)鏈”的追溯等問(wèn)題，將使我國(guó)面向單一、特定目標(biāo)的，以最終結(jié)果為導(dǎo)向的科技評(píng)價(jià)方式受到挑戰(zhàn)。另外，對(duì)數(shù)據(jù)和算法的強(qiáng)調(diào)，可能導(dǎo)致科研人員深入研究相關(guān)學(xué)科理論和構(gòu)建完整知識(shí)體系的動(dòng)力減弱，也增加了評(píng)判不同科學(xué)家的研究水平和貢獻(xiàn)的難度，需要我們重新對(duì)科研人才的教育、培訓(xùn)和激勵(lì)等問(wèn)題進(jìn)行思考。

　　2.人工智能工具加速開(kāi)放科學(xué)并引發(fā)科研組織治理風(fēng)險(xiǎn)

　　類似于Google大腦這樣的可以解決各種問(wèn)題(而不是一個(gè)特定問(wèn)題)的機(jī)器學(xué)習(xí)工具，使得不同學(xué)科之間的研究對(duì)象有了同質(zhì)性的基礎(chǔ)，不同領(lǐng)域的科學(xué)家可以開(kāi)啟規(guī)模更大、參與更廣的跨學(xué)科合作研究。同時(shí)，這將催生虛擬實(shí)驗(yàn)室等新型科研組織模式的廣泛采用，并增強(qiáng)從事科學(xué)研究與科學(xué)發(fā)現(xiàn)的科學(xué)共同體的凝聚力與通約性，他們將以人工智能平臺(tái)和數(shù)據(jù)科學(xué)家為中介，使科學(xué)實(shí)驗(yàn)從冥思苦想變?yōu)榧脊沧h。例如，百度就于2017年7月正式開(kāi)放“阿波羅”自動(dòng)駕駛平臺(tái)，匯聚了70多位國(guó)內(nèi)外一流科學(xué)家和300多位經(jīng)驗(yàn)豐富的工程師，共同促進(jìn)自動(dòng)駕駛基礎(chǔ)研究與技術(shù)應(yīng)用的發(fā)展。未來(lái)，領(lǐng)域先鋒者、小眾專家、民間智者等科學(xué)研究新興知識(shí)主體也將逐漸出現(xiàn)，這加速了開(kāi)放科學(xué)的形成，也加速了高校科研成果向企業(yè)的轉(zhuǎn)移轉(zhuǎn)化。

　　人工智能工具的運(yùn)用使研發(fā)組織呈現(xiàn)出“平臺(tái)化”和“分散化”的雙重特征。一方面，人工智能平臺(tái)將成為一種重要的科研基礎(chǔ)設(shè)施，針對(duì)人工智能平臺(tái)由誰(shuí)提供和如何提供的問(wèn)題，政府、企業(yè)與科研機(jī)構(gòu)都可能具有“搭便車(chē)”的傾向。另一方面，我國(guó)集中式的科技管理方式將難以適應(yīng)這種分散化的研發(fā)組織，分散化所帶來(lái)的數(shù)據(jù)安全、成果歸屬，以及避免個(gè)別群體通過(guò)獲得和控制關(guān)鍵大數(shù)據(jù)集和特定應(yīng)用算法造成壟斷等問(wèn)題，都具有前所未有的治理難度。

　　3.人機(jī)協(xié)同實(shí)際形成的多元科研主體面臨科學(xué)責(zé)任與倫理困境

　　與科學(xué)家相比，機(jī)器在承擔(dān)多項(xiàng)復(fù)雜任務(wù)、持續(xù)時(shí)間、計(jì)算效率和精確度等方面具有顯著的優(yōu)勢(shì)，它在某些領(lǐng)域能夠輔助或代替人類，甚至可以超過(guò)人類本身的認(rèn)知水平，實(shí)現(xiàn)認(rèn)知的“去階級(jí)化”。因此，機(jī)器變成重要的科學(xué)研究主體，甚至與人類決策形成混合增強(qiáng)的智能環(huán)。例如，擅長(zhǎng)模式識(shí)別的計(jì)算機(jī)，可以通過(guò)對(duì)大量基因、代謝和臨床信息進(jìn)行篩選，來(lái)解開(kāi)致使疾病肆虐的復(fù)雜生物網(wǎng)絡(luò)，進(jìn)而有助于識(shí)別可能在特定病人人群中起效的藥物。另一方面，為了滿足不同科學(xué)家的需求，人工智能技術(shù)還能夠?yàn)榭茖W(xué)家提供定制化的服務(wù)。例如，科研輔助系統(tǒng)可以通過(guò)內(nèi)容探索，了解科學(xué)家的研究領(lǐng)域、興趣愛(ài)好、主要觀點(diǎn)等特征，為其推送個(gè)性化的信息;利用IBM開(kāi)發(fā)的Watson開(kāi)源人工智能平臺(tái)，科學(xué)家甚至可以定制自己的人工智能軟件或機(jī)器人，以滿足自己的研究需求。

　　在人工智能輔助科研的過(guò)程中，隨著機(jī)器自我學(xué)習(xí)能力的提高，可能開(kāi)發(fā)出影響人類健康或生態(tài)安全的新型化合物、新型細(xì)菌，可能錯(cuò)誤地將個(gè)人隱私數(shù)據(jù)或私有的科學(xué)數(shù)據(jù)公之于眾，在社會(huì)科學(xué)研究中還可能做出具有暴力或歧視性的決策等。這些問(wèn)題的核心在于，誰(shuí)是“機(jī)器決策”的責(zé)任主體并為之承擔(dān)后果?是“技術(shù)漏洞”還是“使用不當(dāng)”抑或是“算法”通過(guò)自我學(xué)習(xí)擅自所為?這都是需要解決的科學(xué)倫理問(wèn)題。

　　三、“AI范式”下我國(guó)科技管理模式的變革方向

　　“AI范式”為我國(guó)在重大科學(xué)領(lǐng)域?qū)崿F(xiàn)顛覆性突破提供了“彎道超車(chē)”的機(jī)會(huì)，而這也依賴于我國(guó)對(duì)現(xiàn)有的科技管理模式進(jìn)行變革，以支持“AI范式”的發(fā)展并規(guī)避風(fēng)險(xiǎn)。

　　1.前瞻部署相關(guān)重大科技項(xiàng)目，探索新管理模式與機(jī)制

　　建議科技創(chuàng)新2030—重大項(xiàng)目或者重點(diǎn)研發(fā)專項(xiàng)中設(shè)立“人工智能在科學(xué)研究中的應(yīng)用”專項(xiàng)，在科研單位建立人工智能試點(diǎn)，邀請(qǐng)相關(guān)企業(yè)、科研機(jī)構(gòu)和科學(xué)家等開(kāi)展跨界合作，共同探索人工智能技術(shù)在科學(xué)研究中的應(yīng)用問(wèn)題。圍繞項(xiàng)目的實(shí)施，培養(yǎng)科技項(xiàng)目管理人員的人工智能思維，運(yùn)用人工智能技術(shù)優(yōu)化科研資源分配、減少浪費(fèi)重復(fù)、預(yù)測(cè)科研趨勢(shì)、預(yù)防科研腐敗、評(píng)價(jià)科研成果和輔助決策。建立多元的科研項(xiàng)目評(píng)價(jià)機(jī)制，完善對(duì)“AI范式”中探索式研究和意外發(fā)現(xiàn)的管理。

　　2.提供必要的物質(zhì)基礎(chǔ)設(shè)施和制度基礎(chǔ)設(shè)施，解決當(dāng)中的外部性和市場(chǎng)失靈問(wèn)題

　　建議政府引導(dǎo)，與企業(yè)共同建設(shè)人工智能基礎(chǔ)設(shè)施，包括尊重隱私開(kāi)放資源學(xué)習(xí)環(huán)境、現(xiàn)實(shí)生活中的測(cè)試環(huán)境，以及用于開(kāi)發(fā)和培訓(xùn)人工智能系統(tǒng)的高質(zhì)量數(shù)據(jù)集，加快解決基礎(chǔ)設(shè)施和物理層面的技術(shù)難題。從法律和交易層面厘清數(shù)據(jù)相關(guān)的權(quán)益與責(zé)任界定問(wèn)題，規(guī)范數(shù)據(jù)授權(quán)和交換規(guī)則問(wèn)題，加快科學(xué)數(shù)據(jù)的開(kāi)放共享，研究針對(duì)“算法壟斷”的法律法規(guī)。

　　3.研究制定人工智能科學(xué)倫理規(guī)范，從源頭杜絕倫理陷阱

　　在技術(shù)層面，應(yīng)加緊對(duì)道德嵌入技術(shù)的開(kāi)發(fā)，從設(shè)計(jì)源頭規(guī)范嵌入倫理準(zhǔn)則。在標(biāo)準(zhǔn)規(guī)范方面，盡快研究并制定新的標(biāo)準(zhǔn)化體系，以評(píng)估、驗(yàn)證和監(jiān)管人工智能系統(tǒng)的安全性、透明度、可理解性和道德責(zé)任等。