文/陳健 陳志(中國科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院)

　　一、人工智能正推動數(shù)據(jù)密集型科研范式的變革

　　“范式”是從事某一科學(xué)領(lǐng)域研究的科學(xué)家群體所共同遵從的世界觀和行為方式，是科學(xué)研究系統(tǒng)中的一系列理論界定、研究工具和科學(xué)方法等的規(guī)范或準(zhǔn)則。基于不同的科研范式，可以將不同的學(xué)科和科學(xué)共同體區(qū)分開來。圖靈獎得主吉姆·格雷將科學(xué)研究范式分為4個階段：(1)實驗科學(xué);(2)理論科學(xué);(3)計算科學(xué);(4)數(shù)據(jù)密集型科學(xué)。其中，實驗科學(xué)在研究方法上以歸納為主，以觀測和實驗為依據(jù)，典型范例如牛頓的經(jīng)典力學(xué)。理論科學(xué)在研究方法上以演繹為主，一般依靠數(shù)學(xué)模型進(jìn)行理論建構(gòu)，典型范例如物理學(xué)中的相對論、弦理論等。計算科學(xué)通過計算機(jī)對復(fù)雜現(xiàn)象進(jìn)行仿真模擬與計算，典型范例如模擬核試驗等。數(shù)據(jù)密集型科學(xué)作為科學(xué)研究的“第四范式”，是伴隨著超級計算、大規(guī)模計算應(yīng)用等技術(shù)的發(fā)展，在海量數(shù)據(jù)的驅(qū)動下產(chǎn)生的，是由傳統(tǒng)的假設(shè)驅(qū)動向基于科學(xué)數(shù)據(jù)進(jìn)行探索的科學(xué)方法的轉(zhuǎn)變，典型范例如基于大數(shù)據(jù)的霧霾影響因素研究。

　　在數(shù)據(jù)密集型科學(xué)范式中，海量數(shù)據(jù)的計算方法等問題一直是瓶頸，而得益于深度學(xué)習(xí)等人工智能技術(shù)的發(fā)明和應(yīng)用，機(jī)器可以在科研大數(shù)據(jù)中自己學(xué)習(xí)并生成算法，從而使科研范式更具“智能化”。新一代人工智能技術(shù)以大數(shù)據(jù)為基礎(chǔ)，同時還體現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新特征。因此，人工智能時代的科研范式(以下簡稱“AI范式”)實際上是“第四范式”的進(jìn)一步延伸，甚至在某些領(lǐng)域顛覆現(xiàn)有的范式?！癆I范式”下的科學(xué)研究不僅僅是某項工具的改進(jìn)，也不僅僅是機(jī)器對人的簡單替代，而是圍繞人工智能技術(shù)和科學(xué)問題所形成的數(shù)據(jù)聚合、工具集成與人機(jī)協(xié)同的科研體系的綜合體現(xiàn)。

　　二、“AI范式”的特征及其對科技管理的挑戰(zhàn)

　　1.自動化、全過程與探索式的科研路徑顛覆原有科研評價、激勵機(jī)制

　　深度學(xué)習(xí)等人工智能技術(shù)會導(dǎo)致利用大數(shù)據(jù)集和增強(qiáng)預(yù)測算法的研究方法替代常規(guī)的勞動密集型研究。尤其是隨著自主智能方法的完善，未來的科學(xué)研究過程將成為一個從數(shù)據(jù)的采集、存儲、計算到?jīng)Q策都無需人為干預(yù)的知識發(fā)現(xiàn)過程和高度自動化的“探索性實驗”。只要數(shù)據(jù)源源不斷產(chǎn)生，機(jī)器就會不斷學(xué)習(xí)并自動糾錯，新知識、新發(fā)現(xiàn)都可能“無意間”產(chǎn)生。尤其是隨著深度學(xué)習(xí)模型的“黑箱”逐漸被打開，模型執(zhí)行某項任務(wù)時的過程可以被識別出來，從而可以幫助研究者更好地理解這些數(shù)據(jù)背后的科學(xué)原理，這將大大擴(kuò)展人類的認(rèn)識領(lǐng)域。例如，加州大學(xué)圣地亞哥分校近期將一個深度學(xué)習(xí)算法的結(jié)構(gòu)映射在已知細(xì)胞內(nèi)分子系統(tǒng)的結(jié)構(gòu)上，創(chuàng)建了一個“可視的”人工神經(jīng)網(wǎng)絡(luò)——虛擬酵母細(xì)胞 DCell。經(jīng)過數(shù)百萬種基因型的訓(xùn)練驗證，DCell幾乎能夠準(zhǔn)確模擬細(xì)胞生長，并對基因型-表型關(guān)聯(lián)的分子機(jī)制進(jìn)行計算機(jī)研究，從而預(yù)測遺傳變化的生理影響，并揭示基因與生理特征關(guān)系背后的機(jī)制。

　　在“AI范式”下，數(shù)據(jù)和算法很可能比科學(xué)家的知識和經(jīng)驗更重要，但僅僅依靠數(shù)據(jù)和算法并不足以幫助我們深刻理解自然和社會現(xiàn)象的本質(zhì)規(guī)律，甚至可能導(dǎo)致“理論的終結(jié)”。因此，對科研成果創(chuàng)新性的衡量，對“突然發(fā)現(xiàn)”的價值的判斷，對深度學(xué)習(xí)的研究過程及數(shù)據(jù)與理論之間的“證據(jù)鏈”的追溯等問題，將使我國面向單一、特定目標(biāo)的，以最終結(jié)果為導(dǎo)向的科技評價方式受到挑戰(zhàn)。另外，對數(shù)據(jù)和算法的強(qiáng)調(diào)，可能導(dǎo)致科研人員深入研究相關(guān)學(xué)科理論和構(gòu)建完整知識體系的動力減弱，也增加了評判不同科學(xué)家的研究水平和貢獻(xiàn)的難度，需要我們重新對科研人才的教育、培訓(xùn)和激勵等問題進(jìn)行思考。

　　2.人工智能工具加速開放科學(xué)并引發(fā)科研組織治理風(fēng)險

　　類似于Google大腦這樣的可以解決各種問題(而不是一個特定問題)的機(jī)器學(xué)習(xí)工具，使得不同學(xué)科之間的研究對象有了同質(zhì)性的基礎(chǔ)，不同領(lǐng)域的科學(xué)家可以開啟規(guī)模更大、參與更廣的跨學(xué)科合作研究。同時，這將催生虛擬實驗室等新型科研組織模式的廣泛采用，并增強(qiáng)從事科學(xué)研究與科學(xué)發(fā)現(xiàn)的科學(xué)共同體的凝聚力與通約性，他們將以人工智能平臺和數(shù)據(jù)科學(xué)家為中介，使科學(xué)實驗從冥思苦想變?yōu)榧脊沧h。例如，百度就于2017年7月正式開放“阿波羅”自動駕駛平臺，匯聚了70多位國內(nèi)外一流科學(xué)家和300多位經(jīng)驗豐富的工程師，共同促進(jìn)自動駕駛基礎(chǔ)研究與技術(shù)應(yīng)用的發(fā)展。未來，領(lǐng)域先鋒者、小眾專家、民間智者等科學(xué)研究新興知識主體也將逐漸出現(xiàn)，這加速了開放科學(xué)的形成，也加速了高?？蒲谐晒蚱髽I(yè)的轉(zhuǎn)移轉(zhuǎn)化。

　　人工智能工具的運(yùn)用使研發(fā)組織呈現(xiàn)出“平臺化”和“分散化”的雙重特征。一方面，人工智能平臺將成為一種重要的科研基礎(chǔ)設(shè)施，針對人工智能平臺由誰提供和如何提供的問題，政府、企業(yè)與科研機(jī)構(gòu)都可能具有“搭便車”的傾向。另一方面，我國集中式的科技管理方式將難以適應(yīng)這種分散化的研發(fā)組織，分散化所帶來的數(shù)據(jù)安全、成果歸屬，以及避免個別群體通過獲得和控制關(guān)鍵大數(shù)據(jù)集和特定應(yīng)用算法造成壟斷等問題，都具有前所未有的治理難度。

　　3.人機(jī)協(xié)同實際形成的多元科研主體面臨科學(xué)責(zé)任與倫理困境

　　與科學(xué)家相比，機(jī)器在承擔(dān)多項復(fù)雜任務(wù)、持續(xù)時間、計算效率和精確度等方面具有顯著的優(yōu)勢，它在某些領(lǐng)域能夠輔助或代替人類，甚至可以超過人類本身的認(rèn)知水平，實現(xiàn)認(rèn)知的“去階級化”。因此，機(jī)器變成重要的科學(xué)研究主體，甚至與人類決策形成混合增強(qiáng)的智能環(huán)。例如，擅長模式識別的計算機(jī)，可以通過對大量基因、代謝和臨床信息進(jìn)行篩選，來解開致使疾病肆虐的復(fù)雜生物網(wǎng)絡(luò)，進(jìn)而有助于識別可能在特定病人人群中起效的藥物。另一方面，為了滿足不同科學(xué)家的需求，人工智能技術(shù)還能夠為科學(xué)家提供定制化的服務(wù)。例如，科研輔助系統(tǒng)可以通過內(nèi)容探索，了解科學(xué)家的研究領(lǐng)域、興趣愛好、主要觀點等特征，為其推送個性化的信息;利用IBM開發(fā)的Watson開源人工智能平臺，科學(xué)家甚至可以定制自己的人工智能軟件或機(jī)器人，以滿足自己的研究需求。

　　在人工智能輔助科研的過程中，隨著機(jī)器自我學(xué)習(xí)能力的提高，可能開發(fā)出影響人類健康或生態(tài)安全的新型化合物、新型細(xì)菌，可能錯誤地將個人隱私數(shù)據(jù)或私有的科學(xué)數(shù)據(jù)公之于眾，在社會科學(xué)研究中還可能做出具有暴力或歧視性的決策等。這些問題的核心在于，誰是“機(jī)器決策”的責(zé)任主體并為之承擔(dān)后果?是“技術(shù)漏洞”還是“使用不當(dāng)”抑或是“算法”通過自我學(xué)習(xí)擅自所為?這都是需要解決的科學(xué)倫理問題。

　　三、“AI范式”下我國科技管理模式的變革方向

　　“AI范式”為我國在重大科學(xué)領(lǐng)域?qū)崿F(xiàn)顛覆性突破提供了“彎道超車”的機(jī)會，而這也依賴于我國對現(xiàn)有的科技管理模式進(jìn)行變革，以支持“AI范式”的發(fā)展并規(guī)避風(fēng)險。

　　1.前瞻部署相關(guān)重大科技項目，探索新管理模式與機(jī)制

　　建議科技創(chuàng)新2030—重大項目或者重點研發(fā)專項中設(shè)立“人工智能在科學(xué)研究中的應(yīng)用”專項，在科研單位建立人工智能試點，邀請相關(guān)企業(yè)、科研機(jī)構(gòu)和科學(xué)家等開展跨界合作，共同探索人工智能技術(shù)在科學(xué)研究中的應(yīng)用問題。圍繞項目的實施，培養(yǎng)科技項目管理人員的人工智能思維，運(yùn)用人工智能技術(shù)優(yōu)化科研資源分配、減少浪費(fèi)重復(fù)、預(yù)測科研趨勢、預(yù)防科研腐敗、評價科研成果和輔助決策。建立多元的科研項目評價機(jī)制，完善對“AI范式”中探索式研究和意外發(fā)現(xiàn)的管理。

　　2.提供必要的物質(zhì)基礎(chǔ)設(shè)施和制度基礎(chǔ)設(shè)施，解決當(dāng)中的外部性和市場失靈問題

　　建議政府引導(dǎo)，與企業(yè)共同建設(shè)人工智能基礎(chǔ)設(shè)施，包括尊重隱私開放資源學(xué)習(xí)環(huán)境、現(xiàn)實生活中的測試環(huán)境，以及用于開發(fā)和培訓(xùn)人工智能系統(tǒng)的高質(zhì)量數(shù)據(jù)集，加快解決基礎(chǔ)設(shè)施和物理層面的技術(shù)難題。從法律和交易層面厘清數(shù)據(jù)相關(guān)的權(quán)益與責(zé)任界定問題，規(guī)范數(shù)據(jù)授權(quán)和交換規(guī)則問題，加快科學(xué)數(shù)據(jù)的開放共享，研究針對“算法壟斷”的法律法規(guī)。

　　3.研究制定人工智能科學(xué)倫理規(guī)范，從源頭杜絕倫理陷阱

　　在技術(shù)層面，應(yīng)加緊對道德嵌入技術(shù)的開發(fā)，從設(shè)計源頭規(guī)范嵌入倫理準(zhǔn)則。在標(biāo)準(zhǔn)規(guī)范方面，盡快研究并制定新的標(biāo)準(zhǔn)化體系，以評估、驗證和監(jiān)管人工智能系統(tǒng)的安全性、透明度、可理解性和道德責(zé)任等。