本報記者 郭冀川

    就在各方積極推動人工智能技術(shù)研發(fā)和應(yīng)用落地的時候，質(zhì)疑的聲音也接踵而來。3月29日，未來生命研究所（FutureofLifeInstitute）公布一封公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個月。被稱為“人工智能教父”的杰弗里•辛頓、心理學(xué)與腦研究專家蓋瑞•馬庫斯和特斯拉首席執(zhí)行官馬斯克等上千人均簽署了這封公開信。

    這封公開信指出，最近幾個月，人工智能實(shí)驗(yàn)室陷入了一場失控的競賽，他們致力于開發(fā)和部署更強(qiáng)大的數(shù)字思維，但即使是研發(fā)者也不能理解、預(yù)測或可靠地控制這些數(shù)字思維。諸多研究表明，具有與人類匹敵智能的人工智能系統(tǒng)可能對社會和人類構(gòu)成深遠(yuǎn)的風(fēng)險。

    中關(guān)村智能科技發(fā)展促進(jìn)會副會長兼首席數(shù)字經(jīng)濟(jì)學(xué)家陳曉華在接受《證券日報》記者采訪時表示，人工智能是能夠改變?nèi)祟惿鐣婷驳囊幌盗屑夹g(shù)，人工智能與實(shí)體經(jīng)濟(jì)深度融合，將成為經(jīng)濟(jì)的增長點(diǎn)和新動能。不過，由于人工智能在某些領(lǐng)域已經(jīng)能和人類競爭，因此也帶來了人們對于被“取代”“控制”的焦慮。

    針對AI在應(yīng)用層面的技術(shù)漏洞和社會變革風(fēng)險，未來生命研究所的公開信提出了一連串問題：我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒我們的信息渠道？我們是否應(yīng)該自動化所有工作，包括令人滿意的工作？我們是否應(yīng)該開發(fā)出更聰明、數(shù)量更龐大的非人類思想，最終淘汰甚至取代我們？我們是否應(yīng)該冒著文明失控的風(fēng)險？

    公開信呼吁所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)，期限至少6個月。在這段時間內(nèi)，人工智能實(shí)驗(yàn)室和專家應(yīng)該開發(fā)和實(shí)施一套技術(shù)安全協(xié)議，由獨(dú)立外部專家進(jìn)行嚴(yán)格的審計(jì)和監(jiān)督。與此同時，人工智能研發(fā)者必須和政策制定者合作，加快開發(fā)人工智能治理系統(tǒng)。

    國內(nèi)政策端在積極推動人工智能技術(shù)發(fā)展的同時，也在展開相關(guān)科研倫理規(guī)范。據(jù)新華社報道，為貫徹落實(shí)國家《新一代人工智能發(fā)展規(guī)劃》，科技部會同自然科學(xué)基金委近期啟動“人工智能驅(qū)動的科學(xué)研究”（AIforScience）專項(xiàng)部署工作，從專項(xiàng)部署工作的內(nèi)容看，科技部將推進(jìn)面向重大科學(xué)問題的人工智能模型和算法創(chuàng)新，發(fā)展一批針對典型科研領(lǐng)域的“人工智能驅(qū)動的科學(xué)研究”專用平臺，加快推動國家新一代人工智能公共算力開放創(chuàng)新平臺建設(shè)，支持高性能計(jì)算中心與智算中心異構(gòu)融合發(fā)展。同時，重視“人工智能驅(qū)動的科學(xué)研究”發(fā)展過程中的科研倫理規(guī)范。

    北京社科院研究員、中國人民大學(xué)智能社會治理研究中心研究員王鵬對記者表示，這標(biāo)志著中國將積極推動人工智能前沿技術(shù)研究和產(chǎn)業(yè)化應(yīng)用，在人工智能領(lǐng)域的投資和研發(fā)力度將不斷增強(qiáng)，并重視人工智能產(chǎn)業(yè)的可持續(xù)發(fā)展。

    王鵬說：“去年3月中辦、國辦印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，目的就是防范不確定風(fēng)險，促進(jìn)科技向善。近期科技部對于人工智能、6G等新技術(shù)的表述，在鼓勵研發(fā)同時，也表示了要加強(qiáng)科技倫理治理的立場和態(tài)度。”

    新結(jié)構(gòu)經(jīng)濟(jì)學(xué)研究院院長林毅夫表示，人工智能等技術(shù)的出現(xiàn)，本質(zhì)上是生產(chǎn)力水平的提升，這是人類進(jìn)步和生活水平提升的基礎(chǔ)，雖然部分崗位一定會被替代和取消，但是人類也可以有更多享受生活的機(jī)會。

（編輯 喬川川）