1951年，計算機之父阿蘭· 圖靈(Alan Turing)提出：“如果機器能思考，那么它很可能比我們更加明智……這種新的危險……當然讓我們焦慮。”

世界經(jīng)濟論壇創(chuàng)始人兼執(zhí)行主席克勞斯·施瓦布（Klaus Schwab）在《第四次工業(yè)革命》一書中直言，“無論是規(guī)模、廣度還是復雜程度，第四次工業(yè)革命都與人類過去經(jīng)歷的變革截然不同。”

“這些改變是深刻的，以至于人類在其發(fā)展歷史上從未迎來如此美好的前景，也從未面臨如此嚴峻的風險。”施瓦布說，“然而我擔心的是，決策者們往往囿于傳統(tǒng)的、非顛覆性的線性思維，或者過于關注眼前的危機，而難以對影響未來的各種顛覆和創(chuàng)新力量進行戰(zhàn)略性思考。”

2017年6月27日至29日，世界經(jīng)濟論壇第11屆新領軍者年會的主題為“在第四次工業(yè)革命中實現(xiàn)包容性增長”。有哪些新技術正在改變人們的生活？我們面臨著怎樣的風險和挑戰(zhàn)？

新技術成“焦點風險”

第四次工業(yè)革命中所誕生的新技術將不可避免地從多方面改變世界。

關于新興技術的爭論往往會出現(xiàn)兩極分化：有些人刻意只關注潛在的收益，而另一些人則過分關注潛在的危險。真正的挑戰(zhàn)是在這兩個極端之間找到平衡。

世界經(jīng)濟論壇大中華區(qū)首席代表艾德維（David Aikman）告訴《中國經(jīng)濟周刊》說，一方面我們正面對著第四次工業(yè)革命帶來的科技方面數(shù)不清的機遇與風險。另一方面我們正在尋求新的發(fā)展模式和經(jīng)濟機遇。

“我們要做的并不是阻止技術的進步，擔憂技術進步風險帶來的后果，而是探尋新技術如何帶來新的就業(yè)機會，釋放創(chuàng)業(yè)潛能，為社會帶來更多福祉。”艾德維說，“第四次工業(yè)革命的新技術可以給我們更長的壽命，更可持續(xù)發(fā)展的地球，但我們必須引導這些技術的發(fā)展方向，通過共同的理念創(chuàng)造更多的共同利益和包容性增長。”

在即將出版的《第四次工業(yè)革命手冊》中，全球風險認知調查歸納了12項新興技術作為第四次工業(yè)革命的代表，包括：3D打印，新型材料和納米材料，人工智能和機器人，生物技術，能源采集，存儲和輸送，區(qū)塊鏈和分布式分類賬，地質工程，物聯(lián)網(wǎng)，神經(jīng)技術，新計算技術，空間技術，虛擬和增強現(xiàn)實。

多年來，世界經(jīng)濟論壇發(fā)布的《全球風險報告》反復強調技術風險的重要性。在2015年的報告中，新興技術成為報告的“焦點風險”之一，凸顯了人工智能（AI）和生物技術等領域中存在的道德困境。

在2017年的全球風險認知調查中，包含一個有關12種新興技術優(yōu)勢與負面后果的調查研究。結果表明，大部分受訪者對于技術風險和利益的平衡普遍持樂觀態(tài)度。但受訪者仍在新興技術的監(jiān)管方面明確指出所需有限關注的領域為人工智能和機器人與生物技術。

AI技術武器化的風險

“第四次工業(yè)革命將為經(jīng)濟、社會和個人發(fā)展創(chuàng)造新的機遇，從而向個人和社區(qū)賦權，但同時也會導致某些群體的邊緣化，加劇不平等，催生新的安全風險，以及破壞人們的社會關系。”施瓦布說。

《2017年全球風險報告》認為，理想情況下，監(jiān)管制度應該足夠穩(wěn)定、可預測、透明，以便在投資者、企業(yè)與科學家之間建立信心，并應在公眾中產生足夠的信任和認知，從而讓用戶意識到評估早期負面后果的重要意義。

例如，自動駕駛技術會不可避免地導致一些事故，而是否會引起公眾呼吁禁止該技術的發(fā)展則取決于人們是否信任已經(jīng)為監(jiān)管其發(fā)展而制定的機制。

從目前看，投資者對新興技術抱著比較樂觀的態(tài)度。

資料顯示，全球專供AI應用的創(chuàng)業(yè)公司在2015年收到了24億美元的風險投資基金，在2016年上半年收到了超過15億美元的風險投資基金。政府項目和現(xiàn)有科技公司又在此基礎上追加了數(shù)十億美元的投資。

除了近期阿爾法狗 (AlphaGo) 再次戰(zhàn)勝人類棋手之外，機器的學習技術已經(jīng)能通過大數(shù)據(jù)分析來揭示有價值的信息，并且通過處理人類能力所無法企及的問題來為企業(yè)創(chuàng)造價值。

再比如斯坦福大學的計算病理學家分析了數(shù)百張腫瘤圖像上的數(shù)千個細胞特征，發(fā)現(xiàn)了被忽視的乳腺癌標志物。AI應用正在以驚人的速度和創(chuàng)造力來降低成本并改進診斷。

但是正如許多好萊塢電影中已經(jīng)表現(xiàn)出的“不受控”的人工智能所帶來的毀滅性災難一樣，在任何復雜混亂的系統(tǒng)中，潛在危險包括管理不善、設計漏洞、意外和不可預見事件。這一切給確保個人、政府和企業(yè)的安全和安保帶來了重大挑戰(zhàn)。這其中最為人詬病的就是AI應用和武器戰(zhàn)爭的影響。

在日內瓦安全政策中心的Jean marc rickli看來，對于導致AI手機死機或應用程序錯誤或許可以容忍，但如果AI武器系統(tǒng)或自主導航系統(tǒng)的一行代碼中存在錯誤，結果就可能是致命的。

Jean marc rickli認為，軍方是從早期階段就看到AI巨大潛力的部門之一。AI武器化將改變標準的戰(zhàn)爭方式，對國際安全與穩(wěn)定有著深遠影響，對于自助式武器系統(tǒng)的大量投資始于幾年之前；2016年7月，美國五角大樓國防科學委員會發(fā)布了第一份有關武器自主性的研究，但就如何規(guī)范這些武器的發(fā)展，目前尚無共識。

國際社會在2014年的《聯(lián)合國常規(guī)武器公約》框架內開始討論致命自主式武器系統(tǒng)的新興技術。但迄今為止，各國尚未就未來發(fā)展方向達成一致意見。那些呼吁禁止AI武器化的人擔憂人類會被排擠到操作環(huán)節(jié)之外，將使用致命武力的決策留給機器，造成我們目前尚不可知的后果。

Jean marc rickli也列舉了AI非軍事應用方面的經(jīng)驗教訓。以阿爾法狗為例，它已經(jīng)擊敗了全球排名前列的人類棋手。它的某些棋步讓觀察者困惑不已，因為這完全不符合人類通常的下棋模式。負責研發(fā)阿爾法狗的谷歌DeepMind CEODemisHassabis針對這種差異的解釋是，“不同于人類，阿爾法狗的程序旨在最大限度提高獲勝幾率，而不是將優(yōu)勢最大化。”如果這種二元邏輯（僅注重獲勝，而非獲勝優(yōu)勢）納入自主式武器系統(tǒng)中，就會違反比例原則，因為系統(tǒng)算法不會認為以殺死1個對手為代價的勝利和殺死1000個對手為代價的勝利之間有什么差異。

當年計算機之父阿蘭·圖靈 (AlanTuring) 提出的解決方案包括，在關鍵時刻關閉電源——以此作為一種可能的辦法，但未來的超級智能機器可能已采取措施防止外力切斷電源。

在打開這樣的“潘多拉魔盒”之前，制定有效的監(jiān)管機制顯得尤為重要。

如何監(jiān)管新技術？

如何監(jiān)管新興技術是一個復雜的問題。過度地嚴格限制技術發(fā)展可能會延誤乃至妨礙潛在利益的取得。但是，長期不明確的監(jiān)管方式則會導致技術被不負責任地濫用。同樣投資者也不愿意支持那些他們擔心以后可能會遭到禁止或排斥的技術發(fā)展。

《2017年全球風險報告》中指出，新興技術的監(jiān)管參差不齊，有些監(jiān)管嚴格，而另一些技術不在任何現(xiàn)有監(jiān)管機構的職權范圍內，因為幾乎毫無監(jiān)管可言。歷史表明，新技術的最終收益和風險可能與最初的專家意見南轅北轍。

如前所述，在世界經(jīng)濟論壇的調查中，當被問及12項新興技術哪項最需要監(jiān)管時，人工智能和機器人以及生物技術被最多的受訪者提及（超過40%）。

但事實上這兩項技術的監(jiān)管現(xiàn)狀有著很大的差別。

由于涉及到生物體的改造（應用于醫(yī)藥、農業(yè)或工業(yè)領域），生物技術往往受到嚴格監(jiān)管。早在1992 年聯(lián)合國出臺的《生物多樣性公約》就已將生物技術作為一項全球性的問題監(jiān)管，而現(xiàn)今已有196個國家批準了這項公約。相反，在全球絕大多數(shù)國家和地區(qū)，AI和機器人的監(jiān)管力度不嚴，用經(jīng)濟史學家的話來說，AI 作為“通用技術”在許多領域中均有應用，而這些領域各有不同的監(jiān)管制度。

世界經(jīng)濟論壇大中華區(qū)首席代表艾德維接受《中國經(jīng)濟周刊》記者采訪時認為，第四次工業(yè)革命帶來的新技術正在改變我們工作、生活和交流的方式，沒有哪個國家、哪個行業(yè)能免受影響。

“以人工智能為例，我們并不知道對這個技術領域應該有更多監(jiān)管還是更少監(jiān)管，該如何監(jiān)管？這是許多這樣的技術所面臨的挑戰(zhàn)，因為它們不僅僅是新生事物，而且還在快速地演變，這讓傳統(tǒng)監(jiān)管模式很難及時跟進。”艾德維說，“在人工智能方面，我們希望通過各方討論提出相關監(jiān)管原則，然后各國在這個共識基礎上，制定自己的細則。”

正如《2017 全球風險報告》結論中所述，要確保人工智能不會超出人類為之設定的界線，我們必須繼續(xù)努力建立對此類系統(tǒng)的信任，因為它們將改變我們的社會、政治、商業(yè)環(huán)境，為我們制定決策，并成為我們闡釋周邊世界不可或缺的能力。

《2017年全球風險報告》發(fā)布：

五大風險預判 水資源危機被反復提及

施瓦布在《2017年全球風險報告》的序言中寫道，“對于全球社會而言，2017年將是關鍵的一年。”

10余年來，世界經(jīng)濟論壇發(fā)布的《全球風險報告》都在致力于全球風險的演變和這些風險之間深度內在關聯(lián)的研究，例如，收入不平等、不斷加劇的兩極分化造成的風險惡化可能性，又或是經(jīng)濟復蘇疲軟和技術變革速度相關的風險。

世界經(jīng)濟五大風險

《2017年全球風險報告》從多個維度例舉了全球面臨的五大風險，比如按發(fā)生概率排列的五大風險、按影響力排列的五大全球風險等。除此之外，《2017年全球風險報告》還從總體上列舉了危及2017年世界經(jīng)濟的五大風險：

第一，不斷凸顯的收入不平等。上世紀80年代以來，在英國、美國、加拿大、愛爾蘭和澳大利亞等國內，占人口1%的富人所擁有的財富在全國的份額不斷上升。這群人并未受到金融危機后蕭條的影響。對新技術的投資使技術工人受益，而非技術工人仍然受窮。全球化使得世界上落后國家的工人受益，而西方國家的工人在其國內依然貧困，以至于“支持不滿情緒的競選將獲勝”正在成為一個定理。

第二，氣候變化。它被認為是今年第二個最大的風險主要源于越發(fā)頻繁的極端氣候變化。盡管全球周期性厄爾尼諾現(xiàn)象已經(jīng)過去，2017年不太可能超過2016年成為歷史上最熱的一年，但氣候當局仍然預測今年全球范圍內也會是最熱的幾年之一。該報告指出，今年各國政府必須切實兌現(xiàn)他們關于《巴黎協(xié)定》的減排承諾，其實《巴黎協(xié)定》所確定的減排速度根本不足以避免危險的全球變暖。

第三，社會越趨多極化。民主面臨危機，尤其是政客、公共和私人機構的當權者越發(fā)與他們的選民在文化背景、收入和福利方面拉開了距離。政府的節(jié)儉政策實際上降低了弱勢群體的福利水平，多文化主義正受到民族主義的挑戰(zhàn)。

第四，網(wǎng)絡依賴性上升。越來越多的關鍵基礎設施依賴開放性的網(wǎng)絡空間，發(fā)達國家相當大的一部分經(jīng)濟活動依賴開放性網(wǎng)絡，比如英國大約10%的GDP來自網(wǎng)絡經(jīng)濟。這固然給人們生活和經(jīng)濟發(fā)展帶來很多好處，卻也給某些打算對社會造成破壞的組織和個人提供機會。

第五，老齡化問題。日本有四分之一人口超過65歲，其他發(fā)達國家以及相當一部分發(fā)展中國家也正朝著這方向發(fā)展。日本自2000年以來為維持一個護理保險福利計劃所做的開支使其債務對GDP的比重達到了240%。中國在經(jīng)濟發(fā)展過程中老齡化問題逐漸呈現(xiàn)，需要提前采取措施解決健康護理問題。

在世界經(jīng)濟論壇10年的風險研究中，2007—2017年，按影響力排列的五大全球風險，從2007年到2014年的首位都和金融相關，比如資產價格崩潰、財政危機和重大系統(tǒng)性金融崩盤，但從2012年水供應危機成為第二大風險后，從2013年到2017年，水資源危機都排在影響全球五大風險的前三位，這其中的趨勢反映了什么問題？

世界經(jīng)濟論壇大中華區(qū)首席代表艾德維（David Aikman）在接受《中國經(jīng)濟周刊》記者采訪時分析，在2012年前那段時間，世界主要關注點確實在金融系統(tǒng)方面，畢竟那時候世界經(jīng)歷了過去75年間最嚴重的金融危機，在人們的印象里，這方面的危機在影響程度上被認為是最嚴重的。但氣候變化因素一直在人們視線中，并不是忽然出現(xiàn)的，其重要性逐步上升。

“實際上，從可能性和影響程度看，氣候變化相關的風險嚴重程度是我們近10年報告所未見的。”艾德維說，“我們擔心的是，這些環(huán)境風險造成的后果，可能不僅僅是經(jīng)濟上的，還可能引發(fā)沖突和嚴重的社會動亂。因此盡管這樣的影響可能會是今后遙遠的事，但是各國共同加緊面對還是很重要的。世界經(jīng)濟論壇要做的，就是在我們所有的利益攸關方之間匯聚支持力量，促進交流，加強合作，力爭形成積極的影響。”

?

相關鏈接:

?