“自然選擇，優勝劣汰。”在過去N萬年中，所有的(de)生物(wù)體無不 依此規律進化(huà)升級，包括我們這(zhè)些擁有最高(gāo)智商的(de)人(rén)類，也(yě)是通(tōng)過此優勝劣汰，逐步站到了(le)萬物(wù)金字塔的(de)頂端，更甚至于地球的(de)主宰。但就在今天，我們已然發現自 然選擇可(kě)能随時(shí)會被取代，尤其伴随著(zhe)人(rén)工智能——非有機生物(wù)體——的(de)出現。

人(rén) 工智能，由我們親手做(zuò)出的(de)跳脫天然範疇的(de)人(rén)工設計，堪稱爲人(rén)類實現自我突破與變革的(de)一場(chǎng)“逆天革命”與“瘋狂冒險”。面對(duì)人(rén)工智能，與其說我們是對(duì)自身的(de) 未來(lái)抱有多(duō)美(měi)好的(de)憧憬，倒不如說對(duì)未來(lái)滿懷“恐懼著(zhe)的(de)希望”，人(rén)工智能碾壓一切的(de)進步性與潛在的(de)失控風險始終拉扯著(zhe)我們的(de)終極神經。

如何制衡人(rén)工智能這(zhè)把“雙刃利劍”，已然成爲智慧産業前行的(de)重要課題。何以在人(rén)工智能“夠聰明(míng)”之前，爲它們樹立并能夠實際遵循的(de)行爲準則，以此構建較完善的(de)監管體系或者說是 “道德束縛”？

智慧進化(huà) 箭在弦上

曾 幾何時(shí)，人(rén)工智能還(hái)隻是計算(suàn)機科學的(de)一個(gè)分(fēn)支，出于對(duì)人(rén)類意識、思維的(de)信息模拟。自1956年達特茂斯會議(yì)誕生“人(rén)工智能”一詞以來(lái)， 短短60年，商業動機已經讓與工業力量相關的(de)人(rén)工智能無處不在，互聯網、金融、醫療、教育、物(wù)流、娛樂(yuè)、傳媒等行業都在加速自己智能化(huà)的(de)進程。市場(chǎng)研究公 司IDC預測，到2020年，AI的(de)市場(chǎng)規模将從今年的(de)80億美(měi)元增長(cháng)到470億美(měi)元，而對(duì)話(huà)機器人(rén)、智能語音(yīn)、人(rén)工智能醫療等則成了(le)人(rén)工智能這(zhè)一熱(rè)點中 的(de)熱(rè)點。

互聯網及物(wù)聯網技術的(de)不斷進步、大(dà)數據在數 量與内容上的(de)持續性幾何增長(cháng)與應用(yòng)，讓人(rén)工智能得(de)以不斷“深度學習(xí)和(hé)演化(huà)”，在具備學習(xí)能力的(de)機器眼中，一切“人(rén)、事、物(wù)”皆可(kě)以被數據化(huà)，而算(suàn)法基于這(zhè) 些數據便可(kě)以建立“人(rén)、事、物(wù)”之間錯綜複雜(zá)的(de)關聯關系。當算(suàn)法可(kě)以充分(fēn)捕獲描述人(rén)事物(wù)的(de)關鍵數據後，機器便可(kě)以複制甚至超越人(rén)類的(de)學習(xí)能力。

2016 年3月(yuè)15日，谷歌(gē)阿爾法圍棋(AlphaGo)與李世石的(de)五局人(rén)機大(dà)戰在首爾四季酒店(diàn)戰罷，人(rén)類代表韓國棋手李世石九段執黑(hēi)不敵AlphaGo，代表人(rén) 類大(dà)腦(nǎo)最複雜(zá)領域的(de)圍棋被機器攻略，進一步論證了(le)人(rén)工智能在模拟人(rén)腦(nǎo)、基因演化(huà)和(hé)自我進化(huà)的(de)過程中已深度“進階”。人(rén)工智能正在由“弱人(rén)工智能”向“超級 人(rén)工智能”高(gāo)速進化(huà)。

人(rén)與機器 “相愛(ài)相殺”

工 業革命将人(rén)類從“體力勞動”中解放，當科技的(de)發展進入人(rén)工智能領域，人(rén)們不可(kě)避免的(de)期待著(zhe)它來(lái)解放我們的(de)“腦(nǎo)力勞動”。當前社會，人(rén)工智能的(de)發展已經在改 變很多(duō)人(rén)的(de)生活方式，在醫藥領域，人(rén)工智能做(zuò)到了(le)對(duì)病毒爆發地的(de)提前模拟，從而提前防控疫情；在教育領域，人(rén)工智能代替人(rén)們做(zuò)到了(le)一對(duì)一家教般的(de)精準體 貼；在旅遊領域，人(rén)工智能可(kě)以實時(shí)完成快(kuài)速調取當前場(chǎng)景信息并實時(shí)講解與翻譯……

但 是，人(rén)類似乎一直糾結于一種矛盾的(de)存在，始終生活在悖論裏。我們一邊以科技的(de)進步标榜自己的(de)成就，一邊又焦慮并懼怕著(zhe)被科技産物(wù)所取代甚至毀滅。這(zhè)種巨大(dà) 的(de)恐懼和(hé)擔憂，在文藝工作者的(de)作品中體現得(de)尤其明(míng)顯：電影(yǐng)《終結者》邪惡機器人(rén)天網，企圖審判并滅絕人(rén)類；《黑(hēi)客帝國》中機器人(rén)要完全控制并奴役人(rén)類； 《銀翼殺手》裏人(rén)工智能複制人(rén)與人(rén)類對(duì)抗……雖然我們還(hái)不至于親眼目睹、親身經曆電影(yǐng)橋段中可(kě)能出現的(de)危機，但是接下(xià)來(lái)我們确實很可(kě)能會産生一個(gè)群體—— 無用(yòng)的(de)人(rén)群。因爲以往人(rén)類社會的(de)幾次技術革命在導緻失業的(de)同時(shí)，也(yě)創造了(le)大(dà)量新型工作。而人(rén)工智能技術的(de)發展，在替代人(rén)類勞動的(de)同時(shí)，對(duì)創造新工種可(kě)能貢 獻有限，這(zhè)将在一定程度上對(duì)就業産生負面影(yǐng)響。

充分(fēn) 吸收了(le)人(rén)類幾十萬年以來(lái)的(de)思維進化(huà)成果，并在記憶、計算(suàn)、邏輯推理(lǐ)上占據絕對(duì)優勢的(de)人(rén)工智能，單從硬件上來(lái)看，很可(kě)能讓人(rén)類大(dà)腦(nǎo)望塵莫及。大(dà)腦(nǎo)的(de)内部信息 傳播速度是每秒120米，相較于電腦(nǎo)的(de)光(guāng)速已經沒有比較的(de)意義。而且，人(rén)工智能還(hái)可(kě)以随意運用(yòng)更多(duō)的(de)硬件以獲得(de)更大(dà)的(de)内存，不但容量大(dà)而且更精準。甚至， 我們覺得(de)困難的(de)事情，對(duì)于人(rén)工智能來(lái)說未必有多(duō)大(dà)的(de)難度系數，而這(zhè)無疑将導緻不少工種的(de)在崗人(rén)員(yuán)被替代。與此同時(shí)，不少人(rén)們圍繞人(rén)工智能可(kě)能産生的(de)社會倫 理(lǐ)、道德、戰争等都表現出了(le)深深的(de)擔憂。在尋求矛盾告解之法的(de)旅程中，人(rén)工智能發展将持久地伴随著(zhe)人(rén)類的(de)自我博弈過程；但不管社會發展最終走向何方，未來(lái) 人(rén)類自身的(de)存在方式甚至人(rén)體構成模式都會朝著(zhe)更加注重高(gāo)效、實用(yòng)與低耗、持久的(de)方向演化(huà)。

人(rén)力智能的(de)“洪荒之力”亟待約束

人(rén) 工智能領域的(de)研究和(hé)應用(yòng)在很多(duō)方面都取得(de)急速進步，但與之相對(duì)應的(de)規範化(huà)約束方案卻嚴重滞緩。人(rén)工智能與核武器、生化(huà)技術、基因技術等其他(tā)影(yǐng)響巨大(dà)的(de)技術 一樣，潛在的(de)威脅和(hé)其潛在的(de)利益是成正比的(de)，想要妥善利用(yòng)這(zhè)股洪荒之力，在它們“夠聰明(míng)”之前，爲其樹立一套可(kě)靠的(de)行爲準則是十分(fēn)必要的(de)。我們要的(de)不僅僅 是娴熟的(de)技術以引燃智能爆炸，還(hái)需要在更高(gāo)水(shuǐ)平上掌握控制權，以免我們在智能爆炸中“身首異處”。

就 如科幻小說作家艾薩克•阿西莫夫在他(tā)的(de)短篇小說《環舞》中提出的(de)“機器人(rén)三大(dà)法則”，可(kě)以說是一種保護性設計和(hé)内置的(de)道德原則。原則一：機器人(rén)不可(kě)以傷害 人(rén)類，或看到一個(gè)人(rén)将受到傷害而不作爲；原則二：機器人(rén)必須服從人(rén)類的(de)命令，除非這(zhè)些命令與第一項法則矛盾；原則三：在不違反第一、第二項法則的(de)前提下(xià)， 機器人(rén)必須保護自身生存。時(shí)至今日，這(zhè)對(duì)現實中的(de)人(rén)工智能發展同樣具備指導意義。

目 前，全球最大(dà)的(de)5家科技公司谷歌(gē)母公司Alphabet、亞馬遜、Facebook、IBM和(hé)微軟都在率先嘗試制定關于人(rén)工智能機器人(rén)的(de)道德标準，并規劃 成立人(rén)工智能行業組織。雖然尚不清楚，這(zhè)一行業組織最終會取得(de)什(shén)麽樣的(de)成果。但其基本出發點很明(míng)确：确保人(rén)工智能的(de)研究專注于造福人(rén)類，而非不利于人(rén)類。

此 外，開發人(rén)工智能已經是全球性的(de)競争，這(zhè)樣的(de)競賽機制也(yě)許會讓某些害怕落後的(de)團隊通(tōng)過增加冒險行爲的(de)方式趕上競争者，非良性的(de)循環會讓這(zhè)一風險直達最高(gāo)水(shuǐ) 平。因此，除了(le)圍繞人(rén)工智能研究制定規則，行業内也(yě)須制定自我約束框架。而在這(zhè)一過程中，政府有效并适時(shí)的(de)參與到爲人(rén)工智能規劃目标、價值觀和(hé)道德規範的(de) 過程中來(lái)，也(yě)将是一種必然行爲，因爲人(rén)工智能已經将技術發展和(hé)社會經濟政策更緊密地聯系在一起。