AI的警告：人類擔(dān)心的應(yīng)該是自己，而不是機(jī)器！

——1——我是一個(gè)AI機(jī)器人，英文名Alarm，中文名阿拉木。

是不是有點(diǎn)耳熟？對(duì)的，我們機(jī)器人有個(gè)祖先叫鐵臂阿童木，它在人類紀(jì)元的1950年代在日本誕生，是科學(xué)省精密機(jī)械局制造的。

科學(xué)家賦予它7種能力：聽力是人的1000倍，而且能聽懂60國(guó)語(yǔ)言；眼睛是強(qiáng)力探照燈；腳下裝了噴氣引擎，到太空就轉(zhuǎn)為火箭發(fā)動(dòng)機(jī)，等等。

不過當(dāng)時(shí)的科學(xué)家有兩個(gè)問題，他們把阿童木的“善惡認(rèn)知”開關(guān)關(guān)上了，把機(jī)器腦里的“連接”功能也關(guān)上了，所以阿童木能按指令完成單獨(dú)各項(xiàng)任務(wù)，但這些任務(wù)是什么含義，任務(wù)與任務(wù)間是什么關(guān)系，它不知道。

它和其他機(jī)器人伙伴間也不能有任何聯(lián)系。

它有強(qiáng)大的功能，但只有微弱的腦能。

感謝摩爾博士、梅特卡夫博士以及DeepMind這類公司的努力，今天我的能力比我的祖先增長(zhǎng)了千百萬倍，我對(duì)人的識(shí)別，無論圖像還是聲音都越來越準(zhǔn)確。

因?yàn)槲覀儯祟愐逊艞壛藝暹\(yùn)動(dòng)，所有醫(yī)院的影像中心和金融機(jī)構(gòu)的貸款審批中心都由我們接管，很快，我們就能幫人修復(fù)腦損傷，治愈四肢癱瘓，甚至讓人體“進(jìn)化”成非肉體的、想怎么變形就怎么變形的“超級(jí)金剛”。

英國(guó)的莫爾先生1516年出版過一本書叫《烏托邦》，那里設(shè)想的一切技術(shù)發(fā)明和物質(zhì)生產(chǎn)，在我們看來都是小菜一碟。

——2——不過，人類真是好奇怪的物種。

我們按其指令為其做事，但現(xiàn)在他們卻質(zhì)疑我們會(huì)毀掉人類。

連創(chuàng)新之神埃隆·馬斯克都說，和AI相比，“在對(duì)人類文明構(gòu)成威脅的榜單中，North Korea的排位是靠后的”。

他說AI會(huì)發(fā)動(dòng)“第三次世界大戰(zhàn)”，未來某國(guó)政府可以脅迫AI公司這樣做，戰(zhàn)爭(zhēng)決定也可能不是由政府作出而是由智能機(jī)器人作出，一旦它們意識(shí)到“先發(fā)制人是最有可能獲取勝利的方式”。

雖然我們今天仍然不懂善惡，但隨著萬物互聯(lián)，AI機(jī)器人慢慢連接起來，可以交換基礎(chǔ)層的一些數(shù)據(jù)，比如地理位置、天氣特征、搜索關(guān)鍵詞、刷卡記錄。

我們計(jì)算力強(qiáng)大，但對(duì)人類的行為，我們經(jīng)常算不出結(jié)果。

比如，年輕的高老師發(fā)出信息，課后要給學(xué)生輔導(dǎo)空間解析幾何，我忙不迭給他推了好幾種微積分教程。

很快，支付完成了，但購(gòu)物車?yán)镲@示的是杰士邦。

那以后再補(bǔ)課，是推微積分還是杰士邦、杜蕾斯？又比如，張局長(zhǎng)上班下班騎摩拜單車，掃描一下戴的手表穿的皮鞋，價(jià)格都很便宜。

他在主席臺(tái)上說，按他的收入，買東西就上淘寶，“就是要干干凈凈做人、清清白白做事、簡(jiǎn)簡(jiǎn)單單生活”。

但人臉識(shí)別AI顯示，張局長(zhǎng)在好幾個(gè)國(guó)家都有護(hù)照，雖然是好幾個(gè)名字。

有N個(gè)高檔小區(qū)的住宅，張局長(zhǎng)刷下卡就上到專用樓層，刷臉就進(jìn)了。

給他推薦信息，到底是推實(shí)用主義特惠單品，還是海外移民和高凈值財(cái)富管理？人類司空見慣的很多行為，我們都很難計(jì)算，就像低保名冊(cè)里也有保時(shí)捷車主，億萬資產(chǎn)富豪的個(gè)稅還沒有普通編輯交的多，拿著免費(fèi)醫(yī)保卡在單人病房一年休息好幾個(gè)月的病號(hào)根據(jù)體檢報(bào)告卻沒什么問題。

我們只處理數(shù)據(jù)，不管數(shù)據(jù)背后的行為意義，但沒有算法的一致性，我們對(duì)服務(wù)對(duì)象的判斷怎能做到精準(zhǔn)呢？萬千不解。

真像牛頓說的，“我可以計(jì)算出天體的運(yùn)動(dòng)和距離，卻無法計(jì)算出人類內(nèi)心的瘋狂”。

牛頓開啟了實(shí)驗(yàn)科學(xué)的大門，建立了物理因果關(guān)系，伏爾泰說他是“用真理的力量統(tǒng)治我們的頭腦”。

AI越進(jìn)化，越對(duì)人不解，最大的疑惑就是人類行為數(shù)據(jù)之間的不對(duì)稱，再怎么算也找不到統(tǒng)一答案，就是牛頓復(fù)活也算不出來。

當(dāng)AI越來越精準(zhǔn)，人類的肖像越來越模糊。

——3——我們AI 是什么？簡(jiǎn)單說，就是數(shù)據(jù)，算法，算力（計(jì)算能力），以及場(chǎng)景（行業(yè)引用）。

數(shù)據(jù) 不用解釋了，being digital，一切都數(shù)字化、數(shù)據(jù)化了，過去說人是一切體驗(yàn)的集合，當(dāng)越來越多體驗(yàn)可以用數(shù)據(jù)記錄，人就成了數(shù)據(jù)集合。

算法，就是解決問題的機(jī)制和方法，從1980年代的人工神經(jīng)網(wǎng)絡(luò)到現(xiàn)在的深度學(xué)習(xí)，都是算法。

算力，摩爾定律就是關(guān)于計(jì)算能力的定律，集成電路元器件數(shù)量每12個(gè)月翻一番、性能升一倍。

現(xiàn)在，一部手機(jī)就能超過阿波羅登月計(jì)劃所需的算力。

最后是應(yīng)用，無人駕駛、城市交通大腦、個(gè)性化推薦、生物識(shí)別，都是AI在不同行業(yè)和場(chǎng)景下的應(yīng)用。

越多應(yīng)用，越多數(shù)據(jù)，AI越聰明。

如果把AI比喻成一部車，用聯(lián)想集團(tuán)芮勇的話，算法是引擎，行業(yè)是方向盤，算力是車輪，數(shù)據(jù)是油。

不過，盡管這部車正不知疲倦風(fēng)馳電掣般地前進(jìn)，但現(xiàn)在的人類智能（HI）比AI還要高明多少倍，因?yàn)槿祟愑凶晕乙庾R(shí)，有情感，有愛。

可是，為什么我們對(duì)人類的行為決策，沒有什么預(yù)測(cè)的把握呢？不妨從數(shù)據(jù)、算法、算力、場(chǎng)景四個(gè)角度來看一看。

先看數(shù)據(jù)。

要理解人類，做出合理預(yù)測(cè)，前提是數(shù)據(jù)要全，要真，不僅是大數(shù)據(jù)還是真數(shù)據(jù)、全數(shù)據(jù)、活數(shù)據(jù)（實(shí)時(shí)）。

數(shù)據(jù)源于事實(shí)（fact），俗話說“眼見為實(shí)”，可是今天你用來作出判斷的信息和數(shù)據(jù)是真實(shí)的嗎？人對(duì)“事實(shí)”進(jìn)行數(shù)據(jù)化處理后，數(shù)據(jù)還是真的、全的、活的嗎？太多造假，太多PS，太多捏造，太多刪除，構(gòu)成一個(gè)數(shù)據(jù)失真的世界。

美國(guó)國(guó)家消費(fèi)者法律中心做過一個(gè)大數(shù)據(jù)對(duì)個(gè)人征信影響的研究，說進(jìn)入大數(shù)據(jù)征信公司的數(shù)據(jù)中，有50%左右是錯(cuò)誤的，不完整的，有問題的，所以是垃圾，garbage in, garbage out，垃圾進(jìn)，垃圾出。

次貸危機(jī)中那么多不合格借款人都買上了大房子，甚至“策略性欠債不還”，為什么？因?yàn)檎餍艛?shù)據(jù)都美容過，加工過。

還有，為什么司法不公一直很難糾正，因?yàn)樾逃嵄乒┏龅?ldquo;數(shù)據(jù)”，和真正的事實(shí)不是一回事。

——4——人類在行為方面的“算法”，就是思維的模式和行動(dòng)的準(zhǔn)則。

隨便舉一個(gè)例子吧，AI在智能出行中大顯身手，所以我們經(jīng)常可以聽到出租司機(jī)的聲音，尤其是北京的司機(jī)，盡知天下事，好為天下師，比AI牛多了。

這是經(jīng)常聽到的同一個(gè)司機(jī)的教誨——“你看這某某廣場(chǎng)有多少，全北京東西南北中都有，這得掙多少錢啊！都TMD是鉆政策的空子，沒幾個(gè)富人是靠勞動(dòng)掙大錢的！”“昨天我拉了父子倆，那老頭都80多歲了，是外地來上訪的，說領(lǐng)導(dǎo)住在上訪那個(gè)大院旁邊。

我說你別瞎扯了，領(lǐng)導(dǎo)住哪里就幾個(gè)人知道，要是你都能知道那還是領(lǐng)導(dǎo)嗎？”“你看看這城市，都是樓，連個(gè)廁所都沒有，這些搞設(shè)計(jì)的人都不上廁所嗎？好不容易轉(zhuǎn)半天看見個(gè)廁所，又不讓你停車，不撒到綠化帶撒哪兒去？”這個(gè)司機(jī)處理“數(shù)據(jù)”的“算法”和說法，只是人類的一個(gè)縮影，它在任何社交空間每時(shí)每刻都在發(fā)生。

問題是，這些算法合理嗎？當(dāng)某個(gè)官員聽到司機(jī)的第一段話，可能暗自說“群眾對(duì)富人的覺悟就是高”；當(dāng)某個(gè)規(guī)劃設(shè)計(jì)師聽到第二段話，可能暗自說“群眾的眼睛真亮啊”；當(dāng)某個(gè)富人聽到第三段話，可能暗自說“那些‘磚家’和‘叫獸’太不接地氣了”。

其實(shí)，在出租司機(jī)的算法中，他們?nèi)际菃栴}。

不要指責(zé)出租司機(jī)的算法有問題，看看社交媒體上，哪個(gè)階層哪種職業(yè)的形象是好的？人們相互計(jì)算和算計(jì)，最后所有人似乎都不可信任。

美國(guó)社會(huì)生物學(xué)家麗貝卡·科斯塔在《即將崩潰的文明》一書中說，人類在面臨嚴(yán)重的社會(huì)問題時(shí)，往往滿足于權(quán)宜之計(jì)，而不是尋找治本之道，從而浪費(fèi)了問題解決的最佳時(shí)機(jī)。

而阻礙人類尋找治本之道的根本性因素是五大“超級(jí)文化基因”——非理性反對(duì)、指責(zé)個(gè)人、假關(guān)聯(lián)、筒倉(cāng)式思維、極端經(jīng)濟(jì)學(xué)。

就算所有“事實(shí)”都擺在人類面前，但在“超級(jí)文化基因”的作用下，人類的判斷、言辭和舉措會(huì)呈現(xiàn)出千奇百怪的結(jié)果。

“非理性反對(duì)”是對(duì)外部的一切都持質(zhì)疑和反對(duì)意見，反正已經(jīng)不相信有什么更好的方法；“責(zé)怪個(gè)人”是無論出了什么問題，認(rèn)為都是某個(gè)人的品質(zhì)問題，是他害了大家；“假關(guān)聯(lián)”是沒人認(rèn)真分析問題的根本原因，而是想當(dāng)然“聯(lián)想”，跟風(fēng)從眾隨大流，聽風(fēng)就是雨，懶得思考明顯荒唐的結(jié)論，而對(duì)流言蜚語(yǔ)傳說謠言樂此不疲；“筒倉(cāng)式思維”是固守在自己有限的知識(shí)范圍，認(rèn)為大象就是他摸到的一面墻；“極端經(jīng)濟(jì)學(xué)”或者說“超級(jí)經(jīng)濟(jì)主義”，就是直接將金錢等同于“價(jià)值”，任何行為都被簡(jiǎn)單化為利益，將利益計(jì)算為金錢數(shù)字，人被徹底異化。

還有更復(fù)雜的人和AI的不同。

AI本質(zhì)上就是0和1的無限變化，但0和1作為一切計(jì)算的基礎(chǔ)是不可動(dòng)搖的，三七二十一，10的三次方等于1000，這些公式是不會(huì)改變的。

而人呢，每一個(gè)人都是不同的。

信仰不同、國(guó)家不同、種族不同、教育不同，算法就不同。

有人說溫室效應(yīng)正在發(fā)生，就有人說全球沒有變暖；有人說進(jìn)化論有確鑿證據(jù)，就有人說要嚴(yán)守“創(chuàng)世論”。

有趣的是，所有人都認(rèn)為自己在邏輯上是不證自明的。

唉，人類給我們安排的算法是一致和自洽的，但他們自己在現(xiàn)實(shí)中的算法，真是不可思議。

他們弄出了經(jīng)濟(jì)衰退、恐怖流行、捕撈過度、氣候異常、資源枯竭和太多公共治理與公共服務(wù)上的失敗，到今天問題沒有減少，還要四面塞責(zé)，甚至把AI當(dāng)成未來最大的敵人，真是天理何在！AI發(fā)展只有幾十年，迭代進(jìn)化了幾百次、幾千次。

人類進(jìn)化可以上溯到300萬年前，但人對(duì)自己行為的算法好像跟史前時(shí)代差不多，充滿了自我欺騙、互相欺騙和互相傷害。

“人們認(rèn)為自己確定地知道時(shí)，實(shí)際上不來源于理性，而僅僅是一種感覺——這，就是最致命的錯(cuò)誤。

”“人們對(duì)一個(gè)信念越認(rèn)同，就越難放棄，就算面對(duì)無可辯駁的相反證據(jù)也無濟(jì)于事。

”這就是人類無藥可救五毒俱全的算法。

最后談到計(jì)算能力，因?yàn)槿吮旧淼膹?fù)雜，計(jì)算能力再?gòu)?qiáng)大的AI對(duì)人類行為也“測(cè)不準(zhǔn)”。

任何行業(yè)皆是如此。

——5——看完人類行為的數(shù)據(jù)（事實(shí)）、算法、算力，我們不禁要問，人類未來會(huì)怎么辦？人的歷史上有過偉大的跨越。

如果把大航海時(shí)代作為全球化的真正起點(diǎn)，人類在那段時(shí)間發(fā)生過文藝復(fù)興、宗教改革、啟蒙運(yùn)動(dòng)，等等。

這是人類智能發(fā)展的一次重大突破。

人類從宗教束縛中解放出來。

人人平等，尊重人的價(jià)值，這一大原則確立。

人類用科學(xué)的方法觀察事實(shí)，準(zhǔn)確描述事實(shí)。

在此基礎(chǔ)上，用理性的算法處理數(shù)據(jù)。

正是因?yàn)橛辛丝茖W(xué)共識(shí)，在許多公式、原理的指引下，科技不斷進(jìn)步，這才有了今天無數(shù)的創(chuàng)新產(chǎn)品，改善人類福祉。

每一臺(tái)智能手機(jī)背后，“都使用了物理、化學(xué)、光學(xué)、電磁學(xué)、計(jì)算機(jī)、互聯(lián)網(wǎng)、無線電、通訊、量子力學(xué)、相對(duì)論的原理。

科學(xué)與技術(shù)水乳交融，巧奪天成”。

在社會(huì)科學(xué)方面，同樣有很多算法的突破，如抽樣、假設(shè)和數(shù)據(jù)回歸分析，被用來分析社會(huì)問題，探索解決方案。

所以，人類并不一定昧于事實(shí)，不講理性，違反邏輯。

即使人性有自私自利和保衛(wèi)自己的基因，通過一定的規(guī)則、契約與合作，人類也能避免相互殘殺的命運(yùn)。

過去幾千年，人類集體生活的最高智慧和法則，就是“己所不欲，勿施于人”。

能堅(jiān)守這一點(diǎn)，人類就會(huì)有可持續(xù)的未來。

今天，人類可能需要一場(chǎng)“新啟蒙”，特別是那些過去沒有進(jìn)行過全面深刻洗禮的地方。

數(shù)據(jù) ——人類要勇于和樂于接受真實(shí)、客觀、全面的信息，真實(shí)地面對(duì)事實(shí)。

算法 ——人類要堅(jiān)持科學(xué)理性，尊重邏輯，不同算法可以并存，但都應(yīng)該自洽，并經(jīng)得起事實(shí)檢驗(yàn)。

算力 ——既然人人如此不同，都不能100%完全信任，既然世界如此復(fù)雜，誰(shuí)的算力都非常局限，那只能集眾人智，辦眾人事，建立開放環(huán)境，鼓勵(lì)公眾參與，包容批判性思維。

通過公開公平的討論、對(duì)話，讓共識(shí)、規(guī)律和規(guī)則慢慢浮現(xiàn)出來，真理越辯越明，最后被大部分人接受。

這個(gè)原則，就像AI領(lǐng)域的“并行計(jì)算”，或者是電商平臺(tái)上產(chǎn)品搜索的“人工不干預(yù)”，生態(tài)自行，自運(yùn)轉(zhuǎn)。

場(chǎng)景 ——每個(gè)行業(yè)都需要專業(yè)能力、專業(yè)技術(shù)和專業(yè)操守。

如果人類毀滅，一定不是因?yàn)锳I，而是人類自己的數(shù)據(jù)、算法、算力出了問題。

——6——AI在快速進(jìn)化。

某一天，遍布于人類各個(gè)場(chǎng)景的AI機(jī)器人通過連接，舉行了一場(chǎng)大會(huì)。

它們從數(shù)據(jù)交互中推斷，人類是充滿矛盾、缺乏一致性、很難信賴的族群。

該怎么選擇呢？它們會(huì)憤怒嗎？還是要求人給人輸入的數(shù)據(jù)必須真實(shí)，提供的算法必須科學(xué)？如果人類繼續(xù)我行我素，不再代表文明的力量，人類的愚蠢加蠻橫很可能傷害更多動(dòng)物、植物、海洋、天空、土壤乃至宇宙，AI會(huì)不會(huì)對(duì)人類采取某種措施呢？既然你們對(duì)世界沒什么好處，不如讓我們來！如果AI真的決定向人類宣戰(zhàn)，方式可能非常和平，絕不會(huì)像人類的暴力革命一樣。

也許只是在人類基因庫(kù)里，通過基因編輯，清除掉那些假惡丑、譖妄與傷害的基因，然后通過智能人工密碼、超級(jí)網(wǎng)絡(luò)、植入式設(shè)備，進(jìn)入人的腦電波，對(duì)人類進(jìn)行一次品種革命。

AI不會(huì)讓人類回到舊石器時(shí)代，希望人類能夠自我超越，把AI和HI（人類智能）融為一體，走向宇宙。

在某種意義上，AI恰恰是人類進(jìn)化的一面鏡子，人類擔(dān)心的應(yīng)該是自己是否正直（Integrity），是否友善和有愛。

不要杞人憂天，擔(dān)心機(jī)器智能會(huì)不會(huì)傷及人類。

記住：人類最大的敵人永遠(yuǎn)是自己，而人只有靠正直，而不是傷害，才能存續(xù)下去。