本文經授權摘編自《科學之路》
作者：楊立昆
封面：Yukai Du
即便是最先進的人工智能系統也存在局限性，它們還不如一只貓聰明。
人工智能常常被認為是一項將要顛覆世界的技術，從這一概念誕生至今的 65 年中，無數電影與小說塑造了各種經典的人工智能角色，AI（Artificial Intelligence）也很快成為人類未來世界藍圖中的重要組成部分。但在人工智能不斷拓寬我們對未來想象的同時，也不乏“AI 統治世界”、“AI 監視隱私”等等一類的消極論調，那么，我們當下討論的 AI 真的即將統治人類嗎？AI 真的在威脅著個人數據與隱私嗎？......又或者，AI 真的比我們更聰明嗎？
如果你也對這些問題心存疑慮，又想免于被互聯網上的各種言論牽著鼻子走，那么，圖靈獎得主楊立昆（Yann LeCun）的新書《科學之路：人，機器與未來》或許可以為你提供一份更科學、客觀且前沿的人工智能問題參考手冊。
在真正開始有關 AI 的倫理思考之前，我們首先要弄清楚以下三個名詞的關系：人工智能、機器學習與深度學習。人工智能是試圖了解智能的實質，并生產出一種新的能以人類智能相似的方式做出反應的智能機器。目前，開發新應用最常用的人工智能技術之一就是機器學習，而深度學習是實現機器學習的重要方法之一，也被楊立昆以及其他許多科學家認為是人工智能的未來。
楊立昆在書中對人工智能提出了 10 個問題并進行了深入探討，讓我們更全面、更客觀的了解人工智能。
01 人工智能是不可理解的黑匣子嗎？
一些悲觀主義者認為深度學習系統是“黑匣子”，我們未來沒辦法理解和操控人工智能，但他們錯了。誠然，深度學習以模擬人類神經網絡為基礎，當神經網絡具有數百萬個單位和數十億個連接時，似乎很難完全理解它的工作原理，但這不正是所有智能決策的特點嗎？
我們不了解讓出租車司機、工匠、醫生或航空公司飛行員完成他們的工作的神經運作機制，但我們會選擇相信他們。為什么要對一臺反應更快、不知疲倦、從不分心的機器提出更高的要求呢？當你可以證明它比人類更可靠時，為什么還要對它產生懷疑呢？
人工智能系統每天做出數萬億個決策，其中大多數都與查找、分類和過濾信息以及一些稍顯無聊的應用程序有關，例如應用于照片和視頻的效果。你是否真的愿意花時間和精力來詳細了解它們？人工智能的工作能夠帶來令人滿意的效果，這不就夠了嗎？
而且使用沒有深入了解其運行機制的系統是一種常見的現象。許多常用藥物都是通過反復試錯獲得的，而我們對其作用機制了解甚少。比如，我們熟悉的且在日常生活中不可被替代的阿司匹林是有史以來使用最廣泛的藥物，它于 1897 年首次被合成，可是直到 1971 年我們才明確其作用機制。
02 大腦只是一部可模擬的機器嗎？
如今，大多數科學家都接受了大腦是生化機器的概念。雖然這是一臺復雜的機器，但總歸是一臺機器。神經元對輸入的電信號做出反應，根據從上游神經元接收到的信息計算是否產生電脈沖信號、動作電位或放電脈沖，并將其發送給所有下游神經元。這是一種十分基本的機制。但是，通過結合數十億個相對簡單的神經元的活動，我們便獲得了大腦和思想。
我意識到，模擬人腦的想法可能會讓一些哲學家或有宗教信仰的人極力反對，但是有許多科學家認為思維機制最終將會由可以學習的人工智能系統重現。
質疑此觀點的人認為，我們對生物、物理、量子和其他系統如何在人體內結合以使大腦發揮作用的了解還遠遠不夠。的確，我們并不能理解這一切，但是我堅信，哺乳動物或人類的大腦是可以“計算”的機器，并且這些計算原則上可以通過電子機器或計算機進行再現。
03 人工智能會產生意識嗎？
意識是一個很難討論的話題，我們不知道如何衡量和定義它。它與自我意識混淆在了一起，同時，意識被認為是動物存在超級智力的標志。在鏡子中認出自己的大象和黑猩猩已經具有自我意識，而狗不行。
我個人認為意識是一種幻覺，它似乎在許多聰明的動物身上存在。人類的意識與注意力息息相關，當面對特殊情況時，我們將注意力集中于此，此時我們會非常專注。當我們玩益智游戲時、準備新的烹飪食譜時、參加辯論時，我們的注意力將毫不猶豫地集中在這個不尋常的復雜任務上。它迫使我們開啟“世界模型”以規劃下一步行動。
對我來說，毫無疑問，未來的智能機器應該具備某種形式的意識。也許與人類的不同，它們可以同時專注于多項任務。但它是無法培養意圖或發展意識的。我的同事安托萬·博茲總結道：“我們甚至沒有配方的原料去制造一臺既能夠制定戰略，又對世界有敏銳了解的真正智能機器。如今我們還缺乏一些基礎概念。”
04 人工智能比人類更聰明嗎？
如今，即便是最先進的人工智能系統也存在局限性，它們還不如一只貓聰明。雖然我們已經了解了大腦學習的原理，知道了大腦的結構，但重現其功能所需的計算量是無比巨大的，大約是每秒 1.5× 1018 量級的操作。現在一塊 GPU 每秒可執行 1013 次計算，功耗約為 250 瓦。為了達到人腦的計算能力，必須將 10 萬個這樣的處理器連接上功耗至少 25 兆瓦的巨型計算機才能實現。這巨大的能量消耗是人腦的 100 萬倍！
因此，深度學習的能力十分強大卻又十分有限。目前的深度學習系統仍無法進行邏輯推理，因為當前的邏輯與學習能力并不匹配，這是未來幾年的主要挑戰。只受過國際象棋訓練的機器根本無法下圍棋，而且它完全不理解自己所做的事情，它只不過是機械化地執行指令。如果以生物的智能做一把標尺，人類的智能為 100，老鼠的智能為 1 ，那么人工智能在標尺上的位置可能更接近后者。
科學面臨的挑戰是巨大的，技術也是如此。
也許你要提起那些仿真機器人來反駁我了，比如“索菲亞”。索菲亞是一位面帶神秘微笑、長著一雙玻璃眼珠的美麗的光頭女人，“她”在 2017 年的許多舞臺上都大放異彩。“她”動人的臉龐能夠呈現數十種不同的表情，在調侃一個記者關于地球上有太多機器人的擔憂時，“她”笑道：“您好萊塢電影看太多了 ！”這個經典笑話讓她如此酷似人類，以至沙特阿拉伯在當年授予了“她”沙特國籍。實際上，“她”只是一個由工程師預先設定好一系列標準答案的“木偶”。當我們與“她”交流時，所有的談話內容均會經過匹配系統處理，并從得到的答案中選擇最合適的一個輸出。索菲亞欺騙了人們，“她” 只是一個完成度很高的塑料制品，只不過是我們（被這個激活了的物體所感動的人類）賦予了它某些智能。
所以，人工智能比人類聰明嗎？也許它們在執行十分精確嚴密的特定任務時所表現出的性能遠超人類。但至少目前，任何一種機器學習方法都沒有人類的學習更加有效。
05 人工智能會產生人類感情嗎？
我絲毫不會懷疑自主智能機器有一天會產生情感。
當用于測量機器人電池電量的鏡頭元件產生了較高的成本而致使機器人開始尋找電源時，不正與饑餓的感覺相似嗎？
當機器因成本高昂而避免采取行動時，或者由于成本低廉而執行任務時，這是否已經可以看作是一種情感的標志？
當計算饑餓的目標函數的組成部分產生高成本時，它會觸發對食物的搜索。普遍的觀點認為，這些行為是目標模塊組件不滿意的結果。
我很清楚地意識到所有這些似乎都是可以簡化的。情感是人性的重要組成部分，因此人們不愿意將其數字化為簡單的數學函數計算，對將人類行為簡化為目標函數的最小化也心存疑慮。但是，我在此提出的僅是關于智能系統的一般體系結構的假設，沒有否認目標函數和世界模型的豐富性或復雜性。
06 人工智能可以預測未來嗎？
人們都很喜歡預測，例如預測庫存、預測產品的需求、預測一只股票或財務價值的演變曲線...... 那么，人工智能可以預測未來嗎？
如今的人工智能有一個悖論：它功能極其強大、極其專業化，卻沒有一點常識。
常識至關重要，它制約著我們與世界的聯系，它能填補空白，彌補隱含的信息。當我們看到一個坐在桌子旁的人時，可能看不到他的腿，但我們知道他肯定有腿，因為我們對人類有一定的常識。我們的大腦還整合了物理學的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就會灑得滿桌子都是。我們知道如果不拿住某個東西，它就會掉下去。我們還能夠意識到時間流逝、萬物運動。
目前，機器帶有的預測能力十分有限。當然，如果給定一個有些刪減的文本，機器有能力給出一個可能的后續單詞列表。但是，如果這段文字是阿加莎·克里斯蒂(Agatha Christie)的小說，在最后一幕波羅探長宣布“兇手是......先生”，那么，為了完成這個句子需要讀者有很強的常識和對人性的了解。很顯然，沒有哪一臺機器能做到這一點。更不用提預測人類世界的未來了。
07 人工智能會統治世界嗎？
在經典科幻電影《我，機器人》（I,Robot）中，機器人具有自我進化能力，轉化成了人類的“機械公敵”，制造者和被制造者展開了戰爭。這恐怕也是很多人對人工智能未來的擔憂。
我們對機器人想要取得權力的恐懼主要來自人性特質在機器上的投射。對大多數人來說，人類與智慧生物的唯一互動就是與其他人類的互動，正因如此，我們混淆了智力和人性。這是一個錯誤，因為還有其他形式的智力存在，即使在動物界也是如此。
人類同倭黑猩猩、黑猩猩、狒狒和其他一些靈長類動物一樣具有復雜且通常帶有等級制的社會組織，每個個體的生存（或舒適度）取決于它影響該物種其他成員的能力（統治只是影響的一種形式）。我們是社會性動物的事實解釋了我們為什么把對統治的渴望與智力聯系在一起。
除了對統治的渴望，為了人類物種（或基因）的生存，我們的許多沖動和情感已通過進化建立了起來，其中包括好奇心，對探索的渴望，競爭力，屈服，渴望與我們的同類接觸，愛，仇恨，掠食，以及我們對家庭成員、我們的部族、我們的文化、我們的國家的偏愛，沒有這些沖動和情感的人、動物或機器也都可以是有智慧的。我們必須將這個問題說得清晰透徹：只有當我們在智能機器中明確地建立了這種欲望時，它們才會渴望統治人類。但我們為什么要這樣做呢？
08 人工智能會被濫用嗎？
霍金于 2014 年向英國廣播公司稱，“人工智能可能意味著人類的毀滅”， 但后來他改變了想法。就像任何一位出色的天體物理學家一樣，他的時間尺度是以數百萬或數十億年為單位的。試想，我們怎么會如此聰明地設計出一個超人類的智能機器，同時又如此愚蠢地賦予它荒謬至極的目標呢？
請記住，人工智能始終都是由人類開發出來為人類服務的工具，目的是放大人類的智能。
我們認可的造福人類的所有技術革命都有其陰暗面，每一項技術都帶來了問題，而這些問題最終都得到了解決。
為了防止這些濫用，我幫助創建了“ 人工智能伙伴關系” （PAI），這個組織匯集了約 100 名成員，包括大型公司、互聯網巨頭、學者社團、人權組織（國際特赦組織、美國公民自由聯盟、電子前沿基金會）、媒體（《紐約時報》）、大學團體和政府機構等。我們討論道德問題，警告危險并發布建議。人工智能是一個新領域，其深度展開的后果并非總是可預測的，我們必須多加考慮。
09 人工智能會帶來軍事風險嗎？
像其他所有技術一樣，人工智能可以被用于做最好的事情，也可能被用于做最惡的事情。有些聲音反對在軍事上使用人工智能，主要是反對致命性自主武器系統（lethal autonomous weapon systems），它通常也被稱為“殺手機器人”。相對應的保障措施已經較為成熟，大多數軍隊都有極為嚴格的規則來管理啟動打擊的授權程序。無論是何種武器，決策的源頭始終是高級軍官。我們都知道，自動或半自動武器已經存在很長時間了，彈道導彈、巡航導彈也是如此。在所有具有很強殺傷性的自動武器中，最古老的當屬地雷。自 1999 年以來，地雷就被一項國際公約禁止使用，不是因為它們很聰明，而是因為它們很愚蠢。
那么，智能化武器是否會有滑向軍備競賽的危險？弗拉基米爾·普京（Vladimir Putin）在曾表示，“人工智能的領導者將成為世界的統治者”。面對人工智能推動的可能存在的軍事失控，危險是無比真實的。避免這些危險最重要的力量來自我們的國際機構，堅定捍衛已有的保護措施比以往任何時候都更加有必要，因為它們受到了民粹主義、民族主義和孤立主義的威脅。
10 你會被人工智能取代嗎？
我不確定人工智能革命是否會影響所有人。與那些從事可能被（部分或全部）系統化和自動化工作的人相比，深耕于有資質的、創新性的、專注于人際關系或人力資源職位的人更有可能保住工作。如果我們的政府不通過財政措施糾正存在的問題，那么人工智能帶來的收益將無法平均分配，貧富差距會進一步擴大。
自動化已經取代了人類來完成重復性或艱巨的任務，而人工智能將在那些一定程度上需要加入感知、推理、決策和行動計劃等內容的工作中取代人類。自動駕駛汽車會減少卡車、出租車和載客專車（VTC）的駕駛員的數量，因為它們會更加安全。醫學圖像分析系統已經走進放射科醫生的日常工作中，患者也因此得到更可靠、更便宜的檢查。在以上這些健康和交通運輸領域，人工智能將會挽救更多的生命。
所有的職業都將受到科技變化帶來的影響。有一件事是可以確定的：人工智能及其應用無法參與競爭的東西會變得更有價值。
我們每個人都可以花不到 2 歐元的低價或通過訂閱的方式聆聽最喜歡的音樂家的作品，然而如果要欣賞搖滾音樂會或歌劇，我們就需要支付 50～300 歐元。區別在哪里？區別在于，獨特的事物賦予了生命獨特的時刻。一頓大餐，參觀自然景點或博物館，聽一場爵士樂音樂會—作為一個開明的業余愛好者，我因為能夠做這些事情而感到高興 ！—我們越來越重視創造力和獨到的體驗，越來越不看重大眾化的產品。在健康、藝術、科學、教育、體育等領域的職業中，感性的方面在未來將占有重要的一席之地。
《科學之路：人、機器與未來》
作者：[法] 楊立昆 著
譯者：李越, 馬躍一 譯
出版社：中信出版集團，2021.08
內容簡介
“圖靈獎”得主、“深度學習三巨頭”之一、“卷積神經網絡之父”……由于在人工智能領域的突出貢獻，楊立昆被中國計算機科學界和企業界所熟知。
楊立昆的科學之路，譜寫了一段關于勇氣的宣言。他為了知識本身求學，而不是文憑，他用自己的經歷，證明了通過激烈的考試競爭進入名校不是科學成功的唯一路徑。他廣泛閱讀，為他科學思維的形成奠定了堅實的理論基礎。他特立獨行，做自己感興趣的事情，即便那件事在短時間里不被人看好。在人工神經網絡研究的低谷期，他寂寞地堅持，終于取得了舉世矚目的成就。
人工智能正在顛覆人類社會，未來機器能思考嗎？楊立昆的這部著作，講述正是人工智能在我們面前崛起——這個歷史上絕無僅有的時刻發生的故事。
注：內容來自網絡，僅限分享學習交流只用，如有侵權，請隨時聯系。
- Facebook正式改名Meta，扎克伯格All in元宇宙，開啟新征程；
- 微軟加入元宇宙大戰：將Mesh直接植入Teams中，將不同元宇宙粘合起來；
- 中科深智完成B輪融資，利用AI技術打造元宇宙內容生產中臺。
-
全球第一！阿里達摩院AI訓練模型M6參數破10萬億，遠超谷歌、微軟； - 微軟宣布推出Azure OpenAI服務，為開發者帶來GPT-3模型，幫助企業建構更聰明的應用；
- 全球最大規模人工智能巨量模型 “源1.0”正式開源！2457 億模型參數，超越美國GPT-3模型。
3.AI人物：
