腦科學與AI交叉領域中的開放問題及預測

腦科學與(yu) AI交叉領域

2019年年底，卡爾·施拉根霍夫博士（Karl Schlagenhauf）與(yu) 我合作出版了一套三卷本《腦與(yu) 人工智能》係列套書(shu) [1-3]。我們(men) 兩(liang) 位作者成長於(yu) 完全不同的文化，且素未謀麵：卡爾是一名對腦感興(xing) 趣的德國信息技術工程師和企業(ye) 家，而我是一名對人工智能（AI）懷有興(xing) 趣（雖然是名外行）的中國大學的腦科學教授和科普作家。

2013年初，一位共同的朋友，神經科學家漢斯·布勞恩（Hans Braun）教授介紹我們(men) 相識，此後我們(men) 就一直不斷通信，討論腦研究和AI方麵的一些開放問題、現狀評估和發展趨勢，討論怎樣看待兩(liang) 者的關(guan) 係以及媒體(ti) 有關(guan) 這些領域的“吸睛”報道，直至討論科學方法論和相關(guan) 的科學組織。這套書(shu) 就是我們(men) 的重要通信記錄集合，即使不說是絕無僅(jin) 有的話，也還是很獨特的。

撰文 | 顧凡及（複旦大學生命科學學院）

【科學|研究】腦科學與(yu) AI交叉領域中的開放問題及預測

▲《腦與(yu) 人工智能》係列，上海教育出版社2019年

我們(men) 這樣極其不同的兩(liang) 個(ge) 人得以維持並不斷加深友誼，源於(yu) 對腦科學和信息科學交叉領域的共同興(xing) 趣。並且，我們(men) 都喜歡理性思考的方法，而且總是渴望追究事物的原因和理由，而不是隨大流或囿於(yu) 學究式的思維。由於(yu) 經曆的不同，我們(men) 的觀點也有明顯差異，這時我們(men) 會(hui) 發揚科學爭(zheng) 論的古老傳(chuan) 統來尋求解決(jue) 。

在某些問題上，我們(men) 達成了共識，而在另一些問題上仍然存在分歧，甚至還有某些問題根本就找不到答案。一些新進展支持了我們(men) 兩(liang) 人或者其中一人的看法，並鼓勵我們(men) 進一步討論。一些進展甚至超出了我們(men) 最好的期望，或者提示我們(men) 或其中一人的觀點錯了，因此我們(men) 不得不重新考慮，並從(cong) 錯誤中吸取教訓。所有這些都激發了我們(men) 的熱情，重新聚焦要討論的問題，並不斷開啟新的爭(zheng) 論。這些爭(zheng) 論並非是要壓倒對方以顯示自己的高明，而是為(wei) 了探索事實的真相。

對我們(men) 來說不幸的，同時也是幸運的，是這套書(shu) 的出版時機——2019年底。在接下來的三年多時光中，人類遇到了兩(liang) 件大事——橫掃世界的新冠大流行和ChatGPT橫空出世——這都是我們(men) 當初交談時未能預見到的。這些事無疑分散了讀者對我們(men) 書(shu) 的注意，同時也是對我們(men) 書(shu) 中主要思想的嚴(yan) 苛考驗。

在此期間，在腦研究和信息技術的交叉領域中也發生了一些引起轟動的事件——雖然不能和上述兩(liang) 件大事相提並論——如馬斯克的神經聯結（Neuralink）腦機接口和霍金斯（Jeff Hawkings）的“千腦智能”理論。而引發我們(men) 討論的歐盟人腦計劃也即將到期，是非功過都到了將要蓋棺論定的時候。

令我們(men) 感到寬慰的是，雖然我們(men) 像絕大多數人一樣，未能預見到新冠大流行和ChatGPT這樣的具體(ti) 事件，但是回顧當初書(shu) 中對腦研究和AI中存在的開放問題、現狀評估和發展趨勢的總體(ti) 看法並沒有重大失誤。2023年5月21日，我們(men) 這套書(shu) 被授予“2022年上海科普教育創新獎成果獎（圖書(shu) 類）”一等獎，可以看作為(wei) 社會(hui) 公眾(zhong) 和專(zhuan) 家對我們(men) 這些觀點某種程度的肯定。

在這樣的特殊時刻，翻出2018年年中三本書(shu) 剛剛脫稿時我自己記下的“幾個(ge) 開放問題”和“幾點預期”，看看當時的這些認識是否經得起這五年裏驚濤駭浪的考驗，還是很有意思的。當然，這並非說我們(men) 的看法就一定都對，我們(men) 寫(xie) 那套書(shu) 的目的並非是給讀者什麽(me) 定論，而隻是提出問題，擺出自己的觀點和論據，重要的是希望引導讀者加入我們(men) 的思考和討論。即使完稿已是五年前的事，今天再重新審視這些問題並仔細思考，依舊不算過時。

下麵列出的內(nei) 容不管是對是錯，都是當時的原話。

幾個(ge) 開放問題：

腦究竟是一種信息處理係統還是一種提取意義(yi) 的機器？

腦的功能基元是什麽(me) ？（離子通道？突觸？神經元？功能柱？…）
對非陳述性記憶所得的研究結果可以都推廣到陳述性記憶嗎？
腦中的計算是什麽(me) 意思？神經元能進行圖靈意義(yi) 下的計算嗎？
智能是什麽(me) ？智能與(yu) 技能，智能與(yu) 學習(xi) 能力的關(guan) 係究竟是什麽(me) ？
意識和意識的內(nei) 容是一回事，還是兩(liang) 回事？
查默斯的“意識困難問題”是意識研究的瓶頸還是一個(ge) 偽(wei) 問題？
從(cong) 原則上來說是否有可能做到心智上傳(chuan) ？
有沒有自由意誌？如何解決(jue) 自由意誌和決(jue) 定論的矛盾？
大型腦計劃能解決(jue) 的問題和不能解決(jue) 的問題。
是否有可能對全腦進行逆向工程來揭開腦的奧秘，和解決(jue) 人工智能的終極問題？
工程是否應該或可能複製大自然進化的一切策略？有沒有腦樣計算（brain-like computing）？
人工智能與(yu) 腦研究的確切關(guan) 係是什麽(me) ？
仿神經芯片（neuromorphic chips）的前途如何？
機器翻譯能做到哪一步？
有可能在可預見的未來實現強人工智能嗎？如果能的話，應該不應該研發強人工智能？
有沒有“奇點”這一天？“奇點臨(lin) 近”的話可信嗎？
在馮(feng) 諾伊曼架構下，靠增強計算機能力能實現腦的一切功能嗎？

幾點預期：

技術將比腦科學發展得更快，但在可預期的未來，不會(hui) 出現“奇點”。技術將從(cong) 腦科學研究中尋求啟發，但是不能拷貝腦。這是因為(wei) 大自然和工程師所采用的方法有根本性的不同。因此腦研究與(yu) 工程技術依然會(hui) 平行發展，但是會(hui) 相互借鑒。建議把Brain-inspired的中文改為(wei) “腦啟發”代替“類腦”以避免誤解。

“大科學，團隊科學和公開科學”將在腦研究的基本數據搜集、臨(lin) 床數據搜集、圖譜和研究工具開發方麵取得顯著進展，但是難望在建立腦科學的基本理論框架方麵取得突破。

極少可能實現“心智上傳(chuan) ”和通過“逆向工程”建立人腦的全腦模型。無論對腦科學來說還是人工智能來說，當問題牽涉到心智、智能、意識等“內(nei) 心問題”時，麵臨(lin) 的共同瓶頸是“主觀性”，對此應該問的問題不是“主觀性是怎麽(me) 產(chan) 生的？”而是它產(chan) 生的“充分和必要條件”是什麽(me) ？在後一問題上會(hui) 有穩步進展，但是難望在可預期的未來得到解決(jue) 。在極端需要節能的條件下，“仿神經芯片”（neuromorphic chip）可能取得重要應用。但是不能確定其是否能發展成新一代計算機係統。這將主要取決(jue) 於(yu) 有多少人願意拋棄傳(chuan) 統計算機，而重新學習(xi) 這新一代計算機的“生態係統”。有望在介觀層次上，對許多局部神經回路的活動和機製研究上取得突破。

回顧差不多五年前寫(xie) 下的“開放問題”，提得並不係統，問題的大小和重要程度也參差不齊。其中一些，我已有了自己的判斷（有的已寫(xie) 在上麵的“幾點預期”中了），而對另一些則依然茫無頭緒。但這些問題至今依舊沒有公論，“開放”如故。在今天的短文中，不可能以上每個(ge) 問題逐一詳細討論，但可以看看，我們(men) 當初的主要預期是否能經得起這五年驚濤駭浪般的考驗。

書(shu) 中那些兩(liang) 人經過爭(zheng) 論而取得共識的地方，卡爾說服我要多於(yu) 我說服卡爾。最令我印象深刻的一處是卡爾的論斷：“物理學家特別是工程師在本學科中的表現優(you) 於(yu) 生命科學家，並且工程似乎是以指數速度發展，而神經科學和醫學的發展則可能隻是按線性發展。”一開始，對於(yu) 我——一位腦科學研究者——來說，這話聽上去確實有些刺耳。但接著卡爾就舉(ju) 出科技史上的大量案例，使我不得不承認這一現實。

實際上，新冠疫情和ChatPGT問世也可算是對卡爾論斷的明證：一邊是一種結構簡單到甚至算不算生命都難說的病毒肆虐全球，帶來巨大的生命損失和經濟損失，讓全世界最聰明的腦袋手忙腳亂(luan) ，至今找不到萬(wan) 全之策；另一邊，卻有人宣稱即將解開世界上最複雜的係統——人腦，可以在十年或幾十年裏用計算機拷貝人腦。

當馬斯克戴著口罩在發布會(hui) 上宣稱不久可以通過植入芯片使人腦和人工智能融為(wei) 一體(ti) 而成超人，一種巨大的諷刺感撲麵而來。（我讚賞Neuralink在技術上的重大進展，但它在思想上並無創新，而把人腦和AI融合起來打造超人則純屬迷思）[4]。

與(yu) 醫學的蹣跚形成鮮明對比的是計算機科學的一騎絕塵，在不足一個(ge) 世紀裏，從(cong) 發明第一台占滿整個(ge) 房間的笨重電子計算機到ChatGPT橫空出世，機器通過圖靈測試已經不是天方夜譚，當我們(men) 和聊天軟件對話時，如果不事先想好，刻意設置圈套，確實難以分辨對方是人還是機器。

【科學|研究】腦科學與(yu) AI交叉領域中的開放問題及預測

▲多層次的腦：腦的各個(ge) 層次相互影響，形成複雜的循環因果關(guan) 係。

卡爾早就提出，工程師不會(hui) 從(cong) 腦研究的結果中獲益太多，走他們(men) 自己的路並忽略生物模型會(hui) 有更好的結果。這也是我一開始難於(yu) 接受的。雖然現在依然有許多人宣傳(chuan) 人工智能的瓶頸在於(yu) 不了解腦，隻有拷貝腦才能取得實質性的飛躍[5,6] ，但這五年來發生的一切證明並非如此。如果說神經網絡和深度學習(xi) 在開始時還有點受腦啟發的影子（感受野的多層次投射），那麽(me) 其後ChatGPT的研發就完全是靠信息科學技術中的大模型和大數據了。

相反，走拷貝人腦的路線，無論在闡明心智機製方麵，還是在應用上，迄今為(wei) 止都沒有什麽(me) 驕人的成就。歐盟人腦計劃早就拋棄了拷貝人腦的目標，繼續馬克拉姆拷貝路線的“藍腦計劃”除了在神經元（或許還在皮層柱）層次上取得了一些仿真腦組織的成就，並未在更高層次上實現任何認知功能[5]。霍金斯的“千腦智能”理論，不僅(jin) 在神經基礎上站不住腳，在實踐上也依然是一紙空文[6]。已故的埃德爾曼模仿小腦所得的“仿腦機”（也就是達爾文機）雖然能在實驗室中自由穿越彎曲小徑，但今天真正在道路上行駛的無人汽車卻完全是機器學習(xi) 的產(chan) 物，與(yu) 小腦毫無關(guan) 係（當然埃德爾曼的工作對認識小腦機製有幫助）。

當然，我們(men) 的結論——“試圖在矽片上通過逆向工程建立一種生物腦並沒有太大希望”——還有待今後事實的進一步考驗。

五年來的事實一次又一次地證明：大型腦計劃“將在腦研究的基本數據搜集、臨(lin) 床數據搜集、圖譜和研究工具開發方麵取得顯著進展，但是難望在建立腦科學的基本理論框架方麵取得突破。”[1]確實，歐盟人腦計劃的最大成就是建立起供神經科學家共享的信息技術平台，藍腦計劃及其合作方美國艾倫(lun) 腦科學研究所的主要成就是發表了鼠腦各個(ge) 腦區神經元的分類圖譜，許多國家的腦計劃在連接組圖譜上取得進展，所有這些也許能為(wei) 將來的腦機製研究的突破提供基礎資料，但是它們(men) 本身卻並非是突破。正如陳省身教授所說,“科學上最偉(wei) 大的發現都不是計劃出來的”。對於(yu) 開創性的研究和發現，“我們(men) 想到的是充滿熱情的個(ge) 人和小團隊，就像小型研究快艇的船長及其船員，尤其是那些年輕的學生。”[1]不過，何時和何處會(hui) 湧現出這樣的個(ge) 人或小團隊，極難預言。

當前AI研發界中有一個(ge) 普遍的問題，就是混淆了腦功能中的第一人稱視角（主體(ti) 審視其內(nei) 心活動的視角）的問題和第三人稱視角（第三者從(cong) 旁觀察的視角）的問題。許多腦功能，特別是高級功能，尤其是心智，可以從(cong) 兩(liang) 種不同視角來看：第一人稱視角和第三人稱視角。前者如果要用一個(ge) 詞來表達，可能叫“內(nei) 心活動”；後者如果也要隻用一個(ge) 詞來表達，可能就是“行為(wei) ”。

目前，“心智”還沒有一個(ge) 公認的確切定義(yi) ，往往用其所涵蓋的內(nei) 容來說明。例如，維基百科的心智（Mind）條目中就是這樣描述的：“心智是一組認知能力的總稱，其中包括意識、想象、感知、思考、判斷、語言和記憶，這些認知能力來自腦（有時包括中樞神經係統）。它通常被定義(yi) 為(wei) 一個(ge) 實體(ti) 的思想和意識的能力。它擁有想象力、識別力和欣賞力，負責處理感受和情緒，從(cong) 而產(chan) 生態度和行動。”[7]

第一人稱視角的內(nei) 心活動是主觀的、私密的，隻有主體(ti) 自己才能體(ti) 驗，無法精確地分享給他人。第三人稱視角的行為(wei) 是廣義(yi) 的，包括一切可以觀察和測量的活動。

心智所涵蓋的諸多方麵同時具有這兩(liang) 種維度，在日常生活中人們(men) 常常對這兩(liang) 個(ge) 方麵混淆不清。有時用一個(ge) 詞來混指這兩(liang) 個(ge) 方麵，有時用不同的詞強調不同的方麵，但是也沒有明確的公認的分界線，這也是令我下筆時傷(shang) 腦筋的一個(ge) 問題。例如，情緒（emotion）往往是一種統稱，而感受（feeling）則往往指內(nei) 心感受，表情（expression）則明顯地隻指情緒的外在表現；類似地，感覺（sensation）強調感官對刺激的反應，可以客觀測量，而知覺（perception）則是對刺激的主觀體(ti) 驗。

當然，一牽涉到意識，主觀性和私密性就更為(wei) 突出——意識有沒有可以客觀測量的方麵，現在恐怕還是一個(ge) 見仁見智的問題。盡管人們(men) 提出“意識的神經相關(guan) 集合”聽上去似乎是可以客觀測量的，但是這隻是“相關(guan) ”；並且，如果沒有了主觀性和私密性，剩下來的還能叫意識嗎？這似乎也是個(ge) 問題。

到目前為(wei) 止，我認為(wei) ，人工所能製造的都隻能是從(cong) 第三人稱視角來看的方麵，也就是模仿行為(wei) ，對於(yu) 第一人稱視角的“內(nei) 心活動”，還一籌莫展。問題是人們(men) 常常混淆了這兩(liang) 者，把人工模仿的行為(wei) 說成是成功“實現了人工的內(nei) 心活動”，於(yu) 是一些人開始談論“人工意識”、“情緒機器”。至於(yu) 司空見慣的“意念控製”（mind control），其實隻不過是對腦信號的控製，這樣就會(hui) 誤導公眾(zhong) 。

當然，我並非是斷定永遠也不可能實現人工內(nei) 心活動。因為(wei) 既然人腦有內(nei) 心活動，而人腦歸根到底也是一種物質係統，那就沒有理由排除其他物質係統湧現出內(nei) 心活動的可能性。我在這裏強調的是，內(nei) 心活動是高度複雜的物質係統在特定條件（我們(men) 隻是不知道這種條件是什麽(me) ，和係統要複雜到什麽(me) 程度）下湧現出來的一種屬性，而非獨立於(yu) 腦的存在。

不過，到現在我們(men) 也還不知道究竟需要什麽(me) 條件，才能湧現出“第一人稱視角的感受”。我們(men) 還不了解人所需的條件，更遑論了解人工係統的了。

確實，從(cong) 應用的角度講，我們(men) 可以撇開第一人稱視角，而隻討論從(cong) 第三人稱視角看到的方麵（也就是行為(wei) ），並從(cong) 這一角度給出某種操作性定義(yi) ，這樣就不致產(chan) 生混淆。例如美國天普大學計算機係王培教授給智能下的定義(yi) ：在知識和資源不足的情況下依然能適應的能力[8]。這就是完全從(cong) 第三人稱視角描寫(xie) 的智能的重要方麵，無論對人類智能還是人工智能都適用。

王培的定義(yi) 已經足夠廣泛，能描寫(xie) 許許多多智能行為(wei) ，並以此出發，建立他的納思AGI係統來解決(jue) 實際應用上的問題，這對於(yu) 他的目的來說已經足夠了。那麽(me) 智能有沒有從(cong) 第一人稱視角描寫(xie) 的方麵呢？我想也是有的，如“理解”。所以我極不讚成人工智能領域使用“自然語言理解”這樣的提法，我認為(wei) 現階段所做的隻是“自然語言處理”。

對當前人工智能方麵的研究，我以為(wei) ，如果用了類似心理學（或心智哲學）上的名詞，那麽(me) 應該在一開始便開宗明義(yi) 地給出一個(ge) 操作性定義(yi) ，排除掉第一人稱視角的方麵。並且也不要把以後工作的結論用到和第一人稱視角有關(guan) 的問題上去。

在這一問題上，之所以不能把從(cong) 第一人稱視角體(ti) 驗到的現象“還原”到從(cong) 第三人稱視角解釋得了的機製上去，根本原因是：前者發生在有極多層次的複雜係統的高層，且這些層次之間存在的並非簡單係統中的線性因果鏈，而是層次內(nei) 部以及層次之間存在互為(wei) 因果的“循環因果關(guan) 係”。

長期以來，自然科學一直為(wei) 基於(yu) 線性因果鏈基礎之上的還原論所統治，正式提出“循環因果關(guan) 係”還隻是上世紀末的事[9]。在對這種因果關(guan) 係有更深刻的認識之前，希望解決(jue) 人工“內(nei) 心活動”的努力，如果不是掛羊頭賣狗肉的話，也將很難實現。

參考文獻

[1] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯（2019）《腦研究的新大陸：一位德國工程師和一位中國科學家之間的對話》係列叢(cong) 書(shu) ，上海教育出版社

[2] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯（2019）《意識之謎與(yu) 心智上傳(chuan) 的迷思：一位德國工程師和一位中國科學家之間的對話》係列叢(cong) 書(shu) ，上海教育出版社。

[3] 顧凡及，施拉根霍夫（Karl Schlagenhauf）著，顧凡及譯（2019）《人工智能的第三個(ge) 春天：一位德國工程師和一位中國科學家之間的對話》係列叢(cong) 書(shu) ，上海教育出版社。

[4] 顧凡及（2020）欲駕馭AI，先與(yu) AI共生：馬斯克的“超人”計劃能成功嗎？返樸，2020年8月12日

[5] Fan X and Markram H (2019) A Brief History of Simulation Neuroscience. Frontiers in Neuroinformatics. 13(Article 32):1-28

[6] Hawkins J (2021) A Thousand Brains: A New Theory of Intelligence. Basic Books.

中譯本：霍金斯著，廖璐等譯（2022）千腦智能，浙江教育出版社。

[7] https://en.wikipedia.org/w/index.php?title=Mind&oldid=911062349

[8]王培（2022）智能論綱要，上海科技教育出版社

[9] Haken H (1996) Principles of Brain Functioning: A Synergetic Approach to Brain Activity, Behavior and Cognition. Springer.