馬斯克呼籲暫停AI開發是“打嘴炮”？

劃重點： ①警惕AI發展，防止AI失控，正在成為全球範圍內科技領域的“政治正確”； ②在嚴防人類自我滅絕的問題上，很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前； ③AI可能導致各種社會風險，學界早已指出，各種應對建議也早被提出來，現在的問題是根據國情落實AI治理措施，不是暫停研發； ④如果不做政策上的總體安排，ChatGPT肯定會導致大量“AI失業”，反過來“AI失業”又會阻礙ChatGPT的進一步應用。

作者：劉永謀中國人民大學哲學院教授、國家發展與戰略研究院研究員

2023年3月，包括埃隆.馬斯克在內的千名專家聯合簽署公開信，呼籲暫停訓練GPT-4後續人工智能（AI）模型至少6個月。消息一出，引爆全球網絡和媒體，很快引來吳恩達等“AI大牛”的反對。最後，此事也沒有下文，暫停GPT-4被懷疑就是OpenAI的一波炒作。

4月份，又傳出意大利要全面禁止ChatGPT，不久的結果是罰款了事。

5月份，美國總統拜登和副總統哈里斯也來湊熱鬧，與頂級人工智能企業谷歌母公司Alphabet、微軟、OpenAI和Anthropic的首席執行官舉行會議，向企業施壓圍繞人工智能實施保障措施，表示支持新的法規或立法，減輕AI技術的潛在危害。

用戶利用生成式AI工具製作的“馬斯克和他的AI女友” 圖源：網絡

一切看起來山雨欲來，似乎ChatGPT、Midjourney、DALL-E 2為代表的生成式人工智能（GAI，Generated AI）催生了新的、更嚴重的社會風險，使得人類社會發展和應用AI技術的總體局面發生了根本性改變，需要採取新的戰略、措施和辦法來應對，比如全面暫停新的AI技術的研發。

真的是這樣的嗎？否。

第一，GAI並沒有產生什麼新風險，它可能導致的問題早已也一直被學界所討論、所呼籲。第二，應對GAI風險並不需要什麼新方法，應對AI風險的關鍵一直都是落實。

4月11日，國家互聯網信息辦公室公開發布《生成式人工智能服務管理辦法（徵求意見稿）》，以前所未有的速度對GAI作出治理反應，佐證GAI應用社會影響巨大，必須認真研究，審慎地而迅速地加以應對。

01謹防AI失控——全球科技領域的“政治正確”

1）失業問題，即它可能導致文案策劃人員、原畫師、工業設計人員、程序員、媒體從業人員和翻譯人員等腦力工作者大量失業。

2）教育問題，即它可能衝擊既有-的教育科研系統，比如學生可以用ChatGPT代替自己做作業。

3）信息安全問題，即GAI自動生成海量的人工智能生產內容（AIGC，AI Generated Content），真偽難辨、立場可疑，權屬不清、追責困難，甚至可能成為挑戰主流價值觀和意識形態的危險工具。

AI風險早就被各國政府所重視，近年來更是成為全社會的關注焦點。顯然，上述GAI導致的三大衝擊都不是什麼新問題，早在ChatGPT爆火之間就已經被學界和政府所關注、所研究。

近十年來，從物聯網到大數據、雲計算、區塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來沒有缺少關注風險的呼聲。

本人专业关注新科技社会冲击问题，花了大量精力提醒大家注意AI可能导致的技术风险。比如，曾写过专著《技术治理通论》《物联网与泛在社会的来临》《技术有病我没药》《元宇宙陷阱》《科技与社会十四讲》，面向非专业人士提示ICT（信息与通讯技术）的社会冲击和技术风险。

可以說，警惕AI發展，防止AI失控，正在成為全球範圍內科技領域的“政治正確”。在此氛圍之下，公開宣稱“AI無禁區”的聲音被極大地抑制。對此，作為技術控制的選擇論者，我完全贊同。

就目前的發展態勢而言，ChatGPT究竟存在什麼嚴重的風險，必須以“加碼”的方式比如暫停至少六個月加以應對呢？

有人說，ChatGPT是超級AI出現的徵兆，如果現在不停止（注意：不僅是暫停），“潘多拉的魔盒”一旦打開，人類很快會被超級AI統治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴肅的對待。尤其是，很多專業人員不承認ChatGPT是通用AI，更別說它是超級AI的雛形了。

超級AI可能是個問題，但在嚴防人類自我滅絕的問題上，很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止了？就算停止不了，暫停一下也行，起碼可以呼籲暫停。

既然沒有什麼新的情況，就不必採取暫停發展的極端方法，為什麼？

第一，暫停是沒有道理。有人說，ChatGPT風險應對措施沒有想清楚，所以先暫停。錯！不是沒想清楚，而是沒有落實到位。

第二，暫停是不可能真正實現的，肯定會有AI公司會違反禁令，結果是不公平的競爭。

第三，暫停解決不了問題。就算所有AI公司真的都暫停GAI科研，風險問題就解決了嗎？沒有！除非徹底停止和取締LLMs（Large Language Models，大語言模型），否則風險不會消失。重新啟動之時，仍然得直面風險。

如今，新科技是人類生存和發展最重要的不可須臾離開的工具。 GAI對社會生產力的推動作用已經昭然若揭，我們為什麼要因噎廢食，為什麼不能控制地利用呢？

20世紀就有人提出——當時的科技人類已經完全夠用了，繼續發展會導致很多新問題，應該讓科技靜止下來，科學家不要再搞研究了。此類極端非理性想法，從來沒有被社會嚴肅對待過。

02暫停GAI研發實現不了，純屬無效的“嘴炮”

AI可能導致各種社會風險，學界早已指出，各種應對建議也早被提出來。因此，現在的問題是根據國情落實AI治理措施，而不是暫停AI研發。事實已經證明：暫停GAI研發的想法簡單粗暴，作用不大，也實現不了，純屬無效的“嘴炮”。

舉AI失業問題為例。 AI失業問題，即人工智能的推進伴隨著越來越多的人失去工作，是AI社會衝擊中最大的問題，涉及到整個社會的綜合性制度創新。既有文獻對AI失業問題的討論，可謂汗牛充棟，具體的應對措施不一而足，如學生的職業規劃、勞動者AI素養提升、失業人員社會保障和再就業、產業結構升級改造等。

長遠的戰略規劃亦蔚為大觀，如製度性地減少勞動者工作時間（有些地方已經在嘗試一周工作4天），徵收AI稅（AI是全人類智力結晶，向AI公司徵收重稅全民共享），靈活退休制度（勞動者一輩子可以短暫退休幾次）等。

AI應用對當代治理活動最大的影響在於：擴大經濟自由，增加閒暇時間，極大地改變公共治理的前提條件，從而改變社會運行的根本面貌。但是，這種影響也意味“AI失業問題”越來越嚴重，給整個社會的治理活動帶來嚴重挑戰，必須審慎地加以處置。 AIGC產業化將再一次證明AI失業問題的嚴峻性。如果不做政策上的總體安排，ChatGPT肯定會導致大量“AI失業”，反過來“AI失業”又會阻礙ChatGPT的進一步應用。

漫畫：機器人接管重複性工作，例如製造和包裝圖源：TC

“AI失業問題”的解決，必須同時考慮遠景和現實兩方面。

從遠景來看，“AI失業問題”要解決，牽涉到人類社會制度的根本性變革，而不是僅僅靠智能技術和智能治理的發展所能解決的。根據馬克思主義基本原理，“AI失業問題”反映出科技生產力發展與既有生產關係之間的矛盾。機器人能夠取代人類勞動，並不等於實際取代人類勞動，因為此種取代意味著取消少數人通過制度安排強迫大多數人進行勞動的剝削制度。從本質上說，解決“AI失業問題”，要不斷減少勞動者的工作時間，給人們更多的閒暇時間，最終必須要徹底消滅剝削制度。 20世紀的勞動史表明：現代科技在生產中的運用，持續減少著社會必要總勞動時間，推動“八小時工作制”和“雙休制”被越來越多國家所實施。

從現實來看，社會制度進化需要很長的時間，必須逐步穩妥地前進，而且也要等待智能技術不斷地發展，所以當務之急的問題是給受到人工智能衝擊的勞動者找到新的工作崗位，保證他們能享受科技進步創造的物質財富。

因此，在AIGC產業化爆發之初，國家、政府和社會應該深入研究，全盤規劃，積極應對可能出現的失業就業壓力。

比如，完善失業保障和提供再就業培訓服務，加強青年人的職業規劃和創造性素質提升，調整學校人才尤其人文、藝術等學科的人才培養方向，不端推動產業升級創造新的就業崗位等。總之，面對AI可能伴隨的失業風險，必須要放棄非此即彼的極端思維，努力規避，實時調整。

**03中國的AI如何治理？ **

建設數字中國是數字時代推進中國式現代化的重要引擎，是構築國家競爭新優勢的有力支撐。

在數字中國建設中，必須推進“以人民為中心”的AI治理，使得AI能真正地造福社會。為此，首先就要呼籲全社會都來關注AI風險問題，政府、企業、NGO、科技界和公眾按照職責分工，完善政策措施，強化資源整合和力量協同，形成行動合力，把治理AI風險的各項方案真正落實下去。

除此之外，治理AI風險還可以考慮如下原則性建議：

第一，貫徹有限工具原則。必須清醒認識智能治理的作用——智能治理並非萬能的“完美利器”，在很多情況下同樣會“失靈”，甚至走向妨礙社會效率的反面。因此，既要承認在某些領域、某些問題和某些場合下智能技術提高治理效率的作用，力主優先考慮技術治理手段解決問題，又時刻謹記智能技術作用的有限性。堅持科技謙遜主義，警惕“大數據迷信”，採取具體語境具體分析的審度態度，重視治理活動實際的效果反饋和風險控制。

第二，堅持利用與控制並重。既要發揮智能治理作用，又要對具體的智能治理進行控制，防止智能平台和技治專家權力失控。同時，應運用制度-技術的方法，規避智能治理可能導致的社會風險。

第三，妥善處理“AI失業問題”。智能技術應用對當代治理活動最大的影響在於：擴大經濟自由，增加閒暇時間，極大地改變公共治理的前提條件，從而改變社會運行的根本面貌。但是，這種影響也意味“AI失業問題”越來越嚴重，給整個社會的治理活動帶來嚴重挑戰，引起全社會的關注，必須審慎地加以處置。

第四，緊密融合“智慧城市”和“數字鄉村”建設。科學地運行城市是當代技術治理重要的戰略措施，智慧城市則是科學城市的高級形態。由於當前人類主要生活在城市尤其是大型和超大型城市之中，因而當前的智能治理主要圍繞建設“智慧城市”而推進，或者說以“智慧城市”的建設為主要載體。數字中國建設尤其不可忽視數字鄉村建設，要努力以數字化縮小城鄉差距。

第五，注重智能技術與人的融合。在技術治理活動中，技術與人結合得越好，治理效率越高。加強智能治理活動中人與技術因素的融合，需要從各種智能技術的特點以及相關倫理、法律、心理、危機管理等諸多層面進行系統反思，推進制度建設、技術研發和人才儲備，加強組織領導、專家諮詢和實戰演練，不斷系統地提升中國的智能治理能力。

第六，在具體語境中區別治理與操控。智能治理有限度，超過限度就成為智能操控，侵害公民的基本權利。智能治理的未來發展，必須要具體考慮各種應用的限度，這不僅涉及治理目標，還涉及所採用的手段，只能在具體的社會語境中加以冷靜、客觀和謹慎的審度。防止智能治理走向智能操控，一個很重要的問題在於：必須在一定程度上容忍智能治理的反治理行為。