ChatGPT、機器文明與超人工智能的挑戰

2022年底，美國人工智能研究實驗室OpenAI推出了一款新型自然語言處理工具ChatGPT，引發商業、技術、社會、倫理、法律諸多層面的激烈反響。這是人工智能技術發展的一個里程碑，也是對人類存在與人類倫理的重要考驗和挑戰。人工智能本質上屬於一種機器文明，是人類理性應用的結果。但是當這種定向和擬人化的機器文明充分積累和發展到一定程度時，就有可能對人的勞動及其存在構成替代，對人類社會的基礎結構、交往方式及倫理/法律體系造成顛覆性影響。

人工智慧的技術發展與商業應用，既是資本逐利的必然趨勢，也成為國家間實力競爭的新戰場。中美都是人工智慧技術大國，也是商業應用大國，具有新冷戰性質的高科技範疇的對抗競爭必然波及這一領域。美國制定有關法律和政策極力推動人工智慧發展並搶佔制高點。ChatGPT的出現，是資本與國際競爭共同作用的結果。面對人工智慧的發展及其帶來的廣泛挑戰，中國應當做好技術儲備、倫理引導和法律規制，確保自身在人工智能領域的技術優勢和道德合法性。

機器文明的兩面性 

人猿相揖別，人與自然動物的關鍵區別在於製造和使用工具，即理性勞動。人的理性應用於勞動，根本目的在於人的生存和幸福，實踐後果是催生了工具文明乃至於機器文明。在古代社會，由於科學技術與人的實踐能力的局限性，人類僅僅能夠製造和使用簡單的石器/鐵器工具，人類文明尚難以達到機器文明的程度。進入資本主義社會以來，人類科學技術取得突破性進展，發明創造層出不窮，工廠普遍採用先進生產機器，資本和國家均對機器研發和創新應用保持濃厚興趣和大規模投入。資本的關切是利潤，機器能夠實現更高效率和更多利潤。國家的關切是實力，機器能夠帶來更強的國家實力和競爭力。

在工業革命時代，人與機器的關係已經出現兩面性和矛盾張力：一方面，機器的進步帶來更好生產力，對人的勞動有解放和提升的功能；另一方面，機器的普遍運用又降低了勞動者的地位和議價能力，造成勞動者對機器的仇視。機器文明存在固有的兩面性：既是人類勞動的輔助者，也是人類勞動的替代者。在機器功能較為單一且主要體現協助工具時，人類對機器是喜愛和接納的。當機器功能複雜化和擬人化達到對人類勞動的部分替代時，機器本身成了一種「新勞動者」，成了人類勞動的競爭者，人類對機器就會產生厭惡和排斥。ChatGPT當然是資本的新寵，也是國家競爭的優勢槓桿，但是對普通勞動者及其社會關係而言卻引發了嚴重猜疑和恐慌，內含著被替代的生存性恐懼，由此激發出某種幽怨和排斥情緒。

按照人文主義邏輯，人是「萬物的尺度」，是自然立法者，人對勞動工具包括機器享有發明權和主權，人與機器之間是一種擬制的「主奴關係」，機器是服務人類利益的「不說話的奴隸」。在此意義上，人的主導性倫理得以確立，人必須在倫理和法律上確保這種主導性不會被顛覆或架空。對機器文明的兩面性，人需要發揚其輔助效用，抑制其顛覆反制風險。用好人工智能是人類之福，用不好就會成為人類存在的顛覆性力量。

人工智能對人的威脅

一切機器文明的背後都是對人的理性的模仿，但模仿程度不同就會產生不同強度和完善度的人工智能。按照模仿程度，人工智能可以分為弱人工智能、強人工智能和超人工智能。這是一個機器對人的理性模仿逐步升級甚至超越的發展譜系，也是對人的存在威脅性逐步提升的譜系。弱人工智能只是機器對人的理性的簡單、片段化的模仿和運用，對人類社會的威脅是完全可控的。強人工智能涉及對人的理性的多功能整合，是人工智能目前階段發展的主流，ChatGPT就大致屬於這一階段。強人工智能已經具有人類理性的集成性和一定程度的自主學習與實踐能力，只是尚未完備到對人的完整取代。

超人工智能則屬於人工智能發展的完善且極端化的形態，最早由英國哲學家兼人工智能倫理專家尼克•博斯特羅姆(Nick Bostrom)提出並給出了如下定義：「一種幾乎在每一個領域都勝過人類大腦的智慧。」這一定義有著非常敏感和關鍵的知識資訊：其一，超人工智能是對人的理性的概括性超越，跨過了人的理性優越性的總體極限，是一種「超人」智慧存在；其二，「幾乎」提示了超人工智能可能在某些人類專屬的特定領域尚未取得超人優勢；其三，超人工智能階段的機器對人具有從勞動到社會管理各方面的優勢，人類的立法者地位和主導性可能遭到顛覆和動搖。

從人工智慧的當前技術形態來看，弱人工智能的時代已經過去，強人工智能的時代正在展開，超人工智能的時代構成未來圖景。ChatGPT本身是一種強人工智能的技術系統，在智能對話、文字創作與社會管理方面有著顯著的技術優勢和應用前景，且經由這一方向的定向積累、迭代和優化，可以朝著超人工智能方向逐步發展。人們所恐懼的就是它朝向超人工智能發展的未來趨勢。由於資本和國家的共謀，這一趨勢必然加速發展，人工智能對人的威脅必然更具現實性和挑戰性。

僅從ChatGPT的應用來看，其威脅和負面性也是可預測和可見證的：其一，對較為廣泛的工作崗位的替代，包括智能客服、代碼開發、圖像製作、文字腳本、文稿起草、新聞寫作、法律諮詢、基礎教學等；其二，學術領域的誘導抄襲，如利用這一工具進行論文寫作和剽竊等；其三，教學領域的機器依賴和實踐能力的退化，對學生學習能力、動手能力和道德實踐能力都將造成嚴重損害和弱化；其四，社會層面的文化安全與道德安全，包括算法專制及激進思想滲透、政治正確文化氾濫等因素。這些威脅性是現實的，必然伴隨這一程式的廣泛應用而更加凸顯。

人工智能的發展必須堅持人的立法者地位和人的主導性，堅持以人的存在和人的價值為前提和基礎。這一底線具有根本法則的規範地位，應當拘束一切投資者、技術開發和社會管理者。

智能機器人是一種「新人」嗎？

在神權時代，人的理性曾經以信仰名義交付給神的理性。在民主時代，人的理性為自我和自然立法，由此開創了現代文明。但作為人的理性解放的產物和助手，機器文明的發展卻在逐步走上一條人的異化的道路，即在人的存在之外構造出一種對人的理性的極致模仿乃至超越的新理性形態。

人工智能由弱到強再到超強的發展演變，就是人的理性自我解放又自我異化的顯著軌跡。人類作為理性立法者，能夠一直控制人工智能嗎？智能機器人的算法會「智慧到」突破人的理性防禦嗎？算法背後的「少數人」對「多數人」的技術專制如何破解呢？算法歧視和平台霸權是否構成人類不平等的新的來源和基礎呢？智能機器人會對人類勞動、存在及其社會關係產生顛覆性影響嗎？智能機器人會最終成為人類的統治者從而徹底顛覆人與機器的「主奴關係」嗎？機器人能夠作為一種「新人」而主導世界嗎？這些終極提問都具有極強的存在論意義和哲學挑戰性。

對超人工智能的倫理與法律挑戰，人類社會必須有充分的危機感和辯證的技術哲學觀，以可控的發展主義引導人工智能始終為人類服務，並對人工智能的威脅性加以綜合規制：其一，國際法層次，聯合國及有關國際組織應主導制定人工智能全球發展倫理準則或公約，提供規範性約束和指導；其二，國家法層次，各國應當制定本國人工智能發展的倫理準則、政策框架和法律機制，並注意進行國際協調；其三，行業自律層次，具有行業影響力的公司應當加強倫理準則制定與合規體系建構，推動形成人工智能國際產業標準；其四，家庭與個人自律層次，每個家庭和每個人都應當理解人工智能的利弊，在工作與生活應用上注意平衡與自律，維持人類的底線道德及其社會實踐的基礎能力。

總之，人工智能是人的理性產物，必須服務於人類利益並由人類進行立法和主導，才能確保人工智能合乎人類倫理並促成人類更好的生存與生活。面對ChatGPT帶來的廣泛而深刻的挑戰，人類社會、各國、各群體及每個人都有責任思考如何適應、規制、自律和堅守。人產生的問題，最終只能由人來解決。智能機器人不是一種「新人」，仍然還是人類理性的投射和反映，也必須在人類理性的道德和制度限度內發展。只要堅持人工智能以人為本，而不是以利潤和權力慾為本，人工智能發展就能走出一條光明而正確的道路。