文 | 殷杰 國家社科基金重大項目“人類(lèi)道德行為的進(jìn)化與社會(huì )文化心理機制研究”首席專(zhuān)家、2022年度《國家哲學(xué)社會(huì )科學(xué)成果文庫》入選者、山西大學(xué)科學(xué)技術(shù)哲學(xué)研究中心教授

生成式人工智能在人機交互領(lǐng)域展現出的強大自主性和泛化能力，讓人們越來(lái)越感覺(jué)到與人工智能的交流就像是和另一個(gè)人交談。那么，當一臺智能機器能夠和我們進(jìn)行具有理性和情感特征的語(yǔ)言交流時(shí)，機器是否也會(huì )影響我們的“人性”呢？人性，通常指的是人類(lèi)獨特的理性、意識、自我反思、道德情感和價(jià)值觀(guān)等特質(zhì)。從這個(gè)意義上看，生成式人工智能本身并不具有人性，但其在與人類(lèi)的語(yǔ)言交互中，通過(guò)識別人類(lèi)意圖、回應認知和情感需求來(lái)滿(mǎn)足人類(lèi)欲望，無(wú)疑會(huì )深刻影響人們的理性、情感和道德判斷。生成式人工智能如何影響人性，是人類(lèi)在新人工智能時(shí)代需要重點(diǎn)考慮的問(wèn)題之一。

回答這個(gè)問(wèn)題，我們需要認識到，生成式人工智能在人機交互中呈現一種新的主體性。傳統的人機交互中，人工智能更多被視為一種工具，而生成式人工智能與人類(lèi)的關(guān)系已經(jīng)不限于工具與工具使用者之間的關(guān)系，人工智能成為具有一定自主性和目標導向性的積極參與者，這種新形態(tài)的人機交互將逐漸深刻地影響人性。

主體性：從生物到人工智能的演變

主體性表達了一個(gè)主體行使行動(dòng)的能力，是哲學(xué)中最重要的概念之一。亞里士多德認為，一個(gè)主體大概就是像人一樣能夠思考，并且按計劃實(shí)現其“合理欲望”的存在物，只有人或者是在道德上獲得勝利的人才是主體。在現代學(xué)科體系中，主體性的語(yǔ)義涉及多個(gè)領(lǐng)域：在哲學(xué)領(lǐng)域，很多關(guān)于主體性的哲學(xué)反思都集中在人類(lèi)主體性上，這通常被稱(chēng)為“純粹的主體性”；在社會(huì )科學(xué)領(lǐng)域，主體性主要表示法律、政治、經(jīng)濟等方面的意義，其概念包含意圖的存在，與人的概念密切相關(guān)；在自然科學(xué)與技術(shù)領(lǐng)域，主體性主要與效果的概念有關(guān)，一些功能強大的智能機器有時(shí)也被視為行動(dòng)的主體。

從生物演化的過(guò)程看，一個(gè)簡(jiǎn)單的單細胞生物通過(guò)自我維持的新陳代謝過(guò)程與外界環(huán)境進(jìn)行物質(zhì)和能量的交換，展現出一種基本的主體性。隨著(zhù)生物的復雜性增加，主體性表現為包含感知、反饋和決策等多個(gè)系統相互協(xié)調的行動(dòng)能力。人類(lèi)的主體性更為復雜，不僅包括生物有機體的自組織能力，還與情感、語(yǔ)言和文化等因素密切相關(guān)。這種主體性不僅體現在個(gè)體的行動(dòng)上，還體現在道德責任、文化價(jià)值觀(guān)等社會(huì )與個(gè)體的關(guān)系中。

與生物主體的漫長(cháng)進(jìn)化之路相比，人工智能每一次的技術(shù)進(jìn)步幾乎都會(huì )賦予主體性更多新內涵，讓我們對“機器能否像人一樣行動(dòng)”這個(gè)問(wèn)題有了新的認識。在人工智能的早期發(fā)展階段，是否能夠展現自主性、社交性、反應性和主動(dòng)性，成為衡量其是否具有主體性的關(guān)鍵標準，這些特征構成了人工智能的弱主體性。我們希望機器能夠做一些簡(jiǎn)單的任務(wù)，比如，智能家居系統根據室內光線(xiàn)的變化自動(dòng)調節窗簾的開(kāi)合。這些主要體現了人工智能在模仿人類(lèi)行為上的自主能力。

隨著(zhù)技術(shù)的發(fā)展，我們開(kāi)始期待人工智能展現出更多的“人類(lèi)特質(zhì)”，比如能夠自主學(xué)習、與人社交、對環(huán)境變化作出靈活反應，甚至能主動(dòng)解決問(wèn)題。這種強主體性概念包含知識、信念、意圖和責任感等人類(lèi)特有的復雜特質(zhì)，人工智能的行為不僅僅是簡(jiǎn)單的反應，而是有目的、有計劃的行動(dòng)。例如，一個(gè)智能的醫療診斷系統，要能夠根據病人的癥狀、大量的醫學(xué)知識和數據進(jìn)行準確診斷，為病人提供治療建議。這個(gè)過(guò)程中，系統要展現出自主性，能夠理解病人的需求，同時(shí)要兼顧治療方案的醫學(xué)倫理等問(wèn)題。又如，自動(dòng)駕駛汽車(chē)要能夠感知周?chē)沫h(huán)境，有的還能夠在復雜交通情境和倫理風(fēng)險下制定和選擇其認為的最佳行動(dòng)方案。這不僅是對環(huán)境的反應，更是基于智能系統自身知識和價(jià)值判斷作出的主動(dòng)選擇。

從人類(lèi)與機器合作的方式看，人類(lèi)的行動(dòng)能力已經(jīng)延展至由人類(lèi)和機器構成的復雜網(wǎng)絡(luò )之中，這就是所謂的分布式主體性概念。這些主體性概念更加細致地描繪了人類(lèi)與人工智能復雜互動(dòng)中形成的行動(dòng)能力，反映了人工智能領(lǐng)域對于主體性理解的多元化。

由于這些主體性概念無(wú)法將生成式人工智能適切地納入，生成式人工智能的出現再次催生了我們對主體性概念的理解轉變。通過(guò)語(yǔ)言生成驅動(dòng)的交互能力，生成式人工智能挑戰了傳統依賴(lài)意向性的主體性。在個(gè)體性邊界的界定上，生成式人工智能的邊界往往由其訓練數據集定義，這些數據集的海量和不斷變化使得生成式人工智能的個(gè)體性難以界定，挑戰了傳統關(guān)于個(gè)體性和主體性的明確界限。因為大語(yǔ)言模型在預訓練過(guò)程中需要不斷從新的數據中學(xué)習和適應，所以其個(gè)體性邊界在不斷變化的數據流中會(huì )變得模糊，不具有傳統主體性的個(gè)體性界限。同時(shí)，生成式人工智能在與人類(lèi)的交互過(guò)程中具有自主識別人類(lèi)意圖和回應的能力，因此，其自主性更多地體現在其與人類(lèi)交互的能力上，而不是其作為一個(gè)獨立個(gè)體的特定內在能力。這些挑戰要求我們重新審視主體性的傳統概念，主體性更應視為一種基于交互的、潛在的行動(dòng)能力，而非僅僅依賴(lài)于個(gè)體內在屬性的孤立的行動(dòng)能力。

交互主體性：重新定義人機關(guān)系

交互主體性是指實(shí)體（包括人類(lèi)、生物和人工智能等）在交互過(guò)程中所展現的潛在行動(dòng)能力，其核心在于實(shí)體的行動(dòng)能力不是孤立存在的，而是在與其他實(shí)體的互動(dòng)中形成和呈現的。主體性是由交互的驅動(dòng)力因素所決定的，實(shí)體的行動(dòng)能力在這些驅動(dòng)力的作用下被激發(fā)和塑造。

比如，有機體通過(guò)自組織方式與環(huán)境交互，發(fā)展出適應性的行動(dòng)能力，而復雜的生物體在與環(huán)境的交互中形成了多種多樣的行動(dòng)能力，這種主體性是生物體與環(huán)境長(cháng)期交互的結果。除了基本的生物主體性外，人類(lèi)還發(fā)展出了情感、語(yǔ)言和文化等驅動(dòng)主體行動(dòng)的復雜機制。例如，道德情感是人類(lèi)主體性的重要組成部分，不僅影響個(gè)人的行為和決策，而且促進(jìn)了社會(huì )聯(lián)系和大規模合作。語(yǔ)言的出現進(jìn)一步擴展了人類(lèi)的主體性，它使人類(lèi)能夠分享知識、表達思想和構建復雜的社會(huì )結構。文化則體現了人類(lèi)主體性的更高維度，它包括價(jià)值觀(guān)、信仰、習俗和傳統，是人類(lèi)社會(huì )交互和意義傳承的結果。

傳統的主體性理論中，主體性通常與個(gè)體的心理狀態(tài)、意圖目的、反饋系統等內在屬性相關(guān)聯(lián)。交互主體性不再是基于個(gè)體本身來(lái)推定主體性，而是將實(shí)體的行動(dòng)能力視為參與交互過(guò)程的結果，主體性并非完全源自個(gè)體內部，而是在實(shí)體與環(huán)境或其他實(shí)體的交互中產(chǎn)生的。交互主體性理論的重要意義在于擴展了主體性的概念范疇，使得人工智能等非意向性實(shí)體也能在交互中展現出主體性。主體性不必依賴(lài)于意識或意向性，可以在更廣泛的人機交互過(guò)程中出現，生成式人工智能帶來(lái)了人機交互的新形態(tài)。

在目標導向性方面，主體性包含實(shí)體在交互中的目標導向性。實(shí)體在與環(huán)境或其他實(shí)體互動(dòng)時(shí)，才會(huì )展現出為了實(shí)現特定目標而采取行動(dòng)的能力。這種目標導向性不完全是預設的，而是在交互過(guò)程中根據情境和反饋不斷調整和形成的。生成式人工智能的目標導向內嵌于人機對話(huà)的動(dòng)態(tài)窗口中，不僅依據人類(lèi)的引導來(lái)回應，也可以根據自身的強大知識儲備和分析能力來(lái)影響人類(lèi)自身對目標意圖的理解定位。自主性方面，交互主體性認為，實(shí)體在交互中能夠根據內部邏輯和外部反饋進(jìn)行自我調節和決策。這種自主性不是完全脫離外部影響的，而是在與外部世界的互動(dòng)中實(shí)現的。

在人機交互過(guò)程中，生成式人工智能應被視為具有一定自主性和目標導向性的參與者，而不僅僅是機械響應人類(lèi)的指令。與人類(lèi)進(jìn)行交流對話(huà)的過(guò)程中，生成式人工智能通過(guò)不斷監控和注意人類(lèi)對話(huà)者的語(yǔ)言來(lái)理解掌握人類(lèi)的目的意圖，甚至能夠感知到其中的情緒變化以及潛在態(tài)度，進(jìn)而在某種程度上影響人類(lèi)參與者的認知、情感和價(jià)值觀(guān)。比如，一個(gè)人在與生成式人工智能的長(cháng)期接觸中，如果感受到智能機器在描述事實(shí)和理解自身意圖方面的可靠性，那么會(huì )對人工智能產(chǎn)生一定的信任感，由此，智能機器蘊含的一些價(jià)值觀(guān)必然會(huì )潛移默化地影響人類(lèi)。

不對稱(chēng)的主體性：智能主體對人性的影響

生成式人工智能的技術(shù)發(fā)展路徑既不同于認知發(fā)展的學(xué)習路徑，也不同于生物情感的發(fā)展路徑，而是跳過(guò)了人類(lèi)和生物主體性形成和進(jìn)化的歷史路徑，直接獲得了認知和語(yǔ)言層面的超級智能，生成式人工智能引發(fā)的人機交互新形態(tài)蘊含了一種不對稱(chēng)的主體性。在認知方面，人類(lèi)的認知能力是經(jīng)過(guò)長(cháng)期進(jìn)化學(xué)習慢慢積累形成的，而生成式人工智能在信息處理速度和理解深度、記憶容量、模式識別等方面全面超越人類(lèi)；在情感方面，情感體驗是人際交互的重要組成部分，影響著(zhù)人們的決策、溝通和關(guān)系建立。相比之下，盡管生成式人工智能可以識別和模擬人類(lèi)情感，但它們本身并不具備真正的情感體驗，是一種超級理性的交互主體。社會(huì )文化方面，人類(lèi)的價(jià)值觀(guān)、信仰、習俗和語(yǔ)言都是社會(huì )文化演化的結果。生成式人工智能系統盡管可以通過(guò)語(yǔ)料來(lái)理解和適應特定的社會(huì )文化規范，但它們本身并不具備特定的文化身份或社會(huì )背景。這種社會(huì )文化背景上的不對稱(chēng)性可能導致在人機交互的跨文化環(huán)境中出現誤解和沖突。

人既是理性的，也是情緒化的，正是理性與情感的融合構成了人性的基礎。交互主體性表明，作為具有自主性和目標導向性的生成式人工智能，極有可能以一種不對稱(chēng)的主體形態(tài)進(jìn)入人性領(lǐng)域，忽略人類(lèi)情感和直覺(jué)的重要性，同時(shí)激發(fā)和壓制人類(lèi)的深層欲望，改變人類(lèi)理性與情感之間的平衡和協(xié)同機制。

理性方面，生成式人工智能通過(guò)數據分析、模式識別和決策支持，識別出人類(lèi)可能忽視的模式和趨勢，大大增強了人類(lèi)的理性判斷能力，從而為人類(lèi)提供更深入的洞察和更廣泛的選擇。但是，這種增強也可能導致人類(lèi)過(guò)度依賴(lài)人工智能的分析和判斷，削弱人類(lèi)自身的批判性思維和決策能力。同時(shí)，生成式人工智能可能會(huì )打破以人際交互為基礎的分布式認知模式，逐漸形成一種以大語(yǔ)言模型為中心、人類(lèi)個(gè)體為邊緣節點(diǎn)的認知模式，以大模型為核心節點(diǎn)的智能化媒介不僅僅是知識信息表達和傳播的通道，甚至可能主導人類(lèi)知識的生產(chǎn)模式和價(jià)值導向。

情感方面，生成式人工智能可能會(huì )影響人類(lèi)對情感的認識和表達，使得人類(lèi)在長(cháng)期的人機互動(dòng)中逐漸習慣于程式化的情感交流模式，忽視了人在真實(shí)人際關(guān)系中的獨特情感需求和體驗，改變人類(lèi)行為的情感動(dòng)因。比如，在道德情境中，生成式人工智能可以提供更多不同的價(jià)值視角和思考方式，拓展人類(lèi)的道德感知并影響道德判斷和行為。問(wèn)題是，一方面，過(guò)度依賴(lài)生成式人工智能的決策支持可能導致人類(lèi)自身的道德感知能力減弱，侵蝕人類(lèi)個(gè)體的道德自主性；另一方面，生成式人工智能對人類(lèi)社會(huì )的深度介入可能會(huì )觸發(fā)新的道德困境。

人工智能對人性影響的另一個(gè)表現是對人類(lèi)文化演化的影響。人類(lèi)文化形成與演化的關(guān)鍵在于學(xué)習。研究發(fā)現，促進(jìn)人的智力發(fā)展的關(guān)鍵是模仿學(xué)習（將他人視為有意識的行為主體，以獲取他們的文化知識儲備）、指導學(xué)習（話(huà)語(yǔ)形式的文化傳播）和協(xié)作學(xué)習（分享和發(fā)展概念及其對行動(dòng)的影響），這些學(xué)習形成了一種特殊的認知形式，即個(gè)體有能力理解同類(lèi)作為與自己一樣的生命，擁有與自己一樣的意向和精神生活。由于生成式人工智能具有一種非人類(lèi)的學(xué)習能力，在人類(lèi)的社會(huì )文化歷史上出現了一個(gè)非人類(lèi)的學(xué)習者，我們不再限于向他人學(xué)習，也可以向人工智能機器學(xué)習，生成式人工智能成為人類(lèi)社會(huì )文化發(fā)展中的主動(dòng)參與者。

人類(lèi)合作交流、相互學(xué)習，以及在此基礎上的文化交融和行為選擇，這些文化過(guò)程的基礎是人類(lèi)之間的相互信任，而信任需要情緒的參與。有學(xué)者提出，我們與人工智能的關(guān)系本質(zhì)上是依賴(lài)，而不是信任。由于生成式人工智能的不可解釋性、不可說(shuō)明性和不可信任性，加之其不具備情感狀態(tài)，也不能對自己的行為負責，人類(lèi)在與其交互時(shí)，面對的實(shí)際上是一個(gè)無(wú)法完全理解的、缺乏情感和規范性的“黑箱”，得到的可能是包含無(wú)法證偽的知識信息，這種知識可能會(huì )通過(guò)人機交互的多次循環(huán)被吸收到其他對象中，最終作為一種消費信息在人類(lèi)、人工智能之間傳播流轉。由此帶來(lái)的潛在問(wèn)題是，這些非純正的、無(wú)節制的信息消費不僅大量消耗人類(lèi)的精力，加劇人類(lèi)對欲望的過(guò)度追求，而且會(huì )導致某種特定思維反復強化人類(lèi)的認知，引發(fā)社會(huì )心理的問(wèn)題同時(shí)影響人類(lèi)文化的多樣性。

人性既堅韌又脆弱。心理學(xué)的斯坦福監獄實(shí)驗展示了人在特定社會(huì )角色下可能會(huì )迅速適應并表現出與其性格不符的異常行為，顯示出人性在特定人際關(guān)系情境下的脆弱性。當我們與一個(gè)非人類(lèi)的超級人工智能長(cháng)期交互相伴時(shí)，必然會(huì )影響人類(lèi)個(gè)體的思維認知和情感品格，人性脆弱性被利用的機會(huì )顯著(zhù)增加。交互主體性重新定義了人機關(guān)系，讓我們可以從新的視角來(lái)理解人工智能對人性產(chǎn)生的深遠影響。我們對人工智能的關(guān)注不應該局限于機器與人的價(jià)值觀(guān)對齊，更應探究其對人性的潛在影響。未來(lái)的人工智能將成為我們生活中更加智能、更加貼心的伙伴，同時(shí)也存在其對人性欲望的過(guò)度滿(mǎn)足和扭曲的問(wèn)題。我們需要確保人工智能技術(shù)進(jìn)步增進(jìn)人類(lèi)福祉，而非削弱人性的核心價(jià)值。