人工智能技術快速發展所掀起的澎湃洶涌浪潮，在深刻改變人的存在和生活方式，給人類帶來極大便利的同時，也打破了傳統人機關系的界限，給人類的存在和交往帶來了新的倫理挑戰和道德困境。如何更好回應和適應人工智能技術變革帶來的不確定性，是我們需要面對的重要課題。習近平總書記指出：“科技是發展的利器，也可能成為風險的源頭。要前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰，完善相關法律法規、倫理審查規則及監管框架?！眹倚乱淮斯ぶ悄苤卫韺I委員會發布的《新一代人工智能治理原則——發展負責任的人工智能》明確提出要“發展負責任的人工智能”，這為我們發展和治理人工智能提供了重要的倫理路徑。進一步闡發負責任人工智能治理的倫理立場和倫理原則成為應用倫理學研究的題中應有之義。

人工智能的倫理挑戰和道德困境

人工智能正在引發最重要的技術革命和社會變革，同時也在改造著人類自身，改變著人的行為。隨著生物技術革命和人工智能的興起，人類正經歷身體和精神的雙重技術化，面臨被技術替代的風險，引發新的存在論問題。特別是隨著人工智能技術的新革命——生成式人工智能（AIGC）的推出，打破了傳統人機關系的界限，體現為“人工智能的擬人化”和“人的機器化和算法化”，給傳統的倫理關系和倫理體系帶來巨大挑戰。

隨著人工智能時代的到來，“未來人”和“遠方的陌生人”問題逐漸進入了人類的倫理視界。傳統倫理學強調的是一種“近的倫理學”，強調人與人之間的直接交往，行為者雙方是熟悉的、共同在場的，道德時空是一種近距離的。而科技的深度介入，使人類的道德空間和行為性質發生了改變，一些新的對象，如人工智能，逐漸進入我們為之負責和道德關切的領域。人工智能作為一種新科技，給人類的倫理世界和道德空間帶來了深刻變革，它以虛擬化和擬人化的方式與人類建立了新的交往關系，倫理關系從“人與人”“人與動物”“人與自然”擴展到“人與人工智能”。

人與人工智能之間的倫理責任關系，用傳統的人與人之間的倫理關系來解釋將面臨較大的困難，會出現人機倫理關系的三重道德困境。第一重是善惡困境。傳統的人機關系是一種人和物的關系，技術作為工具為人類所使用。隨著技術的不斷革新，現代技術不再是簡單的工具，人類很難區分現代技術的使用是善的還是惡的。人工智能既可以最大限度地給人類帶來福祉，也可能被濫用給人類帶來巨大危害。第二重是尊嚴困境。隨著人工智能的發展，特別是生成式人工智能的應用，人類過度依賴技術和人工智能，有可能會弱化人的主體性，挑戰人之為人的尊嚴。第三重是責任困境。雖然目前人工智能還不具有真正意義上的自主性和主體性，但卻具有了一定的自主性行為。這種自主性行為帶來了倫理風險和不確定性，存在責任邊界不明確和倫理風險的分配問題，引發了人工智能應用的責任鴻溝爭論，使得傳統的責任倫理體系出現了真空地帶。如何解決這些道德困境，發展“負責任的人工智能”無疑是一種可行的倫理路徑。

堅持以人為本的倫理立場

盡管人工智能的興起打開了倫理關切的視界，延伸了傳統的倫理關系，帶來了一定的挑戰和風險，但可以確定的是人類自身是人工智能發展的決定者和使用者，在根本上人類是真正的責任者?！柏撠熑巍币灤┤斯ぶ悄艿难邪l和應用，《新一代人工智能治理原則——發展負責任的人工智能》指出，要遵循“和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理”的原則，這無疑為我們解決三重困境提供了治理框架和行動指南?！鞍l展負責任的人工智能”，是人類以一種安全、可靠和合乎道德的方式研發和使用AI。“負責任”的內涵包括包容性、公平性、以人為本、透明和可解釋性、安全性、尊重隱私和可被問責性等，以保障人工智能系統負責任地運行和使用。“負責任的人工智能”并不是要研發具有道德和責任意識的人工道德機器，使其能夠進行自主思考和道德決策，并對自己的行為負責任。相反，“負責任的人工智能”主要指向的是人類要負責任，人類要肩負起對其所創造的人工智能的責任，負責任地發展人工智能使其更好地為人類服務。人類自身才是人工智能發展和治理的關鍵，因此我們必須要堅持以人為本的倫理立場。

堅持以人為本的倫理立場，是推動負責任人工智能發展和治理的價值基礎。習近平總書記高度重視人工智能的發展、安全和治理，為此提出了“以人為本、智能向善”的重要理念。這既為人工智能的發展和治理提供了新視角，也是人類命運共同體理念在人工智能領域的充分體現。以人為本蘊含著深層的倫理價值，是人工智能治理要遵循的重要原則。以人為本的倫理立場，要求人工智能在研發和應用中要始終堅持“人是目的”的觀念，尊重人的尊嚴和權益。人工智能作為技術，不管發展到何種程度，都不應擺脫工具屬性，其在本質上是人的實踐活動的產物，即人造物。值得強調的是這種以人為本并不是強人類中心主義觀點，只突出人的主導性和優越性地位，而是尊重人的人格和尊嚴，把人看作目的，強調人的責任和義務。

在堅守以人為本的倫理立場下，為更好發展負責任的人工智能，我們還要進一步確立“智能向善原則”“尊嚴原則”和“責任原則”來回應人機倫理關系面臨的三重道德困境。首先，智能向善是發展負責任人工智能的根本目標。人工智能給人類帶來巨大福祉的同時，也帶來了前所未有的挑戰和風險。我們需要的并不是技術的中立，而是要朝向善的目的，在技術和人工智能的發展中注入人文和倫理維度，推動人工智能朝著科技向善的方向發展。這種智能向善的目的，不能僅僅停留在能力增強和主體需求的滿足上，而是要以增進全人類的福祉為目標。其次，尊嚴原則是發展負責任人工智能的必然要求。尊嚴是倫理學的重要概念，也是以人為本的核心內容。人工智能的研發和應用是為了更好地實現“人是目的”，體現人的尊嚴和價值，而不是使人最后淪落為工具。由此，尊嚴原則作為以人為本的必然要求和倫理底線，要求人工智能的發展不能傷害和侵犯人的尊嚴和權益，要尊重人的自主性，保護人的隱私，避免算法歧視和智能傷害。最后，責任原則是發展負責任人工智能的重要保障。責任原則是當代應用倫理學討論中最為關鍵的原則之一，也是人工智能研發和應用中應該堅持的最基本的倫理原則。以人為本的倫理立場所強調的“以人為中心”，不僅僅體現在為人類服務和增進人類福祉，更體現在人能夠而且應該負責任上，這恰恰是以人為本的人文精神所在。在人工智能的研發和應用中，要始終堅持責任原則，將負責任貫穿到人工智能發展的各個環節中，建立健全必要的問責機制，做到責任的可追溯，保障人類的基本權益。

構建負責任的人工智能治理體系

在人機共存的生活世界中，新的倫理問題和道德困境逐漸凸顯出來，如何構建負責任的人工智能治理體系成為人工智能發展和科技倫理治理的關鍵問題。我們要堅持以人為本的倫理立場，共建負責任的全球人工智能治理體系，形成協同共治的責任機制，培育人類的人工智能素養和責任意識，共同推進人類文明的進步。

構建負責任的人工智能治理體系，需要共建全球人工智能治理體系。人工智能全球治理是世界各國面臨的共同課題，關乎全人類的命運，在這個新科技時代的人類命運共同體中，各國應以負責任的態度參與人工智能的全球合作和治理，縮小國家間的智能鴻溝，共同完善全球治理機制。構建起負責任的全球人工智能治理體系，最為重要的是立足人類命運共同體理念，以增進全人類共同福祉為目標，以保障人類安全和權益為前提，確保人工智能朝著人類文明進步的方向發展。我國作為負責任的人工智能大國，始終積極擁抱智能變革，大力推進人工智能創新發展，在面對人工智能給人類帶來機遇和挑戰的情況下，堅持做全球人工智能治理領域的積極推動者、參與者和貢獻者。中國高度重視人工智能安全治理，實施了一系列務實舉措，如發布《全球人工智能治理倡議》，強調堅持“以人為本”“智能向善”，為世界提供了基于人類命運共同體理念的人工智能治理中國方案。

構建負責任的人工智能治理體系，需要建構協同共治的責任機制。負責任的責任者不僅是指單個的責任主體，而且是一個由多元責任主體共同構成的責任者，離不開政府、企業、行業、用戶等多元主體的共同參與和協同共治。責任機制的構建，不能簡單地將責任歸結在人工智能研發者和使用者身上，而是需要所有的責任主體參與其中，需要明晰責任的主體、層次、分布和邊界，探尋共同的責任機制，以解決責任鴻溝和倫理真空問題。雖然人工智能目前以比較低的自主性參與到人類行動中，并且不具有人類的道德主體地位，但它們與我們一同構成了人機交互行動。因此，我們仍要將其納入更廣泛的倫理框架和責任機制中。這里的責任者是一種由多元責任主體和人工智能共同構成的人機聯合責任體，需要不斷健全和完善協同共治的責任機制。

構建負責任的人工智能治理體系，需要培育人類的AI素養和責任意識。雖然構建全球人工智能治理體系和責任機制對于人工智能的治理非常重要，但我們不能僅僅依賴制度和機制，這對構建負責任的人工智能治理體系是遠遠不夠的。我們還要重視培育和提升責任者的德性素養和責任意識，我們要將責任者的倫理身份落實到每一個人身上。作為共同生活在人類命運共同體中的成員，每個人都要有“人人都是責任者”的共識。在人工智能時代，人類不僅需要提升AI科技素養，還要培育AI德性素養和責任意識，這種培育不能僅停留在科技倫理知識的學習上，還要重視心的培育，這才是人工智能無法真正代替人類的東西。

人工智能時代是一種人機共存的生活場域，人工智能已經深入介入我們的生活世界。在人機共在的生活世界中，我們要堅持以人為本的倫理立場，堅守“智能向善原則”“尊嚴原則”和“責任原則”，共同構建負責任的人工智能治理體系。盡管未來充滿風險和不確定性，但永遠不要忘記人類才是真正的責任者，始終肩負著發展負責任人工智能的重任與使命。

（作者：劉靜，系東北師范大學馬克思主義學部哲學院副教授）