對人工智能技術高度發展所帶來的的不確定性的思考，最終的落腳點還是要回到人和技術的關系問題——在技術發展中，人應該有什么樣的地位，以及人的地位應起到什么樣的決定作用。

自歐洲議會提議授予機器人“人格”地位不久，世界首位機器人 “公民”索菲亞（Sophia）便 在 沙 特 誕 生 ，即 說出“毀滅人類”的恐怖話語。今年 4月，日本東京的市長競選中竟然出現了一位機器人候選人，競選團隊甚至給出了它當選市長的優點：不會行賄受賄，而且工作效率高。《大西洋月刊》6月號發表95歲的前美國國家安全顧問和國務卿基辛格的文章警告說：人工智能的進步可能導致一個人類將無法理解的世界。

誠如牛津大學量子物理學家戴維·多伊奇（David Deutsch）所言：哲學實際上是解鎖AI的鑰匙。機器人是人嗎？是否應該被賦予與人類相同的權利？未來機器人是否會全面取代人類？諸如此類的倫理問題意味著人工智能的發展需要更多哲學上的探索和反思。近日，在由上海市自然辯證法研究會、中國自然辯證法研究會自然哲學委員會、東華大學馬克思主義學院聯合舉辦的“智能化社會與人類發展”學術會議上，來自各大高校哲學系的專家學者們就上述問題展開了討論。

機器人的“人化”與人的“機器化”

機器人與人的界限在哪里？要回答這一問題，必須首先厘清人類自身理性、情感和智能中的本質性問題。上海大學楊慶峰教授指出，是否擁有記憶是區分人與機器人的一個重要界限。對于人來說，意識的連續性對自我的維持非常重要，如因偶然事故或阿爾茲海默病而導致記憶障礙，都會令人非常痛苦。但是機器失去它們的“記憶”——被刪除數據，卻并不會有類似的問題。未來，這個界限完全有可能被打破。為機器人注入“記憶”是現在最新的研究方向，科學家們正在嘗試為機器人搭建不同的、多元的記憶神經元回路，讓它們展示出類似人類的多樣的記憶行為。但擁有了記憶，機器人就能被稱為“人”了嗎？問題似乎并沒有那么簡單。

合肥工業大學李才華副教授進一步指出，除了持續性的記憶之外，機器人與人的本質區別還在于是否擁有維護自我生存的意識。人有自己的生活目的，這種目的之根源就是追求生存。如果機器人將來能自我設計程序，自我修復，就可能脫離人而具有主體性。就像大熱的美劇 《西部世界》中，機器人女主角之一的梅芙因為母愛而“覺醒”，然后獲得了修改自身程序的能力，使得觀眾認為她甚至比真正的人類更具有人性。《西部世界》中的機器人當然離我們很遠，但李才華指出，這種自我設計、修復的能力正是未來機器人研發的方向。我們可以期待的是，當機器人被送到外星，或者到海底深處工作，受到損傷或發生故障時能夠自我修復。所以，機器人擁有生存意識，也并非天方夜譚。這使得人與機器的邊界變得更為模糊。

現在，機器人和人類邊界的消失不僅僅表現為機器人的“人化”，還表現為人的“機器化”。特斯拉CEO馬斯克目前就致力于 “人腦植入芯片”計劃，制造讓人腦與電腦直接相連的可植入設備，在他看來，“人類和機器之間的最好結果將是一個集體的生活方式”。此外，一系列人類增強技術也被廣泛應用于醫學、基因工程等領域。有人甚至提出“后人類”的概念，預測未來的人類將成為一種有情感的機器。這在哲學層面也引發了一個關鍵問題：人類增強是否改變了人類本質。

目前學界看待該技術主要有兩種思潮：一種叫超人類主 義 （transhumanism），認 為 科學技術進步是一個無止境的過程，并會幫助人類實現永生的夢想；另一種則是生物保守主義，認為應該對可能改變人性的生物技術的研發實施管制，如生物保守主義的代表人物福山就認為，人性取決于人的基因構成、物理體征等自然特征，改變這些就是在破壞人與人平等的自然基礎，從而侵害人的權利。

見智見仁，理原一貫。人類增強技術不僅僅是技術問題，更是倫理問題。據上海社科院哲學所副研究員計海慶介紹，應用倫理學在該技術的具體應用方面有著非常廣泛的討論。比如代際倫理問題。通過對未出生的孩子進行基因編輯來改變其身體的某些性狀，現在從技術上已經可以做到，但如果孩子出生后對這些改變不滿意，應當如何平衡？比如公正問題。目前，美國高中生群體在考試時使用邊緣性的處方藥來提高短時精神能力的現象已經非常普遍。以此類推，在體育比賽中服用興奮劑是不是也能被逐漸接受？由此可見，人類增強技術的倫理底線最終還是要探討一個問題：假如我們可以為人性“編程”，哪些“核心代碼”是我們必須保留的。

“人和技術的關系”是思考的落腳點

有位人工智能專家曾這樣寫道：“終有一天，機器人將把我們人類關在動物園的牢籠里，大機器人帶著小機器人參觀動物園，對小機器人說，孩子，這是人，是我們的祖先。”在將上帝的概念“驅逐”出去后，我們將精力完全投入到技術創造中，自己扮演起造物主的角色。但未來，人類自己是不是也會同樣遭受被“驅逐”的命運？

東華大學教授王治東指出，人工智能概念蘊含著 “人工-智能”兩個向度，這兩個方面讓人工智能成為悖論性的存在。持樂觀主義態度的學者們認為，人類智能有人工智能無法取代的獨特優勢，并且人工智能其實也可以為人類智能開啟新的“進化”方向。在東華大學張怡教授看來，在智能化社會條件下，一種基于物聯網為載體的存在方式為人類智能打開了新的空間，那就是集體智慧，由此形成一種跨界的合作性認知，這個跨界性的合作將形成一種新的社會分工即 “超專業化現象”——將工作置于一個“全球腦”下進行虛擬的整體操作。這種“集體智慧”是人類協同效應的進化，也是人類智能在受到人工智能影響的條件下進化的路徑。上海大學王天恩教授也指出：“智能進化只能是作為集體的類進化的結果，不是按照圖紙批量生產就能超越的，這一點大概是人類智能具有優勢的地方。”

另一方面，許多學者則擔心機器人發展對人類本身所造成的潛在威脅。南京大學榮譽資深教授林德宏就表達了對人類未來的擔憂：“按照技術自身的發展邏輯，機器人會不斷地取代人類，從人的雙手、體能，到人的大腦、智力，再到人的理性、情感，甚至取代人的信仰和社會地位。”林教授特意引用了愛因斯坦的話“關心人的本身，應當始終成為一切技術上奮斗的主要目標”，他強調，為了維護人類自身的尊嚴，應該為技術的發展規定社會底線。而對技術的合理約束實際上是對人自身的約束，約束不斷膨脹的物欲和對技術的貪婪追求。類似地，復旦大學哲學系副教授徐志宏也指出了機器人對人類的一種本體論層面的威脅，她是這樣說的：“馬克思曾指出，自由自覺的勞動是人的類本質。機器大工業的產生解放了生產力和土地上的勞動者，卻也導致了勞動者經濟和技能雙重意義上的赤貧。今天我們在更深程度或者更大范圍上面臨著相似的問題：當人的生活只有輸入而無輸出 （馬克思意義上自由自覺的勞動）時，人一開始會感覺到便利，但最終會產生深層的焦慮，不知道自己該干什么。技術的發展讓人碎片化并帶來本體論的危機，盡管智能會越來越發達，但人卻做出了某種犧牲。”

不過，比起擔憂“機器人會統治世界”這樣相對遙遠的末世預言，可能更需要我們迫切警惕的是，人工智能會造成“馬太效應”，并進一步加深社會分層現象。南京林業大學副教授郭輝就指出：“不同消費群體由于知識化能力明顯的分化，在掌握運用AI技術的能力和適應度上是存在巨大差異的。因此，必須弄清如何讓這些新技術造福整個社會，而不僅僅是技術的控制者。此外，在消費群體中也存在著這樣的分層：創造型消費者能充分利用其產品提供的交互性性能，在使用中學習和發展新的智能；而被動型消費者由于知識化能力的匱乏，只能沿著被鎖定的技術路徑，對人工智能產品形成徹底的依賴而淪為技術的奴隸。”

海德格爾有關“牧羊人與羊”的比喻人們耳熟能詳，但現在的情況似乎發生了反轉：在人工智能的促逼下，人類漸漸喪失對技術的控制。為此，中共上海市委黨校教授張春美強調，對人工智能技術高度發展所帶來的不確定性的思考，最終的落腳點還是要回到人和技術的關系問題——在技術發展中，人應該有什么樣的地位，以及人的地位應起到什么樣的決定作用。今天，如果我們追隨技術的邏輯，不斷學習和掌握新型的技術，就有可能成為這個時代的牧羊人，否則，我們就可能淪為被技術所驅使的羊。