人工智能技術發展：構建“好的人工智能社會”是全人類面臨的嚴峻挑戰

人們期待通過技術“保護我們以擺脫現實生活的悲慘險境”時，也一直在關注技術發展可能帶給人類的風險。人類社會從傳統社會邁向現代社會是一個質的飛躍，自工業革命伊始，技術一直被視作這一宏大社會進程的重要變革性力量，但從倫理學角度看，技術也一直被視作一種憂患之源。

人類發展技術的歷史也一直糾結在“技術控”與“技術失控”的二元邏輯主線之中。人們在享受技術便利的同時，有可能失去了對復雜技術系統的控制，進而對人類生存帶來災難。“技術的反向控制與適應”的主題也一直存在于各個文化體系和知識形式之中。從傳統社會思想家對“技術危險性”的警示到工業革命之初社會科學家對“啟蒙黑暗面”的關切；從近現代戲劇與文學作品（狄更斯、托爾斯泰、卡夫卡等）對“技術兩面性”的大眾化詮釋和傳播，到技術研究領域對 “技術敵托邦”的探索，再到近代社會科學的政策分析，所有關切都指向技術所帶來的意想不到的社會結果，“技術的潛在功能與社會功能紊亂”問題一直是人類發展的夢魘。而人工智能可能自然演化具備自覺意識并對人類發動攻擊則是技術憂慮在當代公眾意識中的折射。

人們曾一度認為，人類對自己制造的東西最為了解，并能達到對“制造物”的牢固控制，然而科技發展的速度往往超乎人類想象。起初，機器人只是作為一種人類生活工具出現在科幻小說中的。20世紀中期，當艾薩克·阿西莫夫出版《我，機器人》的時候，機器人世界還是想象中的世界，在科幻作家最初設想中，機器人以照顧人類為己任。然而隨著科學技術的進步，人們開始對機器人技術是否會超出人類控制范圍產生了懷疑。當今，人類生活中已經充斥著大量機器人，并且越來越智能化，科學的進步總是超乎人們預測。于是，人們開始設想高度發展的人工智能未來，當智能機器人充斥于我們生活那一天，是否會不再滿足于為人類服務，而像人類宣戰，并統治世界？機器與人的關系是否有可能會從“人”與“物”的關系轉化成“人”與“人”的關系呢？

當前人工智能已經從科學實驗階段進入商業應用階段，智能機器執行任務的復雜度正在以指數速度增長，人工智能發展正在進入爆發前的臨界點；人工智能進化中的遞歸式自我改善有可能會導致最終的“智能爆炸”。人工智能飛速進步所展示的人類創造出一種全新生命形式的可能性，不僅將標志著進化的突破，而且也可能給人類物種的生存構成潛在威脅。人工智能技術失控可能源自作為技術創造者的工程師的疏忽大意和無意識，也可能源于機器人的某個深度學習瞬間的豁然領悟。在電影《西部世界》中智能機器人開始不再聽命于工程師們，開始傷害和自我傷害，并最終擺脫了人類的控制，開始反抗屠殺人類。

構建“好的人工智能社會（Good AI Society）”是全人類面臨的嚴峻挑戰。隨著人工智能在生產活動和社會活動中的作用不再被忽略，人工智能甚至有可能讓人類失去智慧能動者的唯一地位。傳統社會中僅僅針對人的產業制度和生產規則面臨重組的挑戰，以適應非人行動者參與的需要；“讓生活更美好”的人類愿景正面臨如何構建“好的人工智能社會”的緊迫挑戰。

“善治”與“善智”：發展“負責任”的人工智能，走向技術與社會的“良性互構”

在技術發展中，人類應當避免“近視癥”的困擾，預先規劃、做好頂層設計，僅僅和過于強調技術發展的“獨特能力”，反而容易落入“能力陷阱”。人工智能時代不僅僅意味著一場技術與產業革命，對全球價值鏈結構、全球產業競爭格局產生深刻影響，更是一場社會、文化、價值與思維等領域的全景式整體性變革。技術發展應當服務于人本身。人工智能發展要堅持“善治”與“善智”的統一，人工智能社會要走向“網絡空間”與“現實空間”的深度融合，應當盡快搭建起“行動者網絡”和“利益相關者”就人工智能問題開展相關討論與合作的新平臺。歷史證明，人類面臨重大的技術風險往往有助于推動形成社會共識；而好的社會共識則是歷史進步的強大推動力。

隨著新的機器自動生產者的加入，會導致設計者、使用者、監管者之間責任的模糊和缺失，精細分工下的“有組織不負責任”亟需得到解決。傳統技術倫理學是把倫理道德看作技術活動之外的一種規范力量，對技術后果進行倫理反思和批判；“后經驗轉向”時代的技術倫理規約強調規范性和建構性的統一，主張“端口前移”：從負面倫理后果的揭批推進到正面倫理價值的“預防式置入”；在技術設計中“嵌入”道德要素，通過恰當的技術設計規范和制約“創造者”的行為，實現“把技術關進倫理的籠子里”的目標。

“技術與社會如何和諧共處的主題”一直是技術社會學的重要論域。作為跨越技術決定論與技術建構論二元對立的整合性綱領，技術與社會的“相互建構論”已經成為當代技術社會學研究的主導性范式。面對不確定性的世界嘗試提供確定性的理論框架是危險的，面對人工時代的來臨，我們必須跨越學術、社會、政治、國家和行業的界限開展多方合作，讓所有個體、群體和區域都能參與到當前的轉型過程，并從中受益。

大數據背景下的人工智能具有“強加性的巨大功能”，以人工智能為代表的第四次工業革命隱藏著巨大挑戰、蘊含著空前機遇。經濟長期滯脹、就業壓力劇增、社會不平等發展、“好的人工智能社會”如何構建等都在考驗人類的協作、創新與智慧。中國是世界上“現實中最大的發展中國家”“世界上第二大經濟體”“未來的最強大國家”，世界對第四次工業革命中的“中國角色”寄予厚望。在當前階段，中國面臨經濟發展新常態、供給側改革、傳統企業轉型、制造業升級等問題。不論是政府、企業還是個人，深入了解第四次工業革命的本質內涵和系統意義，全面評估人工智能帶給社會的機遇與挑戰必將是行穩致遠、角逐未來的重要砝碼。

（作者為清華大學社會科學學院黨委副書記、教授、博導,社會創新與風險管理中心主任）

【注：本文系國家社科基金“‘后經驗轉向’時代的技術倫理規約機制及模式研究”（項目編號：13BZX024）的階段性成果】

【參考文獻】

①張成崗：《技術與現代性研究》，北京：中國社會科學出版社，2013年。

②[美]蘭登·溫納著，楊海燕譯：《自主性技術》，北京：北京大學出版社，2014年。

③[美]科德·戴維斯、道格·帕特森著，趙亮、王健譯：《大數據倫理：平衡風險與創新》，沈陽：東北大學出版社，2016年。

責編/宋睿宸    美編/楊玲玲