在移動互聯網，大數據，云計算等新技術的驅動下，人工智能加速發展，呈現出深度學習、知識推理、人機協同、群智開放等新特征，形成新的發展空間，成為了當前科技創新和產業推動產業升級轉型的重點。

發展人工智能技術的根本出發點在于提高人類的生活水平。因而我國發展人工智能的初心也必須從造福人民出發，以保障和改善民生為本源，推動人工智能在人們日常工作，學習和生活中的深度應用，加強在教育、醫療衛生、體育、交通、助殘養老和家政服務的應用。同時要開發用于政府決策和社會治理的人工智能系統，加強社會信息資源整合，推進智慧城市建設，加強人工智能在生態領域運用，從而提高公共服務和社會治理水平。

技術的發展從來都是一把雙刃劍，人工智能在給人類社會帶來便利的同時也帶來新的安全問題及風險。首先，人工智能自身存在諸多的內生安全問題，不論在模型與系統方面，還是在數據層面的安全漏洞都會直接影響人工智能算法的安全性。其次是人工智能的風險濫用，利用深度的偽造技術，產生不實內容，從而誤導公眾。第三是機器學習算法的黑箱問題，其中不可避免隱藏了歧視和偏見。當此類算法應用到需要進行風險識別和信用評估等金融和司法領域時，就可能產生不公正的決策結果。最后是人工智能可能造成的數字鴻溝問題，人工智能研究和應用需要一定的經濟基礎，對于一些落后的國家和地區的人們來講，無法以均等的機會來獲得人工智能技術帶來的福祉。因此在發展人工智能的同時，必須高度重視可能帶來的風險挑戰，加強前瞻預防和約束引導，最大限度降低風險，確保人工智能安全、可靠可控發展。為了保障我國人工智能發展任務的順利推進，我們要加強人工智能相關法律倫理和社會問題的研究，建立保障人工智能健康發展的法律法規和倫理道德框架，明確人工智能法律主體以及相關權利、義務和責任，在發展AI過程中解決倫理和安全問題。

（作者為中國科學院院士）