2019年4月5日，我系科技哲学专业毕业生、上海交通大学马克思主义学院科学史与科学文化研究所杜严勇教授应邀来到南京大学哲学系，做了题为《如何构建安全可靠的人工智能》的学术讲座。讲座由刘鹏副教授主持。我系周理乾老师及部分研究，东南大学夏保华教授、南京农业大学刘战雄老师参加讲座。

在讲座开始前，杜老师表达了对回到母系与老师同学们进行交流的喜悦之情。

杜老师首先回顾了人工智能发展的几个阶段，认为此次人工智能领域的重新繁荣与之前有本质区别，基本可以确定会有一个稳定的长期发展，甚至通用人工智能的目标也有可能实现，但是人们对人工智能的认识还远远不够。杜老师引用了波斯特洛姆“炸弹顽童”的隐喻，进而指出人工智能的发展可能带来的安全问题的重要性。

对于这一问题，杜老师讲述了两种完全不同的态度：一方面是机器人与人工智能专家的乐观态度，另一方面是学者与公众的担忧。但杜老师认为，尽管即使是片面的人工智能也可能给人类带来危害，比如自动驾驶技术与家用机器人等，而且科学技术本身也带有不确定性，比如人类主体的有限理性、科学基础的不确定性、技术应用的不确定性和管理的不确定性等，但是，我们仍然可以对人工智能技术的发展持有一种谨慎的乐观态度。

这样，就要求我们从科技伦理的角度来思考如何构建安全可靠的人工智能。杜老师从内部进路与外部进路两个方面对这一问题进行了思考。所谓内部进路，首先要通过伦理设计来构建，即要赋予人工智能或者机器人以道德判断和行为的能力，杜老师介绍了“自上而下”、“自下而上”和混合三种不同进路。其次，要对人工智能的应用范围进行限定，比如要对人工智能想要做什么与能够做什么进行控制。最后，要制定相应的安全标准与规范，杜老师尤其强调了对军用人工智能的研究，认为我们必须要对军用机器人的自主程度与智能水平有规范性的标准。

而外部进路，则首先要强调科学家的社会责任与国际合作，杜老师认为在人工智能领域的研究中，科学家必须要承担起前瞻性道德责任，以避免陷入“科林格里困境”之中。除此之外，杜老师认为鉴于人工智能安全问题的全球性特征，必须要加强国际合作，在大科学时代，只要国际之间达成共识，那么民间力量很难在人工智能上面对人类造成毁灭性影响。其次，公众对人工智能的接纳及其对人工智能的观念也应作出相应调整，要积极参与与科学家的对话，参与到人工智能科学的发展过程之中。最后，杜老师也对人工智能的安全评估与管理做出了设想。

最后，杜老师与老师和同学们就人工智能伦理的特殊性、人工智能安全事件中的责任判断等问题进行了深入的讨论。