2024年11月1日，创新战略专委会副主任刘益东在“融通与创新——中国人民大学PPE高阶研讨课”的讲座顺利举办。本次讲座主题为“致善创新与人文社会科学崛起：AI大爆炸引发新科技革命、新产业革命与新分配革命”。

刘益东老师是中国发展战略学研究会常务理事，中国科学院自然科学史研究所二级研究员、博士生导师，国务院政府特殊津贴专家，中国科学院大学未来技术学院客座教授，中国未来研究会副理事长，中国大百科全书科学技术史卷电子与信息技术史分支主编。研究领域为科技战略、科技与社会、人才评价、科技史、未来学。本次报告的核心内容是：当前，以实现比人类聪明的通用人工智能（AGI）、超级人工智能（ASI）为目标的AI极速发展，在大幅提高生产力的同时，AI风险也随之剧增。AGI 、ASI做一万件好事，抵消不了做一件灭绝性的坏事，风险巨大。安全是发展的前提，AI大爆炸引发新科技革命、新产业革命与新分配革命，从致富创新向致善创新转型，人文社会科学崛起，构建自主知识体系，确保安全发展。创建辅助人而非替代人的新型AI发展模式，换道超车，加快世界科学中心建设，引领科技与创新的未来发展。

讲座伊始，刘益东教授以ChatGPT-o1博士级智能AI问世为引，指出目前西方人工智能发展方向、发展模式是错误的，以提高智能水平为动力、以实现比人类聪明的通用人工智能（AGI）、超级人工智能（ASI）为目标的发展模式必然失控，AGI、ASI反客为主，甚至硅基生命替代碳基生命。人工智能应该辅助人类而非替代人类，只在高空、高压、放射性、有毒、有害等高危作业领域，为人类代劳。他深入剖析了人工智能技术对人类社会带来的变革。首先，刘教授细致观察并分析当前人工智能技术的发展现状，指出人工智能过度发展将导致大规模失业、大规模造假、大规模杀伤，AI军备竞赛必将引发灾难性后果，AI等科技风险愈演愈烈，而人类安全防线存在十大安全漏洞，揭示了西方科学与西方市场经济体系在其中扮演的关键角色。刘教授指出，根据图灵奖、诺奖得主等众多一线人工智能专家预言，人工智能毁灭人类的可能性已经达到了10%到20%。人工智能的发展已经超越了图灵测试和自主意识两道门槛，仅剩自我进化最后一道防线。刘益东教授主要强调了科学主义、拜技主义、资本驱动等造成对粗放式创新的迷信，甚至无法用常识思考问题，一味追求实现比人类聪明的AGI、ASI，导致“认知失灵”漏洞；“一坏”遮“百好”的“科技伦理科技法律失灵与陷阱”漏洞；以核武器为代表的“确保相互摧毁即可确保自身安全”漏洞；因“致毁知识增长”而导致的“扬长避短机制失灵”漏洞；以“囚徒困境、动车困境、双刃剑困境、魔戒困境（囚车剑魔四大困境）”所揭示出的“知错纠错机制失灵”漏洞等。面对人工智能等高科技风险危机，集体对于风险的感知是钝漠的，急需人文社会科学崛起，从致富创新转型为致善创新。

刘益东教授指出，导致这一危机的根源之一是西方科学主义。西方科学作为一种“二维”（现象维与分析维）科学，追求的是符合性真理，而不考虑价值取向。因此，应当加上价值维，将二维科学变为三维科学，完整科学结构。另一根源是市场经济体制。市场经济体系作为资本导向，对个人、企业的短期需求敏感，而忽视人类整体和长远需求。急需发动新科学革命、新技术革命、新产业革命、新分配革命，从工业革命以来的大规模致富创新、理工科崛起向大规模致善创新、人文社会科学崛起转型。

经过深入的观察与分析，刘益东教授提出用两种大局观思考未来，现代化语境大局观是指在人类现代化进程的语境和视角下审视当代中国的境遇，中国是发展中国家，西方是发达国家，已经实现现代化，甚至进入后现代；可持续发展语境的大局观则是指在可持续发展的语境和视角下，从人类当下面临的挑战来考虑未来走向与中国的作用。全面认清和把握大局观是构建自主知识体系的先决条件，在现代化语境大局观之下，主要是为了解决中国问题，是为了维护中国利益、讲好中国故事、传播中国声音；而可持续发展语境的大局观则是应对包括中国在内的世界所面临的巨大挑战，兼容两种大局观建构的中国自主知识体系既解决中国问题、维护中国利益，又解决世界问题、维护人类利益，中国人民与世界各国人民一道，共建人类命运共同体，确保人类社会可持续安全与发展。

主持人王小伟老师对讲座内容进行了总结，对刘益东老师的报告给予高度评价，指出人工智能已经超越了单纯的科学探索，更同时涉及到商业和金融领域。我们不应将人工智能仅视为工具，而应认识到它将作为一种超越人类的智慧，引起我们更深层次的反思。人类社会正面临着“动车困境“的挑战，即在发展中争论、在争论中发展。而在人工智能时代，任何的危机都会变得更为颠覆。这种颠覆性的危机并不能仅靠市场机制来解决。当今的时代呼唤人文社会科学的崛起，人文学者应担当起责任，从宏大的角度为社会作出新的贡献。

人文社会科学要想成为舞台的焦点，不仅需要理解当前的科学话语，更要超越科学，提出更深刻的见解。那么人文社会科学走到舞台中央是否是可能的？在互动环节，针对听众的提问，刘益东教授回应道：人文社会科学在探讨科技风险治理、科技伦理规制、科技与社会的协调发展、人类安全共同体与人类命运共同体建设方面，更加专业、拥有更大的话语权和更大的责任担当。站在舞台中央是社会发展的需要和必然结果。过去，发展是时代的主旋律，而现在我们更加强调安全是发展的前提，需要更安全的发展，安全的科学技术是第一生产力，PPE等人文社会科学领域大有作为。

终审：孙盈智