大工科技伦理讲坛——段伟文：新兴科技伦理的问题化和实践化的再思考

段伟文教授首先对题目进行解释，指出“问题化”指何以提出一个问题，“实践化”是向实践的转化。我们从科技伦理中拿出一个问题来思考，就意味着我们在向实践转化，即把伦理学的研究和探讨变成伦理实践的一部分，由此科技伦理是一种符合性的实践。正如法国哲学家巴士拉提出的，科学是多种实践的复合体，每一种实践都析出自己的认识论。如何去认识科技伦理问题，这本身是一种实践的认识论，而实践认识论具有后在性和非先验性，因此要将科技伦理当作一种集合性的实践架构。我们可以说某些问题是科技活动中的伦理问题或简称科技伦理问题，但不要试图去定义什么是科技伦理，再由此演绎出科技伦理学，因为科技伦理只是一个集合性的架构，或者说是一个框。更重要的是，应该先搞清具体的科技和科技社会系统，然后开始研究特定的科技伦理问题，否则只能玩分类归纳、同义反复、自圆其说的游戏。

从事科学研究或技术创新，原本是相对自治和自律的共同体，不太会遇到伦理的问题，遇到伦理问题也依靠共同体的自治解决。然而现在仅仅依靠自治是不够的，需要从共同体的外面治理，但从外面治理的问题是其不占有内部的知识和经验。新兴科技具有颠覆性，可以和STS的研究结合起来，要考虑到科技是一个整体性的科技社会系统。从社会的角度看，新兴科技挑战着维护和引导社会秩序的法律和伦理基础；从STS的角度看，新技术的引入是技术社会系统的重新组合方式。我们要面对新兴科技的风险、收益和未来的普遍的不确定性，并要对颠覆性的科技进行监管和预测。对颠覆式监管的预测引发了预期治理的问题：“我们应该做些什么来引导和塑造即将到来的机器人革命，以最好地服务于环境和人类？”“设计师、用户和决策者应该如何看待机器人？”“是否需要为机器人创制独有的新伦理、政策和法律？”预期治理承认依据被精确预测的未来进行监管的行为是徒劳的，它接纳多种未来的可能性，并寻求建立一种制度能力来理解和发展选择、背景以及自反性。

当科技伦理问题本身成为一个被公众、社会、产业所关注和必须应对的问题时，就存在问题化的策略，即让问题显现出来，如灰色粘质、数字公地、电车难题、算法歧视、困在算法里的人等等问题。这些显示出问题化的重要背景是负载价值的，科技是有目的的活动，科技伦理要对技术目的所含的价值有所考虑。去问题化指通过某些叙事和隐喻将问题消解掉。实践化在一定程度上也是去问题化，实践化如隐私设计、隐私计算、隐私合规等。我们应不让“去问题化”被“实践化”所遮蔽。

段伟文教授指出隐喻和叙事的重要性。如纳米技术在科学上的可行性，“瑞士制表师的产品甚至在几个世纪前就证明了人类对物质世界的控制已经向下延伸了千倍到毫米级左右。在过去的几十年里，研究人员将这种控制再降低了一百倍”；合成生物学的机器隐喻“你几乎不得不接受有机体的出现，所有固有的设计缺陷和限制、妥协和复杂性都是由进化的随机工作造成的。现在我们实际上可以预先规划生命系统，设计它们，按照我们的意愿建造它们，并期望它们按预期运行——就像它们实际上是机器一样。”科技的发展中隐喻很重要，但从伦理的角度，要发现问题就要对隐喻本身进行破除。破除隐喻要承认最初的（主观的）意义制造隐喻，通过检验其他隐喻来挑战具有单一意义的隐喻，研究隐喻相互竞争的潜在结果，以规范目标为基础评估结果，列出获得胜利的隐喻所在的局限。

 段伟文教授指出新兴技术的快速发展与对其社会影响的管理之间有日益扩大的差距，监管和控制在认知和协同方面跟不上科技的发展。在某种角度上，企业或行业也类似于科学共同体，是一个自愿的自我监管系统，行业内人员进行监管的知识门槛要低得多。目前的科技伦理治理主要依靠的是从业人员的自适应治理。一方面监管部门实施的是硬治理，权力很大；另一方面，自愿自我监管的体系是软治理，两者要协调起来，形成一种治理的协调机制，建立治理协调委员会，来监测技术的发展并为发现的问题制定解决方案。再者，要构建余量调节与相关者协同激励机制，余量共同分担，给不确定风险留有余地，如机器人行业可能愿意为设备建立严格的测试和认证程序，如果这反过来导致无过错保险政策涵盖了意外发生时的风险。最后需要建立公共知识库和负责任的媒体，不夸大技术的短期效应，由此有效实现科技伦理的协同治理。

讲座结束后，张卫教授对本次讲座谈心得体会。张卫教授指出本次讲座信息量大，非常具有启发性。张卫教授针对讲座谈了两点思考：第一，“问题化”和“实践化”是当下的一种潮流，公共哲学、田野哲学等都与其有交叉之处，科技伦理的研究应该是自下而上的，从问题出发进行思考，去学科化和去理论导向是科技伦理面向实践的要求；第二，技术革命具有颠覆性，我们可以从以往历史中得到应对颠覆性技术引发的社会变化的智慧。

在提问环节，老师和同学们争相向段伟文教授提问，段教授针对老师和学生的提问进行了更深入地阐发。提问环节结束后，李伦教授对讲座进行了总结，对段伟文教授应邀为大工哲学系师生带来富有启发意义的精彩报告表示感谢。李伦认为段教授的讲座“科技伦理的问题化和实践化的再思考”具有重要学术意义，为科技伦理研究打开了新的视野。第一，目前对科技伦理有许多不同的理解，需要对科技伦理问题有一个基本定性，同时又能保持某种开放性。第二，段教授提到了边界物这一概念，很有启发性，我们可以将科技伦理看成“科技”—“社会”的边界物（交界物），这有助于进一步把握科技伦理的属性和本质。第三，段教授谈到的隐喻和叙事对科技伦理的问题化具有启发意义，多种意义的隐喻和叙事的存在有助于吸收多学科的理论资源。第四，科技伦理治理不仅应基于不确定性，也应基于确定性，段教授谈到的预期性治理可能在确定性和不确定之间达到某种平衡。

  最后，所有参会人员再次对段伟文教授的精彩讲座表示感谢，本次讲座圆满结束。