总序2019年5月9日，我作为第一作者与翟晓梅、朱伟和邱仁宗三位教授在Nature发表评论文章Reboot Ethics Governance in China（《重建中国的伦理治理》），另一国际知名科学期刊Science在同一天发表了对我们这篇文章的评论报道。本文以“基因编辑婴儿”事件为切入点，澄清了国外大量评论文章对我国没有任何监管措施的不实指责，分析了中国科技创新、研究和应用领域存在的典型伦理治理问题，论述了重建当前中国科技治理和监管体系的迫切性和必要性，提出加强监管与伦理先行、建立全国性的临床研究登记注册平台、明确监督机构、提供信息、政府支持生命伦理学教育和培训以及严防歧视等六项政策建议。这篇文章也积极回应了同年3月14日七个国家的科学家和伦理学家在Nature发表的呼吁暂停生殖系基因编辑并完善国际治理框架的评论文章，在*受瞩目的国际主流科学期刊发出中国声音。新兴科技伦理治理是全球共同面对的挑战，新兴技术内在的独特性使得相应的监管和规制问题比传统技术复杂棘手得多。切入具体新兴科技引发的伦理和治理问题探究之前，对“新兴技术”的概念辨析和特点归纳是立论前提。如何界定和划分新兴技术，可随我们对新兴技术的进一步认识和技术本身进一步发展而有所改变，莫衷一是。但我们首先要澄清的是：“新兴”和“新兴技术”这两个术语或概念的意义。新兴技术的“新兴”有什么意涵？“新兴技术”的英文翻译是emerging technologies，科学哲学中讨论过emerge或emergence概念，曾译为“突现”或“涌现”。著名科学哲学家波普尔1977年11月8日在剑桥大学达尔文学院题为“Natural Selection and the Emergence of Mind”的讲座中阐述了他的突现（emergence）理论。波普尔认为科学提供给我们一幅宇宙图景，表明宇宙是有原发性和创造性的，宇宙会在新的层次突现新的事物。例如，巨大恒星中心的重原子核、有机分子、生命、意识、人类精神产品（如艺术、科学）都是不同层次的突现。突现不是一般的出现，它有如下的特点：①突现出来的是新事物，与现有的事物有质的不同。波普尔在1977年出版的Self and Its Brain: An Argument for Interactionism一书中，有力批驳了《旧约》中所说的“太阳底下没有新事”；②新事物的出现是突发的，仿佛从前所未知的隐藏的地方显露出来；③新事物的出现往往是不可预测的，可能是引发其产生的因素太复杂，存在着许多不确定性，或者这些因素相互之间的依赖关系过于复杂难以把握；④新事物的出现往往对宇宙的演化或自然和社会的发展有非常重要的影响。就生命起源而言，生命在宇宙中的突现（emergence）是依赖于当时的许多复杂的、我们至少目前不可模拟和未知的偶然条件及其相互作用。具备哪些特点可被称为“新兴技术”？Rotolo等人2015年在线发表的What Is an Emerging Technology?一文指出：①新兴技术在概念、技术、方法方面具有相当的新颖性，而不是一般的新颖，它们具有革新性和创新性；②它们发展的速度比常规技术快得多；③新兴技术相互之间具有连贯性和凝聚力，它们之间相互促进、相互影响；④拥有十分突出的影响，有时可能起颠覆性作用，可能会使社会大大受益（解决长期以来存在的社会问题和全球性问题），同时可能引起的风险或伤害也非常大，以至于可能威胁人类的生存；⑤具有不确定性和歧义性，不确定性是它们自身的发展及其对人和社会的影响难以预测，而歧义性是指人们对新兴技术做出决策时难以对其前景、方法或成果取得一致的理解或评价。我们在已公开发表的两篇文章中指出，从伦理学以及监管和治理角度看，新兴技术有以下四个主要特点值得深刻反思：新兴技术的主要特点之一：它们有可能给人和社会带来巨大受益，同时又有可能带来巨大风险，以至可能威胁到人类未来世代的健康以及人类的生存。例如人工智能可使人类从一般的智能活动摆脱出来，集中精力于创新发现发明，然而同人类一样聪明甚至超越人类的人工智能系统，一旦失去控制，可能对人类在地球的存在带来威胁。*早提出技术奇点（technological singularity）或奇点（singularity）这一概念的是匈牙利裔美国物理学家冯·诺依曼。在牛津大学任教的瑞典哲学家波斯特罗姆则提出“存在风险”（existential risk）概念，意指人类不慎使用核技术、纳米技术、基因工程技术以及人工智能技术等而导致永远毁灭起源于地球的智能生命，即人类永遭毁灭。英国科学家霍金不止一次警告说，人工智能有可能毁灭人类。合成生物学的研究和广泛应用可以帮助人类用多快好省的方法解决困扰已久的粮食、营养、燃料、药物和疫苗的生产问题，然而如果合成出传染力强、传播迅速且对疫苗有耐药性的新病毒，则可能使数千万人丧失生命。新兴技术的主要特点之二：它们的不确定性。当风险的严重程度及其发生的概率可以预测时，我们采取风险评估和风险防控方法加以应对。与风险不同的是，不确定性是我们对采取何种干预措施或不采取干预措施的未来事态的决定因素缺乏必要的知识，因而难以预测其可能的风险的一种状态。我们对所采取的干预措施可能引起的后果难以预测，影响后果的因素可能太多、太复杂、相互依赖性太强而不能把握。例如用于管理电网、核电站等重要设施的人工智能软件可能发生难以预测的差错。贺建奎所做的生殖系基因组编辑是典型的不确定性例子。将卵子、精子、受精卵或胚胎中的基因组进行编辑后， 目前无法判断基因组编辑是否损害了正常基因，脱靶和嵌合体会引发何种健康风险，被敲除掉的可能导致HIV病毒感染的CCR5基因是否具有抵御其他感染的免疫功能，更不能把握基因组经过修饰的胚胎发育成人后能否预防艾滋病感染，对其他疾病尤其是传染病是否有易感性，其身体状况比没有经过编辑的孩子是好还是差，其未来的孩子的身体状况以及未来后代的身体状况怎样等，对这些问题我们当下都无法回答，因为缺乏必要的知识和信息。在这种情况下我们无法对生殖系基因组编辑进行必要的风险-受益评估，也不能对提供胚胎的HIV患者夫妇提供必要和充分的信息，使他们有能力作出有效的、自主的知情同意。这个例子还说明，与风险相对照，不确定性包括“不知道的未知事情”（unknown unknowns）的情况，即我们不知道还有哪些我们应该知道而目前不知道的情况。风险与不确定性的区别具有规范性意义。规范性的决策理论要求我们面临风险或不确定性时区分不同的合乎理性的决策策略，例如面临不确定性时对于确定什么样的目标必须小心谨慎。新兴技术之不确定性，可能由于多种原因。由于新兴技术的新颖性，科学家也不能预测他们研制的产品如何影响生物多样性和自然环境，例如我们没有类似的经验可用来预测合成有机体和基因驱动蚊子的环境影响，即我们不可能预测所有潜在的环境危害的性质、概率和严重程度；科学家和监管机构均处于“无知”状况之中，不能确定影响人的健康和损害环境的概率及其性质，因而无法采取有效措施加以应对。新兴技术的主要特点之三：它们往往具有双重用途的特性。即一方面可被善意使用，为人类造福；另一方面也可被恶意使用，给人类带来祸害。例如合成流感病毒可用来研制疫苗，也可用来制造生物武器。这是大多数常规技术不可能具备的特点。例如制造电视机，很难说技术本身有双重用途。而且一门新兴技术越发达，其被恶意利用的可能性就越大。在人工智能软件开发中，技术越先进，其被利用作为恶意软件、敲诈软件的可能性也越大；恶意使用者施行攻击的成本降低，攻击的成效提高，影响的规模增大。双重用途的特性增加了不确定性，例如我们难以完全掌握恐怖主义利用新兴技术进行袭击的概率，因为不可能获得所有必要的情报信息。新兴技术的主要特点之四：它们会产生出一些从未出现的新的伦理问题。例如，人工智能软件可以帮助人类做出涉及未来的决策，而人工智能的决策是根据大数据利用算法做出的，算法在大数据中分析出人们的行为模式，根据这种模式预测某一群人未来会采取何种行动，包括消费者会购买何种商品，搜索何种人适合担任企业的高管，某种疾病在某一地区或全国发生的概率，或某一地区犯过罪的人有没有可能再犯等，最终根据这种预测制定相应的干预策略。然而，模式是根据已有数据识别出来的，而数据是人们过去的行为留下的信息，根据过去的行为数据挖掘识别出的行为模式来预测人们未来的行为，很有可能发生偏差或偏见。例如美国多次报告算法中的偏差，都是种族主义和性别歧视偏见导致的。安保机构根据算法往往推测黑人容易重新犯罪，尽管并没有可靠的统计数据。人有自由意志，一个人过去犯罪，可以选择今后不再犯罪。由于大数据往往将“编程”“技术”等词与男性相关联，“管家”“家务”等词则与女性相关联，因此人工智能的搜索软件往往推荐男性担任企业高级执行官。新兴技术的伦理问题，亦即在有关新兴技术的创新、研发和应用方面我们应该做什么和应该如何做的规范性问题，包括概念性伦理问题、实质伦理问题和程序伦理问题。我们如何在许多因素不确定的情况下对新兴技术的创新、研发和应用方面的风险-受益比做出合适的动态权衡，以及尊重作为新兴科技利益攸关者的人，维护他们作为人的权利和尊严以及社会公正，这是新兴技术的两类基本伦理问题。本丛书基于我们研究团队近五年来主持的国家重点研发计划项目“合成生物学伦理、政策法规框架研究”和国家社科基金重大项目“大数据时代生物样本库的哲学研究”以及在前沿新兴科技（合成生物学、生物样本数据库、干细胞、基因编辑、人工智能和机器人等）伦理和治理问题领域长期的交叉学科研究基础和优势，既注重理论与实践紧密联系，又强调分论和总论点面结合；既有伦理原则建构的宏观视野，又有新兴科技前沿的精准把握。本丛书采纳国际大科学计划HGP（Human Genome Project）的“伦理、法律和社会意涵”（Ethical，Legal and Social Implications，ELSI）跨学科研究框架，在全球视域和中国情境下对各种新兴科技的伦理和治理问题展开全面系统研究，关注相关基本概念的哲学反思和伦理分析，侧重科技伦理学的基本进路、方法论基础和道德形而上学建构等理论探索。运用规范伦理学基本理论和方法，一方面应用基本规范伦理原则，另一方面建构前沿新兴科技的新的伦理原则和框架，鉴别、分析和解决前沿新兴科技引发的具体伦理和治理问题，并提出相应的政策建议。2019年7月，中央深改委会议审议通过《国家科技伦理委员会组建方案》，推动构建覆盖全面、导向明确、规范有序、协调一致的科技伦理治理体系。党的十九届四中全会“决定”提出：“健全科技伦理治理体制。”国家“十四五”规划纲要提出：“大力弘扬新时代科学家精神，强化科研诚信建设，健全科技伦理体系。”2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，对我国科技伦理治理工作作出顶层设计。本丛书的研究内容契合这一国家重大战略需求，期冀为科技创新的伦理治理体系建设和治理能力现代化提供智力支持、做出力所能及的贡献。
購物車/收銀台(0) | 在線留言板
| 付款方式
| 運費計算
| 聯絡我們
| 幫助中心 |
加入書簽
HOME
新書上架
