2021年全球技术治理报告.docxVIP

一、跨领域技术治理缺口 从无人机到物联网，每一项技术都面临着独特的治理挑战。本报告揭示了第四次工业革命技术面临的一系列共同挑战，尽管许多挑战在疫情爆发之前就已存在，但疫情加剧了应对这些挑战的紧迫性。这些挑战包括： （一）监管有限或缺乏监管 许多监管机构还未准备好人脸识别和其他变革性技术可能带来的法律后果和伦理问题。无人机、区块链、物联网等技术中都存在这些挑战。例如，区块链驱动的智能合同可依靠标记商品物理位置的传感器立即转移资金，这可能引起金融监管之外的交易及商业纠纷。 （二）技术滥用或非预期使用产生的不利影响 区块链的匿名性质导致我们很难找出那些通过“代币发行融资（ICOs）”筹集资金的罪魁祸首。算法对社会非常有价值，但若缺乏有效治理，则可能带来不利影响或意想不到的后果。人工智能可通过“深度伪造（Deepfake）”技术制造音频或视频，让一些政客、名人或新闻主播看上去发表一些演说，而事实上他们并没有做过。 （三）技术责任和问责制度 我们很难针对自治系统做出的决策制定问责制度，例如无人 - 2 - 机坠毁损坏一座建筑物，或是医疗软件误诊的情况下，责任谁来承担。以一辆撞毁的自动驾驶汽车为例，我们几乎不可能推断出自动驾驶汽车为什么会做某一决定，责任可能落在汽车制造商、软件设计师、车主或乘客身上。法律体系必须解决这些问题。 （四）隐私和数据共享 任何收集个人数据的领域都涉及隐私问题，新冠肺炎疫情使这些问题凸显出来。监管机构和立法者应在保护隐私的同时，鼓励数据共享，但目前还没有共享技术标准或治理框架来规范这类信息的传播。数据共享和访问的问题在执法中尤其突出，政府应在居民隐私和合法访问数据之间找到平衡点。 （五）网络和其他安全问题 侵入人工智能系统的黑客可以修改决策或结果，如诱骗无人战斗机将拥挤的民用空间误认为敌区。除此之外，犯罪分子可以访问敏感的医疗卫生数据，利用这些数据恐吓、歧视某些群体或制造生物武器。物联网设备的网络风险尤其严重，对它们的安全保护远远不够。 （六）人为监督 自主系统的决策可能导致飞机坠毁、船只瘫痪，这就是为什么在测试自动驾驶汽车时，仍需要一名后备人类司机来控制风险。当技术创造者们越来越自信地认为其产品能够在最少人力参 - 3 - 与下工作时，我们需要思考人类在何时、何种程度上介入到人工智能系统，才能实现安全、有效地运行。 （七）跨境差异和受限的数据流 数据和隐私相关的法律因国而异，这增加了技术开发的难度和现有技术不合规的风险。此外，许多国家限制数据共享，特别是金融和医疗服务方面的数据，但限制数据流动可能会抑制人工智能、自动驾驶汽车、区块链等这类数据依赖型技术的发展。 二、创新治理框架 为了应对上述挑战，创新治理和监管框架应运而生，以支持第四次工业革命技术。 （一）伦理治理 许多国家已经制定了伦理治理框架，为新兴技术开发提供指导方针。伦理治理框架是一个迭代过程，覆盖整个项目生命周期。例如，英国政府发布维护治安过程中使用人脸识别相关伦理问题的中期报告，欧盟委员会在新冠肺炎疫情接触者追踪应用程序指导方针中强调遵守《通用数据保护条例》（GDPR）和隐私和电子通讯指令（ePrivacy Directive）的必要性。 （二）公私协作 政府需要管理新技术和保护公众不受伤害，企业需要承担社会责任。新冠肺炎疫情时期，各国政府公私协作比以往更加频繁。 - 4 - 例如，英国成立了一个由制药公司、监管机构和学者共同组成的工作组，促进新冠肺炎疫苗的研发。 （三）灵活并迅速响应的监管 各国政府应对新冠肺炎疫情的方式体现出监管灵活性，例如，印度允许注册医生提供远程医疗服务。在某些情况下，灵活并迅速响应的监管意味着给低风险产品和服务提供更多发展空间。世界经济论坛正在支持各国政府采用灵活性、试验性、协作性的监管方式。 （四）试验：沙盒和加速器 监管机构在安全、隔绝环境中观察新技术的影响，这种环境被称之为沙盒。沙盒为监管提供环境支撑，帮助企业测试模型和概念验证。利用沙盒方式，监管机构也可以模仿初创企业加速器，以鼓励创新。例如，许多国家正采用沙盒方法测试无人机。 （五）数据共享和互操作性 一些数据被许多国家视为敏感信息，因此在跨国流动中受到不同规则的限制，并且其存储格式也不兼容。全球有无数举措关注于如何在伦理约束下加快改进数据共享。例如，世界无线通讯解决方案联盟（ATIS）创建了一个物联网（IoT）框架，用于推动智慧城市数据共享、数据交换市场和小城市中的公私伙伴关系。 - 5 - （六）监管合作 国际机构在制定全球标准、避免监管分歧方面发挥着至关重要的作用，监管机构面对新兴技术也必须学会迅速适应。公共部门创新者们逐渐认识到，通过各部门开展创造性和前瞻性合作，可对第四次工业革命技术的应用过程进行有效治理。 三、研究方法和案例分析 世界经济论坛和德勤公