http://www.scol.com.cn(2023-10-29 10:19:50) 编辑：盛飞
| 如何加强算法治理，避免算法作恶是上海建设具有全球影响力的科技创新中心面临的一项重要课题。在大数据时代，符合国家治理能力现代化战略目标的参与模式理应是以公众需求为导向，基于新型网络信息技术，运用互联网思维与互联网精神实现的具有智能化、高效化、透明化、精准化特征的“智慧型参与”模式。
当前，新一轮科技革命和产业变革突飞猛进，数字化、网络化、智能化加速推进，数字技术与经济社会发展、人民生产生活交织融合。作为数字时代一项关键信息技术，算法已成为推动企业数字化转型和国家治理能力现代化的重要力量。然而，在为用户提供便捷服务的同时，对其不合理应用也带来“信息茧房”“算法歧视”“大数据杀熟”等问题。在造福人类的同时，实践中算法歧视、算法霸权、算法黑箱等问题层出不穷，对个人权利、公共利益乃至国家利益造成威胁。技术是为人服务的，绝不能成为“绑架”人的工具。如何加强算法治理，避免算法作恶是上海建设具有全球影响力的科技创新中心面临的一项重要课题。 织密算法问责“一张网”：建立政府问责新形态 当前我国算法治理已初步构建起立法层级广、多部门联动、快速扩张的法律体系。但目前的算法问责框架仍然未形成纵横结合、层次分明的结构化问责模式、监管体系，以及与私人机构之间的协同监管。一是完善人工智能伦理规则体系。鼓励政府、产业界、高校科研院所、民间组织和其他利益相关方展开广泛对话和持续合作，完善人工智能伦理道德规范，以适应智能时代人机共生的社会行为模式。二是进一步明晰决策主体责任。明确信息维度上透明度要求的构成要素，协调受众的知情权、访问权与企业的信息义务、披露义务与记录义务，构建访问权的平行维度，根据不同类别主体设计不同深度的访问权。三是构建科学合理问责机制。成立大数据算法决策问责委员会，对算法决策存在的风险进行评估和制定相关的规则和制度，受理受到算法决策伤害的当事人申诉。四是建构形成算法正义共识的法学方法论。根据算法决策适用的领域形成具有时代特征、中国特色与上海特点的算法正义共识框架。五是建立结构化监管体系。协调事前事中事后监管举措，综合运用事前许可、事中全过程监督和事后行政惩戒措施。 开拓算法健康“新方案”：提升智慧医疗能级 近年来，我国出台了一系列有关健康医疗大数据算法的政策文件。但国内健康数据的采集标准、归属、管理责任不清，数据流通机制并不健全，在信息安全、使用权、数据主体的隐私保护等问题面临巨大风险。推进医疗数字化需要采取有效措施加强算法治理，以“算法之治”提升智慧医疗能级。一是从源头规范健康管理和服务机构的数据收集行为。制定具体且可操作性强的标准、机制等，来确保相关各方人工智能研发的合规性，如建立数据共享开放机制，平衡个人数据保护与数据开发利用，制定包含法规、制度、标准及企业规范的多维化工具控制研发风险。二是遵循“统筹规划、突出重点、兼顾效益、先易后难”的原则，进一步完善顶层设计。明确健康医疗大数据资源管理的综合协调部门，通过跨部门协同管理，推动政府健康医疗信息系统与居民电子健康档案、电子病历等互联互通，促进各级各类医疗卫生机构信息系统数据采集集成和业务协同。进一步完善医疗机构门急诊电子病历系统应用，提升临床诊疗规范化水平，发挥智能化临床诊疗决策支持功能，确保医疗数据安全有效应用，实现诊疗服务全流程闭环覆盖。三是提高训练模型、源代码、运算规则、决策权重等因素的透明度，及时发现潜在的偏差。增强技术透明度和ai算法的可理解程度。制定人工智能算法可解释的评估指标和监管政策，定期进行更新和评估，做好可解释性、透明度与其他价值之间的平衡。 构筑数字时代“保护网”：保障社会公平向善 随着数字经济时代来临，经济发展模式、社会风险和社会福利需求都将并且正在发生根本性变化。要实现有效的劳动保护和社会保险等相关政策的持续健康发展，需要从数字经济时代就业的新特点出发，进行筹资模式和运营体系的重大创新。一是加强数字技能的在校教育和社会教育。利用无代码、低代码等便捷工具培养学生对数字技能学习的兴趣、思维及内驱动力，支持高等院校等设置数字经济领域相关专业。搭建在线培训平台，提供数字技能提升课程、师资、教材 和设备，培养具有数字技术工具使用能力，提升现有劳动者数字素养。二是尝试建立“网络社保”或“电子社保”体系。为外卖配送人员乃至所有零工工作者建立多种灵活的社保缴纳方式，推动零工群体自主参与缴纳社会保险。三是重视新业态从业人员职业伤害赔偿的迫切性和特殊性。设立专门受理其职业伤害赔偿业务的部门，增加相关业务办理和政策咨询等线上服务督促平台或商家落实安全护具的发放和高温津贴及防暑防寒物品的提供，并为其提供精神上的支持。 探索人民“智慧参与”：坚持以人民为中心的城市治理 在大数据时代，符合国家治理能力现代化战略目标的参与模式理应是以公众需求为导向，基于新型网络信息技术，运用互联网思维与互联网精神实现的具有智能化、高效化、透明化、精准化特征的“智慧型参与”模式。一是建立电子参与法律制度和多元评估机制。进一步明确和规范电子参与的范围与流程，拓宽与疏通电子参与的渠道，完善民众与政府的沟通机制。通过探索有效性评估的多元化指标，向公众全面传达判断有效参与的正确理念，正向引导公众的参与态度。二是加大电子参与平台的基础设施建设力度。逐渐形成集电子资讯平台、电子投票平台、电子协商平台于一体的综合性电子参与机制，以拓展公众参与决策与管理的范围，畅通公共参与渠道。三是注重在电子参与过程中对民众诉求的回应。可以借助于电子参与平台为公众提供便捷可靠、回应及时的高品质公共服务，以改善公众与政府的互动关系。四是增进公职人员对待电子参与机制的积极态度和自我效能感。一方面，引导形成政民合作的组织文化，塑造政府公职人员信任民众的良好价值观，从而提升其接纳民众参与政府决策与公共事务管理的意愿；另一方面，增强电子操作平台与现有工作程序的兼容性，减少推行阻力。同时，加大对电子参与平台便利性与有用性的宣传，设置适度的财政预算、奖励或补偿机制，加大对公职人员电子化信息平台相关知识与技能的培训。 （作者单位：复旦大学） |