全国政协委员、社会和法制委员会副主任，公安部原副部长陈智敏作调研情况综述：高度重视人工智能健康发展和风险防范
为做好本次会议筹备工作，今年9-10月，陈晓光副主席、汪永清副主席分别率专题调研组赴安徽、江苏、北京开展4次调研，深入26家企业、科研院所和高校，与企业负责人、一线科研人员、专家学者和相关部门广泛交流。
调研中看到，新一代人工智能正在与实体经济深度融合，广泛应用于社会民生领域，激发创新活力和社会潜能，成为经济发展新引擎。我国人工智能发展势头迅猛，但发展机遇与风险并存，对人类社会发展也可能带来重大风险和潜在威胁。一是数据信息采集应用可能侵犯公民权利，威胁隐私。二是算法偏好可能加剧社会偏见或歧视，威胁公平。三是机器深度学习难以理解人性和道德，无人驾驶汽车紧急避险等智能决策可能危及特定人群生命，威胁安全。四是人机交互式产品广泛应用带来的工作生活高度依赖，对人类情感体验、家庭社会关系等带来了一定冲击，可能影响未来社会塑造，威胁伦理。
当前，人工智能发展的科技伦理与法律问题研究已经在实践中逐步探索和实施。2017年，国务院发布《新一代人工智能发展规划》，提出了人工智能治理体系建设的时间表和路线图。但总体来看，已经开展的研究和探索基本上还处于自发和分散状态，缺乏规划和统筹，难以形成合力；社会各方面对伦理和法律促进和保障人工智能健康发展的基础性作用，重视不够、认识不足；科技研发和应用中的风险意识、规则意识不强，“科技向善”的融合度、共识度和实践性都有待提高。建议：
一、从国家发展战略高度制定人工智能发展规划，引导人工智能发展与国家创新驱动发展战略相衔接，特别是高端制造业。重视人工智能红利形成的“数字鸿沟”“贫富鸿沟”等社会财富分配问题、人工智能发展引发的就业问题等科技伦理和法律问题研究，构建多部门协同、多学科融合、多元主体参与的风险治理和规则治理研究框架和工作体系。
二、弘扬“科技向善”理念，在科研人员中树立扬善避恶、造福人类的道德准则，明确道德底线。针对深度伪造技术可能引发政治风险、个人信息被窃取倒卖引发刑事犯罪、“数据投毒”导致人工智能系统误判等问题，建立数据安全保障、算法安全审查等制度，为人工智能发展形成正确价值导向和稳定社会预期提供有力保障。
三、立足先发优势，积极参与和引领人工智能治理国际规则制定，为构建适应人类命运共同体安全发展需要的人工智能全球治理新规则新秩序新格局，贡献中国智慧和中国方案。
