人工智能治理__9787302708490

人工智能正快速应用于人类社会的各个领域，重构组织与社会关系，对各行各业乃至社会整体发展模式都产生重大变革性影响。本书作为上海市科学技术委员会“人工智能治理的理论、设计与实践”专项课题主要成果之一，立足于国家推进人工智能治理体系和治理能力现代化的战略需求，重点科学评估人工智能应用的社会影响，加强潜在风险研究，提升防范能力，辅助支持人工智能应用的公共治理决策。综合从政府、供给者、使用者的视角，结合价值理念、信息要素和实践导向，原创性提出人工智能应用社会影响的分析框架：社会-管理-应用-结果-技术（SMART），并基于此分析框架提出“135元指标体系”：针对1项具体人工智能技术，基于管理者、供给者、需求者3类主体视角，从性能、效能、使用、规范、影响5个维度构建评估指标。同时，本书选取超大城市数字化转型过程中四个典型场景：医疗诊断辅助决策支持、老人智能服务的应用系统、人脸识别、“随申码”应用拓展，评估技术应用的社会影响，为政策制定提供具有参考价值的案例研究。进而，结合对国家人工智能相关政策、国家新一代人工智能创新发展试验区建设和国际经验的分析，探索数智时代人工智能技术、产业和治理的良性发展和创新方式，为推进人工智能治理体系和治理能力现代化提供理论支撑和实践经验。本书面向政府管理部门、技术研发机构、行业应用单位、学者以及对人工智能治理感兴趣的社会公众，有助于读者更好地全面了解人工智能治理，服务于我国人工智能健康发展。

前言

当前，人工智能技术迅猛发展，深刻影响着社会经济的各个层面，既带来重大发展机遇，也引发公共治理挑战。从物联网、自动驾驶到智能医疗、生成式人工智能，人工智能的应用正推动信息技术革命与数字经济快速演进。人工智能作为具有广阔应用前景的现代数智技术，已广泛应用于经济、社会和治理等领域，会对公共利益和社会福祉产生重大深远影响。与此同时，人工智能应用所带来的数据隐私、安全风险、算法偏见等问题也引发广泛关注，反映出“技术红利”背后的治理挑战。

世界各国纷纷加强人工智能政策法规建设，促进技术创新，同时有效应对数据保护、伦理合规等问题。2017年，中国政府在《新一代人工智能发展规划》中提出，到2030年中国将成为全球人工智能创新领军者，并先后颁布了《中华人民共和国网络安全法》和《中华人民共和国数据安全法》等法规，明确人工智能应用中个人数据保护和隐私安全的要求。在全球范围内，国际组织和各国相继出台人工智能伦理和治理规范，为构建安全可控的人工智能应用环境提供指导。在此大背景下，人工智能治理已经成为政府、企业和学术界共同关注的焦点，世界各国都在探索制定人工智能治理的政策与框架。

在这一时代背景下，上海市科技计划项目“人工智能治理的理论、设计与实践”正式启动，旨在应对人工智能应用带来的新挑战，推动相关理论与方法的发展。作为中国人工智能发展的前沿阵地，上海在技术创新和产业布局上已处于国内领先地位，近年来又通过系统的政策试点与协同机制，开拓性地进行人工智能治理创新实践。本书作为上海市科技计划项目“人工智能治理的理论、设计与实践”主要成果之一，重点关注人工智能技术应用的社会影响研究方法，聚焦特定场景人工智能技术应用的发展、影响与问题，采用科学研究方法评估人工智能技术应用的社会综合影响，加强潜在风险防范，助推人工智能应用的公共治理决策。

本书的结构安排紧扣上述研究目标。在理论与方法论部分，综合运用信息观、系统观与机制观，从政府、供给者、使用者的多种视角出发，结合价值理念、信息要素和实践导向，原创性提出人工智能技术社会应用影响的分析框架“SMART五要素”，并基于此分析框架提出“135元指标体系”：针对1项具体人工智能技术，基于管理者、供给者、需求者3类主体视角，从性能、效能、使用、规范、影响5个维度构建评估指标。同时，选取超大城市数字化转型过程中的四个典型场景：医疗诊断辅助决策支持、老人智能服务应用系统、人脸识别、“随申码”应用拓展，评估技术应用的社会影响，为政策制定提供具有参考价值的研究案例。进而，结合对国家人工智能重大宏观政策、国家新一代人工智能创新发展试验区建设和国际经验的分析，探索数智时代人工智能技术、产业和治理的良性发展与创新方式，为推进人工智能治理体系和治理能力现代化建设提供理论支撑和实践经验。

本书面向政府管理部门、技术研发机构、行业应用单位、学者以及对人工智能治理感兴趣的社会公众，帮助读者更好地了解人工智能治理，服务我国人工智能健康发展。希望本书的出版能够启发和促进学界对人工智能治理开展更加深入的研究，为政府部门和企业提供更多富有建设性的启示，期待有关理论与实践研究的不断深化。未来，我们期待人工智能技术在更加健全的治理体系下持续造福社会，推动人工智能在规范引导中健康发展，为建设公平、安全、智能的社会做出更大贡献。

自“人工智能治理的理论、设计与实践”课题自立项以来，课题组成员系统谋划，精诚合作，求真务实，充分认识人工智能在科技与产业发展战略中的重要地位，把握人工智能具有技术属性和社会属性高度融合特点，汇聚跨学科资源，运用多学科、多领域研究方法，努力打造高水平课题研究成果。本书集成了各个课题组的主要研究成果：上海清华国际创新中心课题组撰写第一章、第二章、第三章、第八章、第九章和第十章；复旦大学课题组撰写第四章；华东师范大学课题组撰写第五章；上海市大数据中心课题组撰写第六章；上海市科学学研究所课题组撰写第七章；上海清华国际创新中心课题组对第四章、第五章、第六章、第七章的内容进行统筹整理。我们期望，本书能够为推动人工智能治理体系建设、促进智能社会高质量发展，提供有益参考和启示。

本书的研究、写作和出版得到了相关方面的领导、学者与专业人士的指导、关心和支持。本书既离不开上海市科学技术委员会和相关单位对课题研究工作进行的指导和大力支持，也受益于现有研究资料提供的宝贵参考，相关领域的专家们从技术发展、法律法规、伦理道德、产业应用等角度，对人工智能治理的发展趋势和实践要点进行了深入分析。清华大学出版社为本书出版做了大量专业性编辑工作。在此，我们一并表示崇高的敬意和衷心的感谢！

“人工智能治理的理论、设计与实践”课题组

2025年6月

你还可能感兴趣

我要评论