加州人工智能法案引发争议，美国前沿人工智能治理模式有何特点？
2024年8月28日，美国加利福尼亚州的一项提案《前沿人工智能模型安全创新法案》（简称SB1047）在州议会获得通过，加州州长将在9月30日之前就是否签署这项法案做出决定。加利福尼亚可能成为美国第一个针对前沿人工智能制定全面安全措施的州。
SB1047法案要求人工智能公司公开其训练模型的关键信息，如数据来源、数据类型和数据处理方式等，旨在通过追究开发者的责任来防止大型AI系统造成大量人员死亡或造成损失超过5亿美元的网络安全事件。然而，许多业内人士持反对态度，比如，斯坦福大学教授李飞飞认为法案可能会损害人工智能学术界、开源社区的创新，尤其是限制开源社区的成长。此外，包括OpenAI、Meta、谷歌、苹果、亚马逊在内的多家科技公司高层共同签字反对该法案。美国加州拥有《福布斯》全球50强人工智能公司中的32家。2023年，全球超过50%的人工智能风投资金都流向了总部位于美国加州的公司，美国加州无疑是全球人工智能创新和发展最主要的中心。目前，美国联邦层面尚未建立人工智能监管的全国性法案，因此SB1047法案如能通过，其影响可能会远远超出加州，导致“萨克拉门托效应”——即对美国甚至全球的科技行业政策产生重大影响。SB1047法案将可能成为全球人工智能治理的重要节点。
《前沿人工智能：发展与治理》一书中设置专门章节探讨了国际前沿人工智能治理的模式及经验，总结了当前应对人工智能风险的国际共识和分歧。其中，美国人工智能的治理模式主要特点是：强调发展、去中心化、以“软法”为主。
第一，美国作为全球人工智能发展的领跑者，在人工智能发展和安全的平衡中更加重视发展问题。具体来说，美国主张“有益的人工智能”，认为“负责任的人工智能应用”可以帮助人类应对一系列紧迫挑战，使世界更加繁荣、高效、创新和安全。其人工智能治理理念更加关注收益与风险、发展和安全的平衡，强调在“公平”的竞争环境中通过市场化、灵活性治理方式兼顾人工智能的创新与安全。正是基于这种治理理念，拜登政府在2023年的《人工智能行政令》中乐观地提出，人工智能反映了创造者、使用者和训练数据的价值取向，美国有理由相信自身有能力利用人工智能为世界带来正义、安全和机会；美国2024年在联合国牵头提出的人工智能决议也更加关注人工智能带来的机遇，强调人工智能创新发展的重要性。此外，美国政府在《促进联邦政府使用可信人工智能技术》《人工智能权利法案蓝图》等多个官方文件中提及人工智能治理原则，其中以拜登政府《人工智能行政令》中的治理原则最为丰富，具体包括“安全可控”“负责任的创新”“保护美国工人”“公平和公民权利”“消费者保护”“隐私和公民自由”“负责任的政府使用”“引领全球技术进步”8项原则。相比之下，美国人工智能治理原则涉及安全问题之外的发展问题，关注的范围比欧洲更广。
第二，美国的人工智能治理模式呈现典型的分散化特征。从美国《人工智能行政令》的安排来看，虽然拜登政府要求白宫管理和预算办公室（Office of Management and Budget，OMB）和白宫科学与技术政策办公室（Office of Science and Technology Policy，OSTP）组织财政部、国防部、农业部、商务部、劳工部、国家科学基金会等多部门共同成立指导美国人工智能治理工作的“跨部门协调委员会”，并由科学与技术政策办公室主任作为副主席负责日常工作，但该委员会并不具备实际的行政职能。美国人工智能治理的具体实施仍基于现有机制，依靠各政府部门对各自职能范围内的人工智能应用场景进行管理。例如，美国联邦贸易委员会（Federal Trade Commission，FTC）在2023年5月发布的指南中将人工智能在商业实践中产生的深度伪造、过度推荐等有关消费者保护的内容纳入自身管辖范围；美国电信和信息管理局（National Telecommunications and Information Administration，NTIA）在2023年4月出台的《AI问责政策（征求意见稿）》中针对人工智能系统的数据访问权限、问责机制等进行布局；美国能源部通过下设的关键和新兴技术办公室（Office of Critical and Emerging Technologies）就人工智能对能源基础设施及清洁能源发展的影响、人工智能对核能利用与核威胁的影响等具体问题进行治理；美国国防部则在2023年1月更新的《自主武器系统指南》中提出由首席数字和人工智能办公室（Chief Digital and Artificial Intelligence Office，CDAIO）加强对人工智能和自主武器系统研发、测试、使用的监管。
第三，美国的人工治理以非强制性的“软法”为主，希望通过市场化的手段治理人工智能。具体来说，根据《维护美国人工智能领先地位》行政令的要求，白宫管理和预算办公室、科学和技术政策办公室、国内政策委员会、国家经济委员会在2020年联合发布《人工智能应用规范指南》。该指南不但明确要求“为了加强美国在人工智能领域的创新优势，各主管部门应确保美国企业不受美国监管制度的不利影响”，还提出“欧洲及美国盟友应避免采用过度干预、扼杀创新的人工智能监管方式”。受此影响，美国在联邦政府层面的人工智能治理手段以行政令、白皮书、政策指南等不具备强制性的“软法”为主，倾向于通过行业准则、企业自治等市场化的方式控制人工智能风险。只有加利福尼亚、伊利诺伊、印第安纳、康涅狄格、得克萨斯等少部分地区通过州内立法对人工智能的隐私保护、透明度等问题提出了明确要求。
图书简介
以ChatGPT、Sora等为代表的新一代人工智能横空出世，既展现出广阔的应用前景，也带来了潜在风险和挑战。本书在解读前沿人工智能的技术原理、功能特征的基础上，呈现我国人工智能大模型的最新发展动态，以生动案例展现“人工智能+多场景”的价值前景，识别其在技术开发、部署和应用中产生的风险挑战，并对美国、欧盟等经济体的人工智能治理模式进行比较，深入剖析人工智能国际治理现状与挑战，提出构建前沿人工智能治理体系的发展方向和未来范式，力求为人工智能健康发展和有效治理提供有力支撑和有益参考。
“现代化新征程丛书”（第二辑）由来自20多家智库和机构的专家共同编写完成，按照开放、创新、产业、模式“四位一体”架构进行设计，包含10余种图书。其中，“开放”主题有“‘地瓜经济’提能升级”“重构跨境电商”等；“创新”主题有“科技创新推动产业创新”“前沿人工智能”等；“产业”主题有“建设现代化产业体系”“储能经济”“合成生物”“绿动未来”“建设海洋强国”“产业融合”“健康产业”等；“模式”主题有“未来制造”等。此外，丛书编委会根据前期调研，撰写了“高质量发展典型案例(二)”。（整理/郭心蕊）
