人工智能安全治理迎“大考”-凯发ag旗舰厅网站

发布时间：2023-11-11

近日，在英国召开的首届全球人工智能安全峰会落下帷幕。包括中国、美国、英国、欧盟在内的28个国家和地区签署了《布莱奇利宣言》，承诺以“安全”“以人为本”“值得信赖”和“负责任”的方式设计、开发、部署和使用人工智能。这份宣言标志着多国首次达成一致，认识到人工智能安全问题需要共同关注和努力。

各国争夺规则制定权和话语权

作为各国科技创新焦点，人工智能的安全治理也被提上了日程。从大方向来看，目前主要有两条探索路径：一是强调通过政府监管和行业规则实现安全；二是强调通过市场驱动或通过国家规划驱动产业发展。

欧盟对人工智能安全治理的态度最为激进。据来自欧盟和亚洲的高级官员表示，欧盟正在游说亚洲国家效仿其在人工智能方面的做法，希望像当初把欧盟的《通用数据保护条例》塑造成全球隐私标准那样，将其最新拟议的《人工智能法》也推广成为人工智能技术的全球监管标准。

美国商务部长吉娜·雷蒙多在此次峰会上表示，人工智能安全研究将评估前沿人工智能模型已知和新出现的风险。会后不久，美国总统拜登就签署了一项行政命令，强调由政府部门对人工智能技术的研发和应用进行安全测试和全程监管。专家分析称，美国希望通过政府补贴和人才政策倾斜，确保美国在人工智能领域保持领先地位。

法国负责数字问题的副部长让·诺埃尔·巴罗特表示，法国政府正在争取开源人工智能发展。开源是指模型开发者让公众开发、修改和迭代他们的模型。“在前几代技术中可以看到，开源对于这些技术的透明度和治理都非常有用。它帮助确保竞争公平，并防止某些领域出现不利于创新的垄断。”巴罗特说道。

与多国纷纷出手加强人工智能监管形成对比的是，英国称，并不急于通过新的人工智能法律来对本国人工智能进行监管，而是建议让人工智能技术公司更好地发现问题并与立法机构分享他们的发现。印度称，暂时没有计划监管人工智能的使用和发展。新加坡、菲律宾、日本等国也表示更倾向于先观望人工智能技术的发展，担心过于仓促的监管可能会扼杀人工智能创新。

数据来源：弗若斯特沙利文

实际上，人工智能治理全球竞争提速的背后，是对人工智能发展规则制定权和话语权的争夺。北京计算机学会数字经济专委会秘书长王娟在接受《中国电子报》记者采访时表示，规则的设定一定会直接影响到产业未来发展的导向和趋势。各方立场也显示了不同的国家治理理念。比如，美国一贯强调问责机制和明确问责对象要求，欧盟更注重数据隐私保护和伦理治理。

“目前来看，各国都较为认同的是‘敏捷治理’思路，即初期先制定一个顶层框架，在过程中不断调整监管治理和风险控制的措施，通过一些案例和判罚来表明监管的态度，并在实践推进中不断加强监管认知，从而不断调整监管思路并释放这种信号。”王娟说道。

赛迪顾问人工智能产业研究中心高级分析师于凯迪在接受《中国电子报》记者采访时表示，积极展开对人工智能的监管实际上也是参与全球治理的重要环节。掌握监管规则就能在未来技术路径选择、市场需求引导等方面获得更多话语权，这对于提升国家影响力、增强国际竞争力等方面都将发挥重要作用。

此外，人工智能技术的快速演进也在呼唤全球化规则的制定。“有效的监管规则会引导人工智能产业的健康发展，抑制不良应用的发展。生成式人工智能是一个跨国界、多领域的技术，这要求全球范围内的监管单位进行合作，共同制定国际标准和规则。”安恒信息高级副总裁王欣对《中国电子报》记者表示。

中国人工智能治理走在全球前列

中国科技部副部长吴朝晖在此次峰会上表示，中国将为“人工智能国际机制、扩大参与和基于广泛共识的治理框架做出贡献，造福人民，构建人类命运共同体”。中方代表团联署了会议的重要成果文件——关于人工智能国际治理的《布莱切利宣言》。多位专家表示，中国在人工智能治理方面已经走在了全球前列。

8月15日，由工信部等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行。从现有规则来看，我国的治理路径与欧盟和美国不同，在伦理规则和法律法规方面皆有布局，具体到生成式人工智能治理，我国强调安全与发展的“双轮驱动”，既采取措施支持和鼓励生成式人工智能应用的发展，又针对生成式人工智能应用场景下可能引发的风险进行规制。

不同的治理策略与不同的产业发展环境息息相关。“中国发展生成式人工智能具有独特优势，”于凯迪表示，“首先在市场需求方面，中国对于智能对话、内容创造、知识管理等领域的应用需求量巨大，涌现了大量的商业机会；此外，中国庞大的互联网用户群体的在线活动产生了大量的多模态数据，包括文本、图像、音频和视频。这些数据资源对于生成式人工智能的训练和推理具有重要作用。但同时，受到加速计算芯片等硬件算力水平、人工智能框架的研究起步较晚，以及人工智能领域人才不足等限制，中国在人工智能领域技术性能方面还存在赶超空间。”

腾讯云副总裁、腾讯云智能凯发ag旗舰厅网站的解决方案负责人王麒对《中国电子报》记者表示，我国的科研实力和全球竞争力在不断提升，例如在自然语言处理、计算机视觉等领域的一些关键技术已经达到了国际领先水平。来自政府层面的积极推动加速了人工智能技术的产业化和商业化进程，为企业创新和发展提供了良好的环境。

中国人工智能产业的迅猛发展引来世界瞩目。工信部相关数据显示，我国人工智能核心产业规模达到5000亿元，企业数量超过4400家，智能芯片、开发框架、通用大模型等创新成果不断涌现。世界知识产权组织数据显示，2022年中国机构人工智能专利申请数量就多达29853项，占当年全球人工智能专利申请总量的40%以上。

数据来源：艾瑞咨询研究院

也正因如此，在此次峰会上，来自中国的声音受到了多方关注。多位专家强调，中国作为在人工智能研发领域领先的国家之一，在应对人工智能风险和机遇的全球讨论中不可或缺。欧盟委员会副主席维拉·朱罗瓦表示，“他们（中国的人工智能企业）太庞大了，不容忽视”“我认为，他们（中方）在这里很重要。说实话，对于防范真正巨大的全球灾难性风险，我们需要中国的参与”。

中国互联网协会研究中心副主任吴沈括表示：“时代已经发生变化，当前并不是说有一个人工智能国际规则需要中国参与融入，现实状态是，中国本身就是国际规则的推动者和重要的共同制定者。人工智能时代，国家地位和力量对比发生了根本性的变化，我们将会是规则共同的缔造者。”

推动人工智能朝着科技向善发展

“从国内市场来看，大模型的发展和落地目前还是比较初级的阶段，是一个‘百花齐放’的状态。大模型的出现，让我们可以通过更强大的性能、更好的语言理解去和千行百业结合做提质增效。但任何新技术、新业态的出现都会伴随着一些问题。”王麒坦言。

首当其冲的就是数据问题。“生成式人工智能发展需要大量数据投喂，如何合理使用数据而不侵犯隐私权，在合理的监管范围内引导人工智能向善发展值得多方讨论。”王欣说道。他表示，由于生成式人工智能的“黑盒”属性，整个产业在发展过程中仍处于“摸着石头过河”的状态，需要一定的监管制度来规范、引导，防止某些领域出现不利于创新的垄断。

人工智能的有效监管的确存在比较高的技术门槛。于凯迪表示，大模型的训练和推理涉及深度学习、神经网络等人工智能技术，监管机构需要具备相应的专业知识和技术能力来理解和评估生成式人工智能的潜在风险。不同国家可能有不同的监管要求和法律制度，甚至是不同的文化和价值观，标准化监管机制的达成也可能是难点之一。

随着生成式人工智能的飞速发展，可生成的内容形式更加丰富，功能更加多样，监管与发展的矛盾将更加突出。王娟认为：“创新与监管并非矛盾双方，严监管是谨慎发展的警示灯，但产业发展不充分也不能都‘甩锅’监管，人工智能产业的发展与其自身内容基础、原有研究范式及社会群体的行为习惯都有很大关系。”

对于新兴技术，仍然可以建立有效的监督机制。比如，可以针对生成式人工智能所应用的不同领域的特点和风险程度进行分类，对于高风险领域，类似医疗行业或者包含个人身份信息、财务记录或其他敏感信息的金融领域，可以采取更严格的监管措施；还可以针对技术发展的不同阶段采取不同的监管策略等。

于凯迪建议，要充分释放生成式人工智能的发展潜力，科技企业首先要避免盲目跟风、一哄而上的概念炒作和同质化研发，应充分研判不同应用领域下的场景和业务特点，明确垂直领域 know-how（技术诀窍），从而更准确地定位生成式人工智能技术在不同领域的应用，更快形成商业闭环；其次是要重视生态培育，可以通过建立开放的平台，为开发者、研究人员和凯发ag旗舰厅网站的合作伙伴提供接口和工具，促进技术共享和合作。

“未来几年是人工智能技术跃迁的重要窗口期，”王欣表示，“要推进人工智能与产业融合，把握产业发展主动权。技术创新的同时，需要政策创新的护航。面对人工智能发展可能引发的潜在风险，也必须前瞻研判，守住法律和伦理底线，推动人工智能朝着科技向善的方向发展。”

延伸阅读：

来源：中国电子报

【上一篇】中国互联网联合辟谣平台辟谣榜（2023年11月9日）
【下一篇】打击网络谣言共建清朗家园中国互联网联合辟谣平台2023年10月辟谣榜