AI越火热:越需要一份“冷思考”

全球AI开启了一年一度的“中国时间”。黄浦江畔，近40摄氏度的高温里，2026世界人工智能大会（WAIC）一大亮点是人工智能这项年轻的事业如何回应“时代之问”。

相比往届，今年的世界人工智能大会热度空前。大模型迭代加速，智能体竞相落地，人工智能正以前所未有的深度介入经济社会运行。

就在这样燃起的热度中，一份看似“冷静”的宣言显得别有分量——7月18日下午在WAIC“AI浪潮下的媒体创新论坛”上，解放日报社、复旦大学新闻学院、腾讯公司联合发起《浦江宣言：创造值得信赖的智能世界》。

这是中国首份聚焦人工智能伦理与治理的行业联合宣言，以“真、善、美、安、惠”五字立纲，为人工智能时代的传播与治理立规明矩。

为什么此刻需要这样一份宣言？因为AI越是火热，越需回答“AI往何处去”；越是狂奔，越要把稳方向盘。当“AI幻觉”干扰公共认知、“AI投毒”污染信息生态、数据滥用侵蚀个人隐私，回答“AI往何处去”，已不只是技术命题，更是发展命题、治理命题。《浦江宣言》应时而出，分量正在于此。

细读宣言，一条清晰的价值主线贯穿始终，那就是以“可知、可控、可用、可靠”重塑AI发展逻辑，而其内核，是安全。

宣言提出，清晰界定人工智能与个人的权限边界，细化授权范围，明确提示风险，让用户知道AI“能做什么、做了什么、要做什么、不做什么”；AI应用落地，应当获得用户与开发者的“双重授权”。这实际上切中了当下AI应用的核心矛盾：智能体要办事，就要调权限、读数据，便利与风险往往一体两面。

比如近期，一条“有人用AI买保险，结果支付到我这里来了”的帖子就引发热议。有网友称，AI大模型将开源库中的个人收款码误作保险付款码，致其他网友误转1612元，甚至一度报警，最终联系到他本人完成退款。平台则称系多轮对话触发的幻觉已修复。这恰恰暴露出智能体进入消费交易链路后，技术狂奔与风险管控的落差正在放大。

德国文豪歌德曾发表了一首短诗，题为《魔法师学徒》。师父外出，徒弟不愿再一桶桶地提水干活，于是教会一把扫帚替他去做。扫帚服从了。扫帚服从得太过尽职。作坊最终被水没金山，直到魔法师回来收拾残局。由此，控制论奠基人诺伯特·维纳提出了一个经典的警示：如果我们给机器设定了一个目标，而机器在执行过程中缺乏人类常识与伦理的约束，其行为可能会走向初衷的反面。

2026年，人工智能每天也在上演同一幕“魔法”，只是换了时间地点，换了不同牌子的扫帚。

人工智能的特殊性在于，它是人类历史上第一种能够自主学习、自主行动的技术造物。过去的治理对象是人以及由人操控的机器，今后则须扩展到智能体自身。这就要求在数据采集边界、模型权限分级、兜底机制上，建起实实在在的护栏。物理世界的一键接管、关键场景的人工复核、高风险操作的权限熔断，一样都不能少。

同时，可控不是束缚创新，而是为创新划定安全边界。引擎越澎湃，对制动系统的要求就越高；AI的能力越强，“刹车”和“方向盘”就越要紧握在人类手中。确保人工智能始终处于人类控制之下，安全这条底线怎么强调都不为过。

值得一提的是，宣言还把目光投向普惠——主张“AI平权”，让人工智能如空气、水、电一样成为人人可及的基础设施，在教育、医疗、公益等领域平等造福每一个人。

这不是一句空话。人工智能治理天然是一个全球性话题。中国互联网的普惠经验表明，技术只有嵌入既有场景、解决真实痛点，才能真正下沉到普通人身边——数百万小程序构成的生态，天然就是AI触达百姓生活的毛细血管。《浦江宣言》的意义，就在于把中国的治理经验转化为可供世界对话的公共产品。

安全管住了技术的底线，普惠抬升了技术的高线：更好的技术应当让人放心、把人放大。

当然，宣言的分量最终要靠行动来称重。在AI最火热的时刻发出了一个冷静而清晰的信号：智能世界值不值得信赖，取决于今天的人们如何书写规则。这份写于黄浦江畔的宣言，是一个开端，更是一份承诺。

文｜记者 王丹阳