Science最新封面：阴谋论的兔子洞被AI大模型粉碎了

然而，必须警惕的是，LLMs 可能会被用于推广虚假信念，因此需要负责任的使用和适当的限制。

当然，这一研究也具有一定的局限性。例如，研究样本主要来自美国在线参与者，未来应测试其他文化和背景的阴谋论信众。

而且，这一研究只使用了 GPT-4 Turbo 模型，尚不清楚其他模型的表现如何。

再者，尽管 LLMs 在改变信仰方面表现出色，但具体的认知机制仍不明确，未来仍需进一步探讨 LLMs 如何通过对话影响信念的变化。

科学事实是最有力的反证据

此外，世界经济论坛在《2024年全球风险报告》中，将 AI 放大虚假信息列为全球最严重风险之一。在此情况下，AI 的潜在积极影响显得尤为重要。

以上结果表明，LLMs 等 AI 模型不仅能够有效地减少人们对特定阴谋论的信念，还具有改变深层次信念的巨大潜力。

然而，正如 Bence Bago 等人在前瞻性文章中指出，这一 AI 对话方法可能只适用于经过充分论述的阴谋信仰，对于没有合理依据的错误信仰，AI 的有效性可能会有所下降。

他们进一步指出，AI 对话干预措施的可扩展性是一种理想状态，它不仅能够适用于阴谋论，还涵盖伪科学、健康神话、气候怀疑主义等领域。然而 ，这些类型的错误信念是否与阴谋论具有相同的纠正难度，仍有待进一步研究。

他们建议，未来的研究应探讨这种 AI 对话需要持续多久、多久进行一次才能确保其有效性。

此外，阴谋论信众可能不会信任任何科学机构，如何说服他们与 AI 进行互动仍是一个巨大挑战。

从另一角度来看，一种个性化方法或许可以发挥作用，由于阴谋论信众的亲友往往急于粉碎错误信仰，或许可以通过鼓励亲友来引导信众参与和 AI 的对话。

Science 杂志主编 H. Holden Thorp 在一篇 focus 文章中指出：“LLMs 可能是对抗阴谋信仰的有效工具，这可能看起来有点讽刺，因为 LLM 以编造虚假事实而闻名。但在与阴谋论信众的交谈中，它们却能有效地减少信念。”

该研究论文的作者之一 David Rand 也表示：“我们的证据表明，真正起作用的确实是反证据和非阴谋解释。”

Thorp 进一步提出了一个问题：“这是否与 LLMs 的中立性、缺少人类对话中的情绪化反应有关？但目前的研究尚未给出有力的证据来支持这一观点。”

这些结果表明，当大量反证据变得至关重要时，减少科学错误信息的努力可能不应过度强调信息的传递者，而应聚焦于提供足够的对立证据。

H. Holden Thorp 谈道：令人困惑的是，尽管阴谋论盛行，但公众对科学家的信任度仍然很高。也许，正是这种对科学家的坚定信任，使得 LLMs 在提供反证据时如此有效。

尽管机器可能比人类更擅长反驳错误信息，但最终让人们信服的依然是科学事实。因此，科学家们有责任证明 AI 的未来潜力。