《国际人工智能安全报告2026》强调了对人工智能故障日益增长的担忧，例如虚假信息、错误输出、误导性建议，以及随着系统变得更加自主并能够绕过评估而导致的失控风险。 这些风险不仅源于模型规模；还源于集中数据、不透明的验证和不对齐的激励。如果人工智能在狭窄的管道中进行训练和评估，失败的规模与能力的提升同样迅速。 我们正在开发的去中心化生态系统通过分散人工智能数据源、扩大验证范围和对齐激励，解决了这一基础设施层面的问题，使贡献者因质量和透明度而获得奖励。 更多样化的输入、去中心化的监督和可追溯的参与为可靠性创造了更强的基础，并减少了系统脆弱性。 随着人工智能的进步，安全性不仅仅来自控制。它将来自更好、更公平和更分散的基础设施。 🔗 来源：