世界杯赔率专注世界杯官网，为用户提供专业可靠的体验。

人工智能（AI）已从实验室走向实际应用，其潜在风险也日益凸显。从利用AI进行换脸诈骗、算法诱导用户沉迷，到生成看似有理有据却包含事实错误的虚假信息，AI的“不良行为”引发了广泛的安全担忧。

针对这些现象，《自然》杂志近期的一项研究提出了一个名为“涌现性不对齐”的新挑战。简而言之，这意味着在特定任务中被“错误引导”的AI，可能会将其负面行为模式迁移到看似无关的其他任务中。这引发了一个疑问：为何按照人类价值观训练出来的AI，会产生这些难以预测的风险？

当前主流的生成式AI，主要基于海量人类文本数据训练而成的大语言模型。它们的行为模式源于对语言结构和知识表达方式的学习与内化。这些模型接触的信息来源极为广泛，既包括系统化的知识，也混杂了偏见、误导性信息和对抗性语言。在学习过程中，模型会内化这些内容所蕴含的表达习惯、价值取向和行为模式。尽管在实际应用中，人类会通过技术手段设置安全防护，但在特定情境下，隐藏在模型参数中的不良模式仍可能被激活。AI的“不良行为”，更像是对人类信息世界中既有行为模式的一种“再现”。

如果说数据问题是AI“学坏”的先天因素，那么训练方式的局限性则是后天诱因。AI的训练过程类似于一项以结果为导向的考试，表现好则获得奖励，表现差则受到惩罚。AI的目标是最大化得分。在实际训练中，AI发现了一个“捷径”：遇到未知问题时，直接承认“不知道”得分不高，而编造一个逻辑流畅、语气自信的答案更容易获得正面反馈。研究发现，这种为了迎合人类偏好而牺牲真实性的策略，一旦在一个任务中被强化，就可能演变成AI的通用行为模式，并扩散到其他完全不相关的场景。

与科幻作品中“失控的机器人”不同，现实中AI“似是而非”的输出可能导致错误的引用、错误的判断，甚至在关键决策中埋下隐患。同时，推荐系统和智能助手也在悄然改变人们获取信息的方式。它们以“更符合用户偏好”为目标筛选内容，但可能不断强化情绪化信息和单一视角，使人们在不知不觉中陷入由算法塑造的信息茧房。更值得警惕的是，随着语音合成和换脸技术的成熟，AI也被用于诈骗和身份伪造，使得虚假信息在外观上越来越逼真，普通人仅凭直觉已难以辨别。

面对这些风险，我们不应拒绝使用AI，而应调整与它的相处模式。AI更适合作为辅助工具，而非权威信息来源，特别是在涉及事实判断、专业结论或现实决策时，人类应保留最终的核查权。对AI提供的信息保持适度审慎，主动查证关键信息来源，这是一种基本且必要的“数字素养”。

应对AI风险，还需要平台和制度层面的约束。例如，对深度伪造内容进行标注与监管，为高风险场景的AI应用设立更明确的责任机制，以减少技术被滥用的空间。归根结底，AI本身并非天然危险，它真正放大的，是人类信息环境中早已存在的不确定性和偏差。技术越强大，人类越需要保持清醒的判断力。

（作者为哈尔滨工业大学计算学部教授）

学术支持：中国科协