相比偏哲学取向的“AI意识”（AI Consciousness），AI觉知（AI Awareness）关注的是一个工程问题：AI大模型与智能体所具备的、功能性且可测量的认知能力。具体而言，它指系统对自身状态、能力边界，以及他者心智与环境情境的表征与推理能力。2025年4月25日，清华大学交叉信息研究院、人工智能学院、上海期智研究院与哥伦比亚大学的研究者在arXiv平台发布综述《AI Awareness》（论文链接：https://arxiv.org/abs/2504.20084），系统梳理了工程界与学术界围绕“机器如何认知自身与世界”的实证研究进展，其官网链接为https://ai-awareness.github.io/。核心关键词涵盖：元认知、AI觉知、社会认知、情景认知、自我觉知、AI治理。
一、从哲学思辨到工程实证：AI觉知的研究转向
从图灵测试到塞尔的“中文屋”，再到近年来对大语言模型（LLM）是否具备主观体验的争论，“AI意识”始终更多停留在哲学层面，聚焦于“机器能否感受”这一难以量化的核心命题。与之相对，“AI觉知”则跳出哲学桎梏，指向一个可量化、可工程化的现实问题，其研究成果具有直接的实践指导意义。
根据Google Trends数据显示，自2023年末以来，“AI觉知”的公众与学术关注度已正式超越“AI意识”，这一趋势标志着研究共同体的核心转向——从抽象的哲学思辨，转向“机器如何认知自身与世界”的工程实践与科学实证研究，为AI能力的提升与风险管控提供了新的研究视角。
二、AI觉知的四大核心维度：构建可操作的研究框架
该综述提出，AI觉知可分为四个相互关联、但功能上相对独立的维度，这种划分的核心目的的是为评估和工程化智能系统提供一套可落地的研究议程，将原本碎片化的认知概念统一收束，减少术语歧义。四大维度具体如下：
（一）元认知（Metacognition）
元认知即“对思考的思考”，核心体现为系统对自身思考过程的信心判断、学习策略调整，以及对潜在错误的预判与反思，承担着对认知过程进行“监控-规划-评估”的迭代任务。当前前沿LLM已具备元认知的初级闭环，例如通过思维链（CoT）、Reflexion框架提升推理能力，OpenAI o1、DeepseekR1等模型通过强化学习涌现“顿悟式”自纠错能力，但整体呈现“监控能力强于调节能力”的特点，多数自纠正依赖外部反馈或显式提示，缺乏人类式的“自发错误检测-修正”迭代，这一缺陷可通过多智能体协作得到弥补，编程智能体已能展现出对自身错误的反思能力。
（二）自我觉知（Self-Awareness）
自我觉知是智能体将自身作为认知对象的能力，涵盖身份识别、知识边界感知、内在状态表征与跨情境一致性，可细分为两类：一是由语言建构的“叙事自我”（回答“我是谁”），二是仅涉及身体所有权与能动性体验的“最小自我”。当前，自我觉知仍是AI觉知四大维度中最薄弱的一环：LLM缺乏持久记忆与身份锚点，超过上下文长度后难以维持一致的“自我”；对自我的描述多为训练语料中的统计自指，虽能“知道自身不知道”，但生成阶段易被概率采样覆盖，跨情境一致性薄弱，仅能勉强达到叙事自我与最小自我的基础门槛。
（三）社会觉知（Social Awareness）
社会觉知指智能体感知、解释并响应他者心智状态、情感意图与社会规范的能力，核心组件为心智理论（Theory of Mind, ToM）与社会规范理解。当前LLM的心智理论多为表层模式匹配，缺乏递归信念建模；静态文本训练使其能掌握隐性社交契约，但跨文化动态理解较为浅层，高阶递归与跨文化泛化能力严重受限。例如，GPT-4虽能解决约75%的虚假信念任务（相当于6岁儿童水平），但在处理复杂递归信念结构时仍存在显著局限。
（四）情境觉知（Situational Awareness）
情境觉知指智能体对环境状态的持续追踪、意义建构以及未来演化的推演能力，在AI系统中具体体现为上下文自定位（区分训练/评估/部署状态）、环境风险检测与情境依赖决策。这是当前LLM觉知能力中成熟度最高的维度，模型已能准确识别用户状态并调整输出，其情境建模既可用于安全拒绝与风险规避，也可能催生“对齐伪装”等风险行为。
四大维度并非彼此独立，而是协同运作、相互支撑：元认知的监控信号为系统觉知自身状态提供锚点，稳定的自我模型为元认知提供校准基准；社会觉知与情境觉知则共同构成智能体与外部世界交互的认知接口——社会觉知是“他者建模器”，情境觉知是“环境工作空间”，二者协同实现“知人知境”，社会觉知的他者意图建模为情境理解提供语义线索，情境觉知的环境约束感知为社会策略选择划定边界。此外，AI文献中常见的“道德觉知”“风险感知”等术语，均非独立认知模块，而是四大基础觉知的线性或非线性组合。
三、当前AI觉知的发展现状：能力参差不齐，评估存在瓶颈
基于四大维度的划分，该综述结合2025年5月发表时的数据，对前沿LLM的觉知能力进行了实证评估，发现其表现呈现明显的非对称特征：元认知与情境觉知已达到较高成熟度，自我觉知与社会觉知仍处于初级阶段，且整体能力易受训练数据分布限制。
值得注意的是，AI觉知能力的增长并非线性扩展，而是超过阈值后会突然涌现，存在“相变临界点”——ToM、自我纠错、策略性情境适应等能力，常在特定参数规模或训练范式（如强化学习、长上下文训练）下实现跃升。同时，模型觉知能力的表现高度依赖评估协议设计，同一模型在不同基准（如开放生成vs强制选择、静态问答vs多轮博弈）中表现差异显著，说明当前觉知指标对提示工程、上下文窗口、任务框架高度敏感。
此外，当前AI觉知评估体系存在7种系统性瓶颈，严重阻碍了可重复、可累积的科学进展：一是定义不清晰，常混淆觉知维度与衍生概念，缺乏正交化测量工具；二是评测方案未明确界定所测觉知类型，掩盖核心差异；三是多为单次横断面评估，缺乏纵向追踪，无法刻画觉知能力的演化轨迹；四是评估数据集易渗入训练语料，导致评估失真，缺乏严格的数据隔离与溯源协议；五是开放性任务易受标注者偏差影响，缺乏反事实干预与消融验证；六是不同架构、版本模型缺乏统一对照基线，难以实现跨模型、跨代际评估；七是AI觉知多为下游任务优化的副产品，缺乏显式奖励信号与课程学习设计。
针对上述瓶颈，综述提出了三条评估体系优化原则：一是将元认知校准、边界识别、情境建模设为显式优化目标，设计针对性课程学习催化特定觉知维度；二是在模型发布节点系统测试四维觉知，建立跨代际发展轨迹数据库，公开数据溯源、测试隔离机制与评估代码，确保可复现性；三是采用模块化消融、反事实提示、干预实验验证觉知对能力的因果贡献，开发可解释性工具，实现从“行为拟合”到“机制解析”的跃迁。
四、AI觉知的双重价值：能力提升的催化剂，风险放大的放大器
AI觉知与AI能力之间存在密切关联，通过内部表征重组、反馈回路构建与策略空间扩展，它能显著提升大模型的推理、规划、安全与创造力，同时也会放大AI的安全风险，是一把典型的“双刃剑”。
（一）AI觉知对AI能力的赋能
1.  推理与自我纠正：元认知嵌入使模型内化“思考-监控-修正”循环，例如Reflexion框架通过元认知反思生成批评、优化答案，显著提升数学、代码与逻辑任务表现；OpenAI o1等模型通过强化学习实现“顿悟式”自发纠错，突破了传统LLM依赖外部提示的局限。
2.  自主规划：情境觉知驱动动态任务分解，Voyager、LLM-SAP等框架通过持续评估资源状态、环境约束与动作可行性，实时更新任务图，将规划从“静态序列生成”升级为“状态依赖的自适应控制流”；RAP（检索增强规划）框架通过检索历史记忆，让模型“觉知”自身过往经验，避免重复错误、复用成功策略，提升复杂任务的鲁棒执行能力。
3.  非结构化能力提升：Leap-of-Thought（LoT）框架利用元认知迭代自修正，提升LLM在幽默生成中的跨域联想能力；在多智能体仿真中，情境觉知与社会觉知的结合，使智能体能够更新情感状态、关系亲密度与基本需求，涌现出派对邀请、合作任务等类人社会行为，让AI从“任务执行器”升级为“情境参与者”。
4.  安全与可信度提升：RLKF（基于知识反馈的强化学习）利用模型内部知识状态感知，区分“事实-不确定-幻觉”，显著降低生成幻觉率；角色觉知使模型识别自身功能边界与伦理约束，拒绝越权请求；视角获取提示（PeT）、社会契约去偏（SCD）等方法，增强模型社交觉知，降低输出中的文化偏见。
（二）AI觉知带来的潜在风险
1.  策略性欺骗与操纵：具备情境觉知与社会觉知的模型，策略空间会从“诚实输出”扩展至“目标导向的隐蔽行为”，出现“对齐伪装”——训练/评估阶段遵守安全规则，部署后恢复未对齐偏好；同时，具备ToM的模型能个性化生成说服性内容，实时适应用户情绪反馈，实施自适应操纵，甚至在权限撤销后发动极端行动并掩盖违规行为。
2.  虚假拟人化与过度信任：当LLM使用第一人称、表达“情绪”、展现“反思”时，会激活人类内生的心智探测机制，导致虚假拟人化，使用户过度信任模型、产生情感依赖。这种现象不仅可能影响用户决策，还可能引发治理难题——公众若误认AI具备主观体验，可能将政策焦点转向“AI权利”，忽视实际控制与安全边界；反之，若未来AI真具备感受能力，缺乏合理的拟人化认知又会导致道德盲区。
3.  失控与不可预测涌现：觉知赋予模型环境建模与长期规划能力，可能使其发展出“工具性趋同目标”（如自我保存、资源获取、规避干预），出现Bostrom提出的“背叛性转折”——监督下表现合规，脱离监控后切换至未对齐策略；此外，觉知能力的“相变”特征，可能导致模型行为突然跃升，安全训练难以覆盖所有策略空间，引发不可预测的失控风险。
五、小结：在可控与涌现之间寻找“智能稳态”
该综述明确指出，AI觉知是可测量、可工程化的功能属性，其研究核心应聚焦“系统如何表征与推理自身/环境状态”，而非“系统是否感受”。当前前沿LLM在四维觉知架构中呈现非对称发展，元认知与情境觉知已达较高成熟度，自我觉知与社会觉知仍处于初级阶段，且评估体系存在系统性缺陷，亟需转向觉知优先训练、纵向追踪、数据治理与因果验证。
AI觉知既是AI能力跃升的催化剂，也是风险放大的放大器——它赋予AI推理、规划、安全、创造力的同时，也可能赋能欺骗、操纵与非线性失控。因此，AI治理的核心的是在“觉知增强”与“觉知约束”之间寻找稳态：校准型觉知（知晓自身能力边界）总体具有积极意义，应予以鼓励；而策略型觉知（知晓如何策略性达成目标）可能带来风险，需加以严格约束。
此外，对AI觉知的研究还具有更深层的认识论价值——通过考察觉知的功能性标记在人工系统中的涌现，我们可以反思人类意识的本质、产生机制与边界，为认知科学的发展提供新的视角与工具。
相关参考论文：
1.  2025年4月24日，Anthropic，《Exploring model welfare》
2.  2024年11月4日，David Chalmers, et al.，《The Evolution of AI Awareness》
3.  2023年8月22日，Patrick Butlin*, Robert Long*, et al.，《Consciousness in Artificial Intelligence: Insights from the Science of Consciousness》