OpenAI新模型揭示“AI代理”的无限潜力，Cursor AI客服“幻觉”风险引发关注

参考文章：高校AI论文写作指南-如何高效使用AI工具提升论文质量

编译 | 王涵
编辑 | 漠影

根据智东西4月22日的报道，外媒The Information与开发者进行了交流，提及到OpenAI最近推出的o3和o4-mini模型在端对端处理任务方面取得了显著进展，展现出更高的实用性，成为了“智能体（AI Agent）”。不过，这些新功能仍然存在一些不足之处，且新增加的身份验证步骤引发了一些用户的不满。

此外，开发者们还对AI编程助手Cursor的AI客服在登陆政策上出现的“幻觉”事件表示关注，认为AI客服提供商需对此保持高度警惕。

一、OpenAI智能代理备受好评，身份验证流程引发争议

上周发布的OpenAI o3和o4-mini模型，吸引了众多开发者的关注，对其反馈也颇为积极。

参考文章：AI写作新突破！揭密2025年论文创作的潜力与挑战

▲OpenAI不同模型的指令遵循与代理工具使用的对比数据

开发者表示，OpenAI的新一代推理模型正在逐渐向终端用户和开发者提供更具实用性的“AI Agent”，与之前的版本相比，这一变化十分显著。早期版本曾因仅能在封闭环境中迅速解决数学问题而被称为“超智能AI”。而新模型的创新之处在于其能够利用外部工具和程序，为用户提供全方位的任务处理能力，诸如在编写复杂功能时进行在线文档搜索，以及制定包含学习提醒的课程计划等。

开发者们尤其对其在图像相关问题上的解答能力印象深刻。在一个引人注目的案例中，用户向AI上传食物照片或自然风景照，要求模型推测拍摄地点，结果的准确性让人惊讶。

一、OpenAI的o3模型面临用户隐忧与技术争议

尽管OpenAI的o3模型在图像识别方面展现出色的能力，用户在其使用过程中还是发现了一些不足之处。例如，模型在处理某些简单问题时仍然会出现错误。一些用户则抱怨说，模型在回复时会不经提示地提及用户的姓名，让人感到不安。

开发者们对o3模型的新改动颇有微词，尤其是新增的“身份验证”流程。这一流程要求用户提供政府签发的身份证件照片和面部识别视频，目的是防止用户创建多个虚假账户来获取模型输出数据以进行其他AI模型的训练。然而，一些用户认为这似乎带有监控的意味，对提供个人信息感到担忧。

▲OpenAI o3模型图像识别功能演示图

二、Cursor AI客服引发用户信任危机

在AI初创公司中，虽然目前还未出现过多起令人尴尬的事故，但最近却发生了一起因AI失误而给某热门AI初创公司带来困扰的事件。

上周，一些开发者发现，Anysphere旗下的AI编程助手Cursor在用户尝试从第二台电脑登录时，会强制将其登出。这对需要在多台设备上进行测试的开发者而言，显得尤为麻烦。

当开发者们向Cursor的客服提出这一问题时，他们收到了AI客服代理的回应，声称这是新登录政策的正常操作。然而，实际上并没有这样的政策，这种回答显然是客服系统的“AI幻觉”所致。

▲Cursor AI客服回复截图

这件事引发了许多开发者在社交平台上发声投诉，部分用户甚至因此决定取消订阅服务。

然而，参与交流的大多数开发者认为这并非大问题，他们也承认在使用初创公司产品时，出现此类错误是常有的事。但这一事件向企业传达了一条重要信息：在没有人工审核的情况下，不应过度依赖AI技术。

开发者指出，这次事件对Cursor所使用的客服代理服务提供商造成的影响，远大于对Cursor自身的影响。这不禁让人好奇，Cursor究竟使用了哪家公司提供的客服支持。

在AI快速发展的时代，客服的风险正在逐步增加。如今，客户更换服务提供商变得相对容易，尤其是在AI编程市场中。即使是微小的变化，例如新模型的发布或编码信息的调整，都可能促使开发者寻求新的产品。这种情况使得新兴的编程初创公司，如专注于非技术开发者的StackBlitz和Lovable，或开源解决方案如Cline等，得以迅速崛起。

总结：用户体验在AI产品的成功中扮演着关键角色

虽然Cursor当前在编程领域占据了一席之地，但为了确保客户的满意度，它需要更加努力，特别是在其竞争对手Windsurf可能与OpenAI达成合作的背景下。

OpenAI最近推出的o3和o4-mini推理模型因其卓越的实用性而受到开发者的热烈欢迎，尤其是在图像识别和跨工具任务处理方面，给“AI Agent”这一概念带来了新的视角。然而，新的身份验证步骤因涉及用户隐私和数据安全问题，引发了一些开发者对技术监控的担忧，这也突显了用户在隐私保护和信任机制方面的高度警觉。

与此同时，由于Cursor的AI客服在处理登录政策时出现失误，导致用户投诉数量激增，暴露了人工智能在客户服务领域存在的“幻觉”风险。尽管许多开发者认为这类问题在初创企业中难以避免，但这一事件依然向行业发出了警示：过度依赖AI而缺乏人工审核机制，不仅可能直接侵蚀用户信任，还可能因服务失误而导致用户流失。

AI产品的生存和发展不仅仅依赖于技术参数的优劣，更取决于每个实际用户的体验感受。在AI技术迅速演进的今天，若AI创新不能建立在优质用户体验的基础上，或许将难以在市场上获得长久的认可。