ChatGPT 的深入研究就在这里。但它真的能取代人类专家吗？

OpenAI 的 '深入研究' 是最新的人工智能（AI） 工具掀起波澜并承诺在几分钟内完成人类专家需要数小时才能完成的工作。

作为 ChatGPT Pro 和销售作为可以匹配训练有素的分析师的研究助理，它可以自主搜索 Web、编译来源并提供结构化报告。它甚至得分26.6% 的 Humanity's Last Exam （HLE），这是一个严格的 AI 基准测试，跑赢大盘许多型号。

但深入的研究并不完全符合炒作。虽然它生成的报告很精美，但也存在严重的缺陷。据记者报道谁尝试过，深入的研究可能会错过关键细节，与最新信息作斗争，有时还会捏造事实。

OpenAI 在列出其工具的局限性时标记了这一点。该公司还表示“根据内部评估，有时会在回答中产生幻觉或做出错误的推断，尽管其比率明显低于现有的 ChatGPT 模型”。

不可靠的数据可能会溜进来也就不足为奇了，因为 AI 模型不像人类那样“了解”事物。

人工智能“研究分析师”的想法也引发了一系列问题。机器 - 无论多么强大 - 真的可以取代训练有素的专家吗？这对知识工作有什么影响？AI 真的是帮助我们更好地思考，还是只是让我们更容易完全停止思考？

什么是“深度研究”，它适用于谁？

深入研究面向金融、科学、政策、法律和工程领域的专业人士，以及学者、记者和商业战略家，是最新的”代理经验“ OpenAI 已在 ChatGPT 中推出。它承诺在几分钟内完成繁重的研究工作。

目前，深度研究仅适用于美国的 ChatGPT Pro 用户，每月费用为 200 美元。开放人工智能说它将在未来几个月内向 Plus、Team 和 Enterprise 用户推出，并计划在未来推出更具成本效益的版本。

与提供快速响应的标准聊天机器人不同，深度研究遵循多步骤流程来生成结构化报告：

1. 用户提交请求。这可以是从市场分析到法律案例摘要的任何内容。
2. AI 澄清任务。它可能会提出后续问题以完善研究范围。
3. 代理搜索 Web。它可以自主浏览数百个来源，包括新闻文章、研究论文和在线数据库。
4. 它综合了它的发现。AI 提取关键点，将它们组织成结构化报告并引用其来源。
5. 最终报告已交付。在 5 到 30 分钟内，用户会收到一个多页文档 –甚至可能获得博士学位的论文– 总结调查结果。

乍一看，它听起来像是知识工作者的梦想工具。仔细观察会发现明显的局限性。

多早测试暴露出的缺点：

• 它缺乏背景。AI 可以总结，但它并不完全理解什么是重要的。
• 它忽略了新的发展。它错过了重大的法律裁决和科学更新。
• 它编造了一切。与其他 AI 模型一样，它可以自信地生成虚假信息。
• 它无法区分事实和虚构。它没有区分权威来源和不可靠的来源。

虽然 OpenAI 声称其工具可与人类分析师相媲美，但 AI 不可避免地缺乏使优秀研究有价值的判断力、审查力和专业知识。

AI 无法取代什么

ChatGPT 并不是唯一一个只需几个提示就可以搜索网络并生成报告的 AI 工具。值得注意的是，仅仅OpenAI 发布 24 小时后中，Hugging Face 发布了一个免费的开源版本，其性能几乎与之相当。

深度研究和其他用于“人类水平”研究的 AI 工具的最大风险是 AI 可以取代人类思维的错觉。AI 可以总结信息，但它不能质疑自己的假设、突出知识差距、创造性思考或理解不同的观点。

AI 生成的摘要与深度的熟练人类研究人员。

任何 AI 代理，无论多快，都只是一种工具，而不是人类智能的替代品。对于知识工作者来说，投资于 AI 无法复制的技能比以往任何时候都更加重要：批判性思维、事实核查、深厚的专业知识和创造力。

如果您确实想使用 AI 研究工具，有一些方法可以负责任地这样做。深思熟虑地使用 AI 可以在不牺牲准确性或深度的情况下增强研究。您可以使用 AI 来提高效率，例如总结文档，但保留人工判断来做出决策。

始终验证来源，因为 AI 生成的引用可能会产生误导。不要盲目相信结论，而是应用批判性思维并与信誉良好的来源交叉核对信息。对于高风险主题 — 例如健康,正义和民主— 用专家意见补充 AI 发现。

尽管大量的营销试图告诉我们并非如此，但生成式 AI 仍然有很多局限性。能够创造性地综合信息、挑战假设和批判性思考的人类将继续受到需求——AI 目前还不能取代他们。

Raffaele F Ciriello， 商业信息系统高级讲师，悉尼大学

本文转载自对话根据 Creative Commons 许可。阅读原创文章.

宝宝起名 起名