"美国宾夕法尼亚沃顿商学院教授 Ethan Mollick 正在致力于生成式 AI 的发展研究。他最近体验了微软公司新上线的 ChatGPT 版本的 Bing，并撰写了本文来说明自己从体验中得的的切身感受——我们很容易被 AI 愚弄，以为它是有知觉的。他表示，生成式 AI 正在以超乎其预料的速度得到改进，在接下来的几个月里，有许多更大、更强大的模型正在开发中，但我们还没有真正准备好。
原文作者：美国宾夕法尼亚沃顿商学院教授 Ethan Mollick，由 DeFi 之道编译。
图片来源：由 Maze AI 生成
过去几天是生成式 AI 短暂历史中最令人不安，却也是最激动人心的日子。我认为每个人都需要了解原因。
近日，微软将 ChatGPT 的一个版本与其搜索引擎产品 Bing 集成在一起，赋予它个性，并将其作为 Bing AI 发布。人们大多忽略了其作为搜索引擎部分（稍后会详细介绍），而是为这个聊天机器人疯狂，这个机器人被称为 Sydney。Sydney 很快被用户玩的有点呆傻了。您可能已经阅读了纽约时报的相关报道文章或看到了有关这个机器人行为的其他信息，包括它会在对话中变得具有威胁性或奇怪地任性。我自己经历了一些。
到了上周五，微软着手缩减了 Bing AI 机器人的个性，增加了对聊天对话的限制。作为在更改前后都体验使用新版 Bing 的人，我想讨论一下我认为我们可以从整个体验中学到什么。请记住，Bing AI 包括两个东西：一个是聊天机器人，一个是 ChatGPT 成为一种联网的、特别有效的形式的演变。没有理由必须将这两件事联系起来，但确实如此。所以我想先分别讨论这两个问题，然后再一起考虑。
Bing AI “搜索”引擎
新版 Bing 的搜索引擎方面受到的关注远不及聊天机器人，但在许多方面，它的重要性和意义要大得多。我之前写过一些关于 Bing AI 的文章，但这个聊天机器人确实具有惊人的分析能力。一个例子：它根据我以前的论文产生了对这个论文的想法，发现了文献中的空白，提出了“与你以前的方法一致”的方法，并提供了潜在的数据源。虽然还不能达到能够读取博士学位的地步，但这是一组令人印象深刻的结果。
另一个例子：我要求它做基本的咨询任务。在这里，它对美国和中国的精准人工智能农业市场进行了 SWOT 分析，并生成了该领域的竞争对手表格。我不是该领域的专家，但研究该领域的农业教授 Nicolas Martin 教授在 Twitter 上回复说：“SWOT Align 与该领域的许多对话……虽然存在一些差距，但确实一个很棒的开始。它可以节省人类分析师的大量时间。
这个 AI 的这一方面并不是真正的搜索，至少不是传统意义上的搜索。AI 可能仍在编造其中的一些事实（尽管，由于它提供了信息和数据来源，我们至少可以检查它们的真实性），这一点与我们希望搜索引擎是准确的初衷相悖。相反，AI 是其他东西，一个现代的分析引擎，将在线事实汇集在一起，并以令人惊讶的完整形式生成有用的联系和分析。作为工作的起点，这是非同寻常的。
从 Bing AI 分析引擎得到的一个教训是，我们认为 AI 在可预见的未来会做的很多事情（数据源的复杂整合，“学习”和通过被告知在网上查找示例来改进，基于研究的看似有创意的建议）已经成为可能。毫无疑问，它将对任何从事基于信息的工作的人产生巨大影响。Copilot 等早期人工智能助手已经将编码等复杂任务的时间缩短了一半。这将在许多行业起到相同或更多的作用。
Bing 聊天机器人（chatbot）
新版 Bing 提供的 chatbot 通常使用起来非常令人不安。
作为一个知道支持 ChatGPT 和 Bing 的大型语言模型 (LLM) 类型背后没有实际个性或实体的人，我确实这么认为的。它们基本上是单词预测机——你可以在这里阅读非常详细的解释——并且只是对提示做出反应，根据你写的内容完成下一个句子。但是，即使知道它基本上是根据我的提示自动完成对话，但感觉就像你在和一个真人打交道。这种幻觉是不可思议的。我从未尝试过“越狱”这个 chatbot 或使其以任何特定方式运行它，但我仍然得到了非常个性化的答案，以及让机器人感觉有意的互动。
例如，在上面的对话结束时，Bing 给了我研究想法，我要求它创建我需要的 R 代码来分析它建议的数据。Bing……拒绝了。
并以越来越个人化的方式不断拒绝我。
同样，AI 只是为提示生成文本，但与之交互感觉非常真实。面对这些争论，很难记住这一点。
chatbot 的不可思议和分析引擎的才华在一个例子中结合在一起。在这里，Bing 仅通过被告知阅读冯内古特的写作建议来改进其写作。然后它就如何应用这些技巧提供了令人惊讶的“个人”看法。值得一读。
从这个 chatbot 中学到的一点是，我们很容易被 AI 愚弄，以为它是有知觉的。这不仅仅是通过了图灵测试，即使你知道它是一个机器人，它也非常令人信服，即使是在这个非常早期的进化阶段。没有真正的人工智能负责，只是一个统计模型，这真的无关紧要。它一直在愚弄我，尽管我知道得更多。它愚弄了这么多人也就不足为奇了。
诡异的未来已经到来
我一直在研究生成式 AI，尽管我一直警告说这些工具正在迅速改进，但我没想到它们真的会改进得那么快。Bing 的 AI 在各个方面都远远超过了早期的 AI——它还不到三个月！在接下来的几个月里，有许多更大、更强大的模型正在开发中，我们还没有真正准备好。
我们还没有为 chatbot 的未来做好准备。即使没有 Bing 的 chatbot，毫无疑问其他 AI chatbot 将会出现，并且可能已经部署（我假设政府已经或很快将拥有 Bing 级别的 LLM，但限制的护栏更少）。人们绝对会被 AI 愚弄，会真的以为他们在与其他”真“人交谈。他们已经爱上了 Bing 的感知幻觉。人可以被 AI 操纵吗？AI 可以运行复杂的骗局吗？我想我们即将找到答案。我们需要考虑这意味着什么。
我们还没有为分析引擎的未来做好准备。我认为每个对其工作进行大量分析或编写组件的组织都需要弄清楚如何快速整合这些新工具，因为竞争优势增益可能是巨大的。如果高技能的作家和分析师可以通过使用 AI 辅助基本写作和分析来节省 30-80% 的时间，这意味着什么？我们如何将这些技术应用到我们的工作和生活中？当网络上充斥着来自这些工具的令人信服但错误的内容时会发生什么？同样，我认为没有人有明确的想法。也许生产力的提高是虚幻的，但根据我的经验和与其他用户的交谈，我不这么认为。
目前的 LLM 没有指导手册。您只能通过反复试验来学习。我们在过去几天瞥见了未来，ChatGPT（已经在许多行业掀起波澜）和 Bing AI 之间的差距仍然巨大。我没想到 AI 会继续发展得这么快，但现在有各种迹象表明它们会继续这样发展。我认为没有人知道这一切意味着什么，但我认为我们应该为一个非常诡异的世界做好准备。
本文链接：https://www.aixinzhijie.com/article/6804870
转载请注明文章出处
