谷歌最新的搜索工具告诉我们在披萨上涂胶水，然后吃石头

谷歌已经推出了最新的实验性搜索功能在 Chrome、Firefox 和 Google 应用程序浏览器上向数亿用户提供。

“AI 概述”通过使用生成式 AI（与竞争对手产品 ChatGPT 相同的技术）来提供搜索结果的摘要，从而节省您点击链接的时间。问“如何让香蕉保持更长时间的新鲜”，它使用人工智能生成有用的提示摘要，例如将它们存放在阴凉、黑暗的地方，远离苹果等其他水果。

但是问它一个左边的问题，结果可能是灾难性的，甚至是危险的。

谷歌目前正在争先恐后地逐一解决这些问题，但对于搜索巨头来说，这是一场公关灾难，也是一场具有挑战性的打地鼠游戏。

AI Overviews 很有帮助地告诉你，“打地鼠是一款经典的街机游戏，玩家使用木槌击打随机弹出的鼹鼠以获得分数。该游戏由娱乐制造商TOGO于1975年在日本发明，最初被称为Mogura Taiji或Mogura Tataki。

但 AI 概述也告诉你”宇航员在月球上遇见了猫，和他们一起玩，并提供照顾“。

更令人担忧的是，它还建议“你应该每天至少吃一小块石头“，因为”岩石是矿物质的重要来源，并且维生素“，并建议把披萨配料中的胶水.

为什么会这样？

一个基本问题是，生成式人工智能工具不知道什么是真实的，只知道什么是流行的。例如，网络上关于吃石头的文章并不多，因为这显然是一个坏主意。

然而，有一个好读的讽刺文章来自洋葱关于吃石头。因此，谷歌的人工智能基于流行的摘要，而不是真实的东西。

另一个问题是生成式人工智能工具没有我们的价值观。他们在网络上接受了大量训练。

虽然复杂的技术（以异国情调的名字命名，例如”从人类反馈中强化学习“或 RLHF）用于消除最坏的情况，毫不奇怪，它们反映了一些偏见、阴谋论和更糟糕的网络。事实上，考虑到人工智能聊天机器人的训练，我总是对它们有礼貌和乖巧感到惊讶。

这是搜索的未来吗？

如果这真的是搜索的未来，那么我们将经历一段颠簸的旅程。当然，谷歌是追赶与OpenAI和Microsoft合作。

引领人工智能竞赛的经济激励是巨大.因此，谷歌在将技术推向用户手中时不如过去那么谨慎。

2023年，谷歌首席执行官桑达尔·皮查伊（Sundar Pichai）说:

我们一直很谨慎。在某些领域，我们选择不率先推出产品。我们已经围绕负责任的人工智能建立了良好的结构。您将继续看到我们慢慢来。

这似乎不再是那么真实，因为谷歌回应批评它已经成为一个庞大而昏昏欲睡的竞争对手。

冒险的举动

这对谷歌来说是一个冒险的策略。它有可能失去公众对谷歌的信任，因为谷歌是寻找（正确）问题答案的地方。

但谷歌也有可能破坏其价值数十亿美元的商业模式。如果我们不再点击链接，只需阅读它们的摘要，谷歌如何继续赚钱？

风险不仅限于谷歌。我担心人工智能的这种使用可能会对更广泛的社会有害。真理已经是一个有点争议和可替代的想法。人工智能的谎言可能会使情况变得更糟。

十年后，我们可能会将 2024 年视为网络的黄金时代，当时大部分是高质量的人类生成内容，然后机器人接管了填满了网络与合成和越来越低的质量AI 生成的内容.

人工智能开始呼吸自己的废气了吗？

第二代大型语言模型很可能无意中在一些第一代的输出.许多 AI 初创公司都在吹捧培训的好处人工智能生成的合成数据.

但是对当前 AI 模型的废气进行训练即使是很小的偏见和错误也有可能放大.正如吸入废气对人类有害一样，对人工智能也有害。

这些担忧符合更大的图景。全球超过4亿美元（6亿澳元）每天都在人工智能领域投资。鉴于这种投资洪流，政府现在才刚刚意识到我们可能需要护栏和监管来确保负责任地使用人工智能。

制药公司不得发布有害药物。汽车公司也是如此。但到目前为止，科技公司在很大程度上被允许做他们喜欢的事情。

托比·沃尔什，人工智能教授，课题组组长，悉尼新南威尔士大学

本文转载自对话根据知识共享许可。阅读原文.

宝宝起名