【编者按】当地时间8月13日，一向喜欢泼冷水的美国知名人工智能学者加里·马库斯（Gary）发表了题为《如果 AI to be a Dud？》的文章。 ”。他在文章中认为，生成式人工智能尚未带来足够的收入来支撑炙手可热的估值，继续这样做可能会导致一些初创企业失败。从技术上讲，解决这个问题是不可能的。幻觉问题并在短期内实现通用人工智能。

此外，马库斯更担心生成式人工智能可能产生的一些地缘政治影响。 “如果生成式人工智能将比火和电更强大的前提被证明是错误的，或者至少在未来十年不会，事后看来，它最终可能会与中国造成不必要的额外紧张关系，”他写了。

马库斯一直是生成式人工智能浪潮的反对者，坚持认为仅靠深度学习无法实现类人智能，经常在社交媒体上与知名人工智能学者发生争执，并签署合同暂停训练更强大的人工智能系统比 GPT-4 公开信。 以下为本文全文翻译。

美国人工智能科学家、作家和企业家加里·马库斯。

除了所谓的室温超导体 LK-99（可以快速加热和冷却）之外，我很少看到比生成人工智能更受炒作的东西。 由于许多公司的估值已达数十亿美元，因此新闻报道不断； 从硅谷到华盛顿特区，再到日内瓦，任何人都可以谈论它。

但首先，收入还没有到来，而且可能永远也不会到来。 预计估值将达到数万亿美元的市场，但现在有传言生成式人工智能的估值高达数亿美元。 这些收入确实可以增长 1000 倍，但这是高度推测性的。 我们不应该只是猜测。

到目前为止，大部分收入似乎来自两个来源：编写半自动代码（程序员喜欢使用生成工具作为助手）和编写文本。 我认为程序员会对生成式人工智能的帮助感到高兴； 它的自动完成功能非常适合他们的工作，并且他们接受过检测和修复常见错误的培训。 本科生将继续使用生成式人工智能，但他们没有雄厚的财力（他们可能会转向开源竞争对手）。

其他潜在的付费客户可能很快就会失去信心。 有影响力的风险投资家本尼迪克特·埃文斯 ( Evans) 今天早上在 X（之前）上的一系列帖子中阐述了这一点：

风险投资家 Evans 写道： 我已经使用 .5&4 半年了，但确实没有发现它对我有用。 它可能是一台新的个人电脑，但它不是电子表格或文字处理器。 我相信会有，但现在还没有。

我的朋友们试图通过回答搜索查询来帮助进行学术研究，但他们也面临着类似的幻灭。 一位曾经从事法律研究的律师受到了法官的严厉训斥，基本上不得不书面承诺他再也不会在无人监督的情况下这样做。 几周前，一则新闻报道暗示 GPT 的使用可能正在下降。

如果埃文斯的经历是煤矿里的金丝雀（编者注：通常是未来更多危机的预兆），那么整个生成人工智能领域，至少按照目前的估值，可能很快就会结束。 程序员将继续使用它，营销人员也将继续使用它，他们必须编写大量文案来推广他们的产品，以提高搜索引擎排名。 但无论是编程还是快速、平庸的文案都远远不足以维持当前的估值梦想。

即使其 290 亿美元的估值也很难实现； 如果价值数十亿或更少的竞争初创公司年复一年只产生数千万或数亿美元的收入，它们很可能最终会失败。 微软今年的股价几乎减半，这可能主要是因为其对生成人工智能的承诺，该公司的股价可能会暴跌； 英伟达的股价涨幅更大，但也可能下跌。

罗杰·麦克纳米（Roger ）是软件风险投资的早期先驱，前几天我和他进行了一次讨论。 也许对我们双方来说真正在经济上有吸引力的唯一用例是搜索（例如使用由 提供支持的 Bing 而不是 ），但其中的技术问题是巨大的； ：导致不准确、错误甚至荒谬结果的人工智能错误或偏见）将很快得到修复。 否则，泡沫很容易破灭。

但现在让我担心的不仅仅是整个生成式人工智能经济潜在的大规模、痛苦的修正（仍然更多地基于承诺而不是实际的商业用途），而是我们正在将整个全球和国家政策建立在生成式人工智能经济的前提之上。人工智能将以事后看来可能不现实的方式改变世界。

在全球方面，拜登政府不仅限制了对生成人工智能至关重要的高端硬件芯片的使用，还限制了对中国的投资； 中国对于全球合作也不是很热心（仅代表作者个人观点）。 局势高度紧张，其中很多都围绕着谁可能“赢得人工智能战争”的梦想。

但如果赢家无人，至少在短期内无人，该怎么办？

在国内方面，可能保护消费者的法规（例如，围绕隐私、减少偏见、要求数据透明度、打击错误信息等）正在通过制衡而放慢，以确保美国生成人工智能尽快发展。 我们可能没有所需的消费者保护，因为我们正在尝试培育一些可能无法按预期增长的东西。

我并不是说任何人的某些政策都是错误的，但如果生成式人工智能将比火和电更强大的前提被证明是错误的，或者至少在未来十年不会，那么事后看来，最终，看来，与中国不必要的额外紧张关系，甚至可能是一场海市蜃楼的台湾战争，以及消费者在新闻和错误信息中被利用的社交媒体惨败，因为政府不敢采取足够严厉的镇压措施。 很难质疑这一切，但这是一个发人深省的想法，我希望华盛顿和北京都能考虑。

在我看来，几乎每个人都犯的根本错误是相信生成式人工智能等同于 AGI（通用人工智能，即使不是更好，也和人类一样聪明和足智多谋）。

行业中的每个人可能都希望您相信通用人工智能即将到来。 它助长了他们对必然性的叙述，并推动了他们的股价和初创公司估值。 首席执行官达里奥·阿莫德 (Dario Amodé) 最近预测，我们将在 2-3 年内实现 AGI。 谷歌首席执行官杰米斯·哈萨比斯（Demis）也预测AGI将在不久的将来到来。

我严重怀疑这一点。 生成式人工智能的核心问题不止一个，而是许多严重的、未解决的问题——从制造（幻觉）虚假信息的倾向，到无法与 Alpha 等外部工具可靠地交互，到每月的不稳定（这使得它们不适合工程化）在大型系统中使用）。

事实证明，除了纯粹的技术乐观主义之外，我们没有任何具体理由认为这些问题的解决方案即将到来。 通过增加系统规模来“扩展”系统在某些方面有帮助，但在其他方面却没有帮助。 我们仍然不能保证任何给定的系统都是诚实的、无害的或有帮助的，而不是奉承的、不诚实的、有毒的或有偏见的。 多年来，人工智能研究人员一直致力于解决这些问题。 想象所有这些具有挑战性的问题都会突然得到解决是愚蠢的。 22 年来，我一直在抱怨幻觉问题； 人们不断承诺解决方案即将到来，但它从未实现。 我们现在拥有的技术是基于自动完成而不是事实。

有一段时间，这种担忧被置若罔闻。 但一些科技领导者似乎终于明白了这一点。 看看几天前《财富》杂志上的这篇报道：

《财富》杂志报道称，科技专家开始怀疑人工智能的幻觉问题是否能够得到解决。

如果这种错觉无法得到纠正，生成式人工智能每年可能赚不到 1 万亿美元。 如果它每年赚不到 1 万亿美元，它可能不会产生人们期望的影响。 如果它没有那种影响，也许我们不应该围绕它的前提构建我们的世界。

原文链接：

    以上就是本篇文章【加里·马库斯：如果生成式AI是哑弹，可能导致不必要的中美紧张】的全部内容了，欢迎阅览 ！ 文章地址：http://www.glev.cn/quote/3458.html 
     行业      资讯      企业新闻      行情      企业黄页      同类资讯      网站地图      返回首页 歌乐夫资讯移动站 http://wlb.glev.cn/ , 查看更多