太卷了！关于大模型和AIGC的36条笔记和真话，以及NLP（十八）：LLM 的推理优化技术纵览

太卷了！关于大模型和AIGC的36条笔记和真话，以及NLP（十八）：LLM 的推理优化技术纵览

近期，大模型在人工智能领域引起了极大的关注。许多公司纷纷投入大量资源来开发和推广大模型，希望能够在市场上取得竞争优势。然而，随着时间的推移，这种炒作似乎也让人感到有些内卷了。

一位从事人工智能行业的专业人士最近分享了一些自己的经验和见解。他表示，最初大模型的报价非常高，例如1000多万，但最终的成交价却令人匪夷所思。这种情况让人不禁反思，是不是大家都卷进了这场内卷之中呢？

在接触到一个客户的时候，他们向我们提出了20个场景，每个场景的价格都是X万块。于是我们开始询价，问华为愿意做吗？阿里愿意做吗？百度愿意做吗？然而，如果我们一直按照这种方式卷下去，最终可能就没有利润可言了。

虽然我们拥有高性能的GPU和强大的算力，但大模型本身的销售并不容易。最终，我们赚钱的途径可能是通过出售云服务、卖显卡和卖算力。实际上，对于某些特殊客户来说，拥有百亿参数的大模型就相当于免费使用。

在实际项目中，我们发现用户并不愿意为大模型买单，他们更愿意为应用本身买单。有些客户甚至会询问，如果有了大模型，以前的一些智能中台和知识图谱是否还需要。然而，最终我们发现，最核心的还是场景本身。

我们认为，机会仍然存在于ToB垂直模型，核心在于数据和场景本身。不同公司之间的差异也与其基因有关。我们无法做到的，不代表别人也无法做到。例如，一些ToC的应用，正是年轻一代的用户在使用，超出了我们这一代人的认知。

当下机会众多，我们不能将资源分散到自己并不熟悉的领域。因此，做出战略选择非常重要。在我们在一个经济发达的省份做智能数字化政府项目时，我们推荐了超过5个场景，但最终客户只认可了3个场景。随后，他们对安全性、数据和底层技术进行了深入的了解。他们还问到，我们与其他大模型相比的差异和优势是什么。最终，各方需要坐下来，共同制定一个评测体系，并评估性能。

在我们内部，我们将人工智能称为隐形的AI。在用户面前，我们不会强调模型的具体细节和参数数量。我们对人工智能的定义是人的辅助。

通过整合上述内容，我们可以看到大模型和AIGC领域存在一些共同点和联系。首先，大模型的报价往往高昂，但最终的成交价却很低。这表明大模型的价值可能被低估了。其次，用户更关注的是应用本身而非大模型。他们更愿意为应用买单，而不是为大模型买单。这意味着我们需要将重点放在应用的场景和数据上，而不仅仅是模型本身。最后，我们需要做出战略选择，将资源集中在我们熟悉的领域，以避免资源的浪费。

在这个基础上，我们可以提出一些行动建议。首先，我们应该更加重视应用的场景和数据。这是用户最关心的，也是最核心的。其次，我们需要做好战略选择，将资源集中在我们擅长的领域，以避免资源的浪费。最后，我们应该更加注重与客户的沟通和合作，共同制定评测体系和评估性能。

综上所述，大模型和AIGC领域的发展确实存在一些问题和挑战。然而，通过关注应用的场景和数据，做好战略选择，并与客户合作，我们可以克服这些问题，并取得更好的成果。让我们一起努力，为人工智能的发展贡献自己的力量。