那么，这一切在实践中意味着什么呢？

ayesha983

最简单的方法是从提供商处获取 API 密钥，向其发送文本并获取响应。例如，这可以通过 Dataiku 内的 LLM Visual Recipe 来实现。
下一个是想要运行私人 LLM（即 HuggingFace）以在他们自己的服务器或 Databricks 上运行，但他们不需要重新训练任何东西。
接下来，他们可能想要构建一个检索增强生成 (RAG) 管道，将他们自己的数据作为上下文添加到 LLM，并能够对其进行查询。
微调或从头开始训练模型。
Barry 表示，最终归入这一类别的用例数量取决于组织的规模、他们拥有的数据集以及他们试图通过给定用例实现的目标。他举了一个由斯坦福基础模型研究中心使用 PubMed 数据集训练的模型的例子，PubMed 数据集是美国国家医学图书馆拥有的一个生命科学出版物存储库，拥有数十年的内容。

虽然现在大部分内容都是付费的，但该团队 危地马拉电报数据 找到了全部 1000 万份全文文档，并在几天内从头开始训练了一个模型。该模型最初的目标是让它通过美国医师执照考试。该模型没有通过，但只接受了与生物技术和生命科学相关的出版物的训练。

简而言之，组织确实需要逐个用例进行分析，并根据其特定需求选择正确的模型或服务机制，绝对不是一刀切！他们不会用一个 LLM 来解决组织中的所有问题，尤其是对于拥有数十个使用 LLM 的团队的大型企业。他们将（也应该！）部署许多 LLM，有些只是 API，有些将是他们自己训练的模型，有些将经过微调，并将在各种不同的平台上运行。

在这些之上拥有一个有凝聚力的服务层——Dataiku LLM Mesh，使得团队能够针对不同的用例维护这些不同 LLM 的治理，并进行访问控制和成本控