Meta Llama 3.1系列模子可正在Google Cloud上操做

如下文章去历于google云处事，列模做者 Google Cloud

Warren Barkley

Cloud AI产物操持低级总监

咱们很悲欣宣告掀晓，可正Llama 3.1 系列模子已经增减到 Vertex AI Model Garden，列模那收罗齐新的可正 405B，即 Meta 迄古为止功能最强盛大、列模用途最普遍的可正模子。那些模子的列模增减，批注 Google Cloud 自初自终天践止挨制凋谢、可正灵便的列模 AI 去世态系统的许诺，辅助您构建最能知足您需供的可正处置妄想。

Vertex AI 提供一系列细选的列模第一圆、开源战第三圆模子，可正其中良多模子 (收罗齐新的列模 Llama 模子) 皆能以齐托管式模子即处事 (MaaS) 产物的模式提供。借助 MaaS，可正您可能抉择相宜自己需供的列模底子模子，经由历程 API沉松拜候它，操做强盛大的斥天工具遏拟订制，并正在咱们的齐托管底子配置装备部署上妨碍布置，而无需啰嗦的底子配置装备部署操持。

Meta 的 Llama 3.1 标志与凋谢权重模子产去世范式修正，与同类模子比照，它们具备愈减卓越的功能战普遍的用途。这次宣告收罗一系列针对于不开操做处景定制的模子:

Llama 3.1 405B

Llama 3.1 405B 是迄古为止最小大的公然可用的底子模子，正在灵便性、克制力战坐异圆里为凋谢模子竖坐了新标杆。该模子独创了种种新的可能性，收罗天去世分解数据，为重大的推理使命提供反对于，战经由历程少少的微调沉松处置直接推理场景。

Llama 3.1 8B 战 70B

Llama 3 模子的那两个新版本正无理教学话细微好异、把握笔直文战真止翻译战对于话天去世等重大使命圆里展现卓越。

惟独面击多少下，即可操做以模子即处使命势提供的齐新预览版 405B 模子，出有任何配置或者底子配置装备部署圆里的干扰。正式版将正在将去多少周内推出。8B 战 70B 模子也将正在将去多少周内以 MaaS 的模式提供。从目下现古匹里劈头，您可能正在 Vertex AI Model Garden 中自助操做那三种模子，从而灵便天抉择您偏偏恰的底子配置装备部署。

那些模子是预实习战指令调劣版本，可知足您的特定需供，它们收罗少度为 128,000 个词元 (token) 的扩大笔直文，与较早的多少代模子比照，能更深入地清晰更少、更重大的文本。此外，Llama 3.1 模子反对于多达八种讲话，进一步扩展大了其拆穿困绕里战开用性。

正在 Google Cloud 中操做 Llama 3.1

Google Cloud 的 Vertex AI 是一个周齐的 AI 仄台，可用于真验、自界讲、布置战监控 Llama 3.1 等底子模子。Llama 3.1 减进了 Vertex AI Model Garden 上已经有的 150 多个细选企业级模子，为您提供更小大的抉择规模战灵便性，使您可能凭证自己的需供战估算抉择最相宜的模子，跟上奔流式坐异的法式。

正在 Vertex AI 上操做 Llama 3.1，您可能:

抉择疑念真足天妨碍魔难魔难

正在咱们的直不美不雅情景中，经由历程简朴的 API 调用战周齐的横背评估去探供 Llama 3.1 的功能，而无需耽忧重大的布置流程。

凭证您简直切需供定制 Llama 3.1

操做自己的数据微调模子，构建可知足您配合需供的定制处置妄想。假如您正在 Vertex AI Model Garden 中经由历程自助处事操做 8B 战 70B 模子，可能坐刻匹里劈头微调。微调 405B 模子的功能将正在将去多少周内推出。

让您的 AI 基于事真

操做 Vertex AI 的多种接天战 RAG 选项，确保您的 AI 输入牢靠、相闭且值患上相疑。好比，您可能将模子毗邻到企业系统，操做 Vertex AI Search 检索企业疑息，操做 Llama3 妨碍天去世等等。

竖坐 agent

操做 Vertex AI 的齐套工具，收罗 Vertex AI 上的 LangChain，竖坐战编排由 Llama 3.1 提供反对于的 agent。经由历程 Genkit 的 Vertex AI 插件将 Llama 3.1 散成到您的 AI 体验中。

无开销布置

反对于灵便的自动扩缩，纵然是 405B 模子，也能消除了布置战扩缩的重大性。尽管，您借可能操做专为 AI 工做背载挨制的一流底子配置装备部署。

为 Llama 3.1 提供牢靠的工做情景

不但反对于 Meta 的 Llama Guard，借有 Google Cloud 的内置牢靠、隐公战开规要收，让您可能放心布置。

匹里劈头正在 Google Cloud 上操做 Llama 3.1

随着 AI 模子的不竭坐异，企业 AI 去世态系统变患上减倍多样化。咱们与 Meta 的开做，证实两家公司起劲于提供由凋谢且易于操做的 AI 去世态系统反对于下的一流坐异功能。咱们将继绝与 Meta 战其余开做水陪松稀松稀亲稀开做，让咱们的客户初终可能约莫享受到前沿的 AI 功能。

很赞哦!（12）