多个文件,一个制品。
通过声明式 Modelfile,将权重、配置、代码和文档构建为标准的 OCI 模型制品。
认识 Modelfile像管理容器一样管理 AI 模型。用 modctl 构建、推送和拉取 OCI 模型制品,让模型交付回归简单。
go install github.com/modelpack/modctl@main
开源 CLI/基于 ModelPack
少一点繁琐,多一点创造
模型不必拥有一套孤立的交付系统。modctl 将模型权重、配置和代码打包,让它们融入你熟悉的基础设施。
通过声明式 Modelfile,将权重、配置、代码和文档构建为标准的 OCI 模型制品。
认识 Modelfile将模型推送到兼容 OCI 的仓库,沿用熟悉的版本标签、认证方式和分发流程。
探索模型分发按文件模式获取所需内容,或直接从远端提取模型,减少不必要的本地存储。
更灵活地使用模型从本地目录到模型仓库
三个熟悉的命令。一条开放的交付路径。让模型从本地开发走向更多环境。
# 将模型目录打包为 OCI 制品
modctl modelfile generate .
modctl build \
-t registry.com/models/llama3:v1.0.0 \
-f Modelfile .
权重、配置、代码与文档
遵循 Model Spec 的制品结构
准备好推送至你的仓库
# 认证后,将模型发布至仓库
modctl login -u YOUR_USERNAME registry.com
modctl push \
registry.com/models/llama3:v1.0.0
沿用现有仓库凭据
发布带有版本标签的模型制品
分享一个引用,而非整个文件目录
# 将模型拉取到你的工作区
modctl pull \
registry.com/models/llama3:v1.0.0
modctl extract \
registry.com/models/llama3:v1.0.0 \
--output ./my-model
通过仓库引用获取模型
将模型文件提取至指定目录
接入你自己的推理工具
不是新平台,只是更简单的交付方式。
融入你的技术栈,而非取代它
modctl 基于 ModelPack Model Spec 构建,将模型打包成兼容 OCI 的制品。为你的模型选择仓库,而不是让仓库决定模型的未来。
了解 Model Spec