开源开放 · 为 AI 模型而生

你的模型,
随时就绪,
自由交付。

像管理容器一样管理 AI 模型。用 modctl 构建、推送和拉取 OCI 模型制品,让模型交付回归简单。

go install github.com/modelpack/modctl@main

开源 CLI/基于 ModelPack

少一点繁琐,多一点创造

交付模型,
无需绕路。

模型不必拥有一套孤立的交付系统。modctl 将模型权重、配置和代码打包,让它们融入你熟悉的基础设施。

多个文件,一个制品。

通过声明式 Modelfile,将权重、配置、代码和文档构建为标准的 OCI 模型制品。

认识 Modelfile

现有仓库,即刻复用。

将模型推送到兼容 OCI 的仓库,沿用熟悉的版本标签、认证方式和分发流程。

探索模型分发

精准获取,轻装上阵。

按文件模式获取所需内容,或直接从远端提取模型,减少不必要的本地存储。

更灵活地使用模型

从本地目录到模型仓库

熟悉的流程,
全新的可能。

三个熟悉的命令。一条开放的交付路径。让模型从本地开发走向更多环境。

~/my-modelbash

# 将模型目录打包为 OCI 制品

modctl modelfile generate .

modctl build \
    -t registry.com/models/llama3:v1.0.0 \
    -f Modelfile .

权重、配置、代码与文档

遵循 Model Spec 的制品结构

准备好推送至你的仓库

命令示例
~/my-modelbash

# 认证后,将模型发布至仓库

modctl login -u YOUR_USERNAME registry.com

modctl push \
    registry.com/models/llama3:v1.0.0

沿用现有仓库凭据

发布带有版本标签的模型制品

分享一个引用,而非整个文件目录

命令示例
~/my-modelbash

# 将模型拉取到你的工作区

modctl pull \
    registry.com/models/llama3:v1.0.0

modctl extract \
    registry.com/models/llama3:v1.0.0 \
    --output ./my-model

通过仓库引用获取模型

将模型文件提取至指定目录

接入你自己的推理工具

命令示例

不是新平台,只是更简单的交付方式。

融入你的技术栈,而非取代它

为开放生态
而构建。

modctl 基于 ModelPack Model Spec 构建,将模型打包成兼容 OCI 的制品。为你的模型选择仓库,而不是让仓库决定模型的未来。

了解 Model Spec

开放源码,共同构建

下一个模型,
换一种更好的交付方式。

从第一个制品开始,或者加入我们,共同改进模型交付。