Kumo Tabular vs XGBoost：表格基础模型如何挑战传统机器学习？

• 人工智能
• 基础模型
• 机器学习

Kumo Tabular是 NVIDIA 发布的预训练表格基础模型（tabular foundation model），一个模型同时支持分类与回归任务。它无需像 XGBoost 那样为每个数据集从头训练，而是把"带标签的历史数据"当作上下文，直接对新数据做出预测。本文将对比 Kumo Tabular 与 XGBoost 这类传统机器学习的思路差异，并给出快速上手步骤。

什么是表格基础模型？

传统机器学习工作流是"一个数据集 = 一轮完整训练"：准备数据 → 训练模型 → 调参 → 评估 → 部署。XGBoost、LightGBM 等梯度提升树正是这条路线的标杆。

而 Kumo Tabular 属于新兴的表格基础模型路线：

简单来说：XGBoost 是"每次重新学一遍"，Kumo Tabular 是"学过一次，之后靠上下文快速作答"。

模型规格：small / medium / large 三档可选

仓库按规模提供了三档权重，每档各含分类器与回归器两个文件，可按显存与精度需求自由选择：

• small/classifier.pt 与 small/regressor.pt
• medium/classifier.pt 与 medium/regressor.pt
• large/classifier.pt 与 large/regressor.pt

💡 一般建议：先跑 small 验证流程，再按需升级到 medium / large。

快速上手：三步跑通 Kumo Tabular 分类

Kumo Tabular 的推理通过 NVIDIA 的structured-data-models库（简称 sdm）完成，只需安装该库即可加载模型权重。

第一步：安装推理库

pip install structured-data-models

第二步：把表格转成模型可读取的张量

以 sklearn 自带的乳腺癌数据集为例，用sdm.TableTensor.from_pandas将 DataFrame 转为模型输入，并通过infer_stypes自动推断每列类型（指定target为类别列）。

第三步：用上下文 + 查询进行预测

调用模型时传入x_context（前 300 行特征）、y_context（对应标签）和x_query（后段待预测数据），模型返回每个查询样本的类别概率：

from sklearn.datasets import load_breast_cancer import sdm df = load_breast_cancer(as_frame=True).frame table = sdm.TableTensor.from_pandas( df=df, stypes=sdm.infer_stypes(df, overrides={"target": "categorical"}), device="cuda", ) model = sdm.models.KumoTabular(task="classification", device="cuda") probs = model( x_context=table[:300].drop_columns("target"), y_context=table[:300, "target"], x_query=table[300:].drop_columns("target"), num_estimators=8, ) print(probs)

回归任务只需把task="classification"换成task="regression"，思路完全一致。完整示例见 README.md。

Kumo Tabular vs XGBoost：该如何选择？

适合用 Kumo Tabular 的场景

• 🚀 数据标注样本较少，全量训练树模型不稳定；
• 同一套流程要复用到多个结构类似的表格数据集，不想逐数据集调参；
• 有 GPU 环境，追求分钟级出结果。

仍然推荐 XGBoost 的场景

• 数据量大且标签充足，需要极致精度与充分调参；
• 部署环境受限（如纯 CPU 边缘设备）；
• 需要可解释性更强的特征分裂逻辑。

可以把两者理解为互补而非替代：Kumo Tabular 提供"冷启动"能力，XGBoost 仍是大数据量下的精度主力，甚至可以用前者快速产出伪标签，再交给后者精调。

获取模型与许可说明

如需克隆本仓库获取模型权重：

git clone https://gitcode.com/hf_mirrors/nvidia/Kumo-Tabular

模型权重采用OpenMDW 1.1许可证发布（详见 LICENSE），可免费使用、分发与商用，输出内容不受许可限制；但分发时需随附许可文件与版权声明。

总结

• Kumo Tabular 代表了表格数据从"逐任务训练"走向"一次预训练、处处推理"的趋势；
• 小样本、多数据集复用、GPU 环境是它相对 XGBoost 的主战场；
• 上手成本极低：一行pip install structured-data-models即可开始推理。

如果你想进一步了解表格基础模型如何挑战传统机器学习，不妨先用 small 权重跑通上文示例，感受"上下文即训练"的新范式。

• 人工智能
• 基础模型
• 机器学习