Hub documentation

在 Hugging Face 上使用 BERTopic

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

在 Hugging Face 上使用 BERTopic

BERTopic 是一个主题建模框架,它利用 🤗 transformers 和 c-TF-IDF 创建稠密聚类,从而生成易于解释的主题,同时在主题描述中保留重要词汇。

BERTopic 支持各种主题建模技术:

引导式有监督半监督
手册多主题分布分层
基于类动态在线/增量
多模态多方面文本生成/LLM
零样本 (新!)合并模型 (新功能!)种子词 (新功能!)

在 Hub 上探索 BERTopic

您可以在模型页面左侧进行筛选,以查找 BERTopic 模型。

托管在 Hub 上的 BERTopic 模型配有模型卡片,其中包含有关这些模型的有用信息。得益于 BERTopic 与 Hugging Face Hub 的集成,您只需几行代码即可加载 BERTopic 模型。您还可以使用 Inference Endpoints 部署这些模型。

安装

要开始使用,您可以遵循 BERTopic 安装指南。 您也可以通过 pip 使用以下单行命令进行安装:

pip install bertopic

使用现有模型

所有 BERTopic 模型都可以轻松地从 Hub 加载:

from bertopic import BERTopic
topic_model = BERTopic.load("MaartenGr/BERTopic_Wikipedia")

加载完成后,您可以使用 BERTopic 的功能来预测新实例的主题:

topic, prob = topic_model.transform("This is an incredible movie!")
topic_model.topic_labels_[topic]

由此得出以下主题:

64_rating_rated_cinematography_film

共享模型

创建 BERTopic 模型后,您可以通过 Hugging Face Hub 轻松与他人共享。为此,我们可以使用 push_to_hf_hub 函数,将模型直接推送到 Hugging Face Hub:

from bertopic import BERTopic

# Train model
topic_model = BERTopic().fit(my_docs)

# Push to HuggingFace Hub
topic_model.push_to_hf_hub(
    repo_id="MaartenGr/BERTopic_ArXiv",
    save_ctfidf=True
)

请注意,保存的模型不包含降维和聚类算法。由于这些算法仅在训练模型和查找相关主题时是必需的,因此已被移除。推理过程通过主题嵌入和文档嵌入之间的简单余弦相似度来完成。这不仅加快了模型速度,还使我们能够拥有一个可以处理的小型 BERTopic 模型。

其他资源

Update on GitHub