Hugging Faceとは？Model、Dataset、Demo、AI Libraryが集まるEcosystem

Local Modelを触り始めると、huggingface.coへのLinkを頻繁に見かけます。

「巨大なModel Download Site」と考えても一部は合っていますが、それだけではありません。

Hugging Faceは、Model Hub、Dataset、Demo、Library、Toolingを含むAI Ecosystemです。

HubはGitHubに少し似ている

Hub上のModelはRepository形式のPageを持つことが多く、

• Model Weight
• Config File
• Tokenizer File
• README形式のModel Card
• License
• Usage Example
• Version History

などが置かれます。

Model Cardは飾りではありません。

用途、Limit、Training情報、Evaluation、必要Softwareが書かれていることがあります。

Model Nameだけで決めない

似た名前でも、

• Parameter Count
• Architecture
• Instruction Tuning
• Quantization
• Context Length
• Tokenizer
• License
• File Format

が違うことがあります。

数GBをDownloadする前にRepositoryを確認しましょう。

Transformers Libraryとは？

Hugging FaceはTransformersという人気Python Libraryを開発しています。

多くのModel Architectureを共通に近いInterfaceでLoad / Inferenceできるようにします。

すべてのModelが内部的に同じになるわけではありませんが、毎回完全に別のCodeを書く必要を減らせます。

Spacesとは？

SpacesはInteractive Demoや小さなApplicationをHostingする機能です。

環境をLocalへInstallする前にModelの雰囲気を試せます。

ただしDemoのHardware、Setting、Model Revisionは、自分が後で使う環境と同じとは限りません。

Licenseを必ず見る

Download可能 = 自由にCommercial Use可能、ではありません。

Commercial Use、Redistribution、Use Caseに条件がある場合があります。

Datasetも同様です。

Model Fileは巨大

Weightは数GB〜数十GBになることがあります。

safetensorsなどのFormatやLarge File Storageを使い、必要なRevisionやFileだけをDownloadする仕組みが使われます。

Local LLMとのつながり

よくあるFlowは、

1. HubでModelを探す
2. Model CardとLicenseを読む
3. Size / Quantizationを選ぶ
4. Compatible FileをDownload
5. Transformers、llama.cpp、Ollamaなどで実行

です。

次の第030回では、その中でもLocal Modelを簡単にServeしやすいOllamaを見ます。

今日の一文

Hugging Faceは、Model Weightだけでなく、使い方、Metadata、License、Dataset、Demoまで共有するAI Ecosystemです。