|
|
--- |
|
|
base_model: llm-jp/llm-jp-3-13b |
|
|
tags: |
|
|
- text-generation-inference |
|
|
- transformers |
|
|
- unsloth |
|
|
- llama |
|
|
- trl |
|
|
license: apache-2.0 |
|
|
language: |
|
|
- en |
|
|
--- |
|
|
|
|
|
# Uploaded model |
|
|
|
|
|
- **Developed by:** Mahiro0698 |
|
|
- **License:** apache-2.0 |
|
|
- **Finetuned from model :** llm-jp/llm-jp-3-13b |
|
|
|
|
|
This llama model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library. |
|
|
|
|
|
[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth) |
|
|
|
|
|
|
|
|
Hugging Faceプラットフォーム上に公開されているモデル「Mahiro0698/llm-jp-3-13b-it_MN」のページです。このモデルの概要を解説します。 |
|
|
|
|
|
モデルの基本情報 |
|
|
名前: llm-jp-3-13b-it_MN |
|
|
このモデルは約130億個のパラメータを持つ大規模言語モデル（LLM）です。 |
|
|
作成者: ユーザー名「Mahiro0698」。 |
|
|
用途: 日本語のテキスト処理や自然言語生成に特化しています。 |
|
|
プラットフォーム: Hugging Faceは、機械学習モデルを共有・利用するためのオープンプラットフォームで、Pythonライブラリ「transformers」を使ってモデルを簡単にロードして使用できます。 |
|
|
|
|
|
|
|
|
このモデルの使い方 |
|
|
Hugging Faceでホストされているモデルは、以下のような手順で利用可能です。 |
|
|
|
|
|
1. 必要なライブラリをインストール |
|
|
|
|
|
pip install transformers |
|
|
|
|
|
|
|
|
2. モデルのロード |
|
|
|
|
|
Pythonでモデルをロードして使います。 |
|
|
|
|
|
|
|
|
from transformers import AutoModelForCausalLM, AutoTokenizer |
|
|
|
|
|
# モデルとトークナイザをロード |
|
|
model_name = "Mahiro0698/llm-jp-3-13b-it_MN" |
|
|
tokenizer = AutoTokenizer.from_pretrained(model_name) |
|
|
model = AutoModelForCausalLM.from_pretrained(model_name) |
|
|
|
|
|
# テキスト生成の例 |
|
|
input_text = "日本の人工知能の未来について" |
|
|
inputs = tokenizer(input_text, return_tensors="pt") |
|
|
outputs = model.generate(**inputs, max_length=50) |
|
|
print(tokenizer.decode(outputs[0], skip_special_tokens=True)) |
|
|
|
|
|
|
|
|
メモリ要件: |
|
|
13Bモデルは非常に大きいので、モデルをローカルで動かすには高性能なGPUと十分なVRAM（例: 16GB以上）が必要です。 |
|
|
ローカルで動かせない場合は、Hugging FaceのInference APIやクラウド環境を検討するとよいでしょう。 |
|
|
|
|
|
日本語特化モデル: |
|
|
日本語のテキスト生成、翻訳、要約、質問応答など、多くの日本語関連タスクに適しています。 |
|
|
|
|
|
|
|
|
|
