> ## Documentation Index
> Fetch the complete documentation index at: https://wb-21fd5541-dbrian-docs-serverless-training-quickstart.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.
> W&B を使って OpenAI モデルをファインチューニングし、トレーニングメトリクスをログして、ジョブを監視し、経時的なモデル性能を比較します。
# OpenAI ファインチューニング
export const ColabLink = ({url}) =>
Colabで試す
;
OpenAI GPT-3.5 または GPT-4 モデルのファインチューニングに関するメトリクスと設定を W\&B にログします。W\&B エコシステムを活用して、ファインチューニングの実験、モデル、データセットをトラッキングし、結果を同僚と共有できます。
ファインチューニング可能なモデルの一覧については、[OpenAI ドキュメント](https://platform.openai.com/docs/guides/fine-tuning/which-models-can-be-fine-tuned)を参照してください。
OpenAI でのファインチューニングに W\&B を統合する方法についての補足情報は、OpenAI ドキュメントの [W\&B Integration](https://developers.openai.com/cookbook/examples/third_party/gpt_finetuning_with_wandb) セクションを参照してください。
## OpenAI Python API をインストールまたは更新する
W\&B の OpenAI ファインチューニング インテグレーションは、OpenAI バージョン 1.0 以降に対応しています。最新バージョンについては、[OpenAI Python API](https://pypi.org/project/openai/) ライブラリの PyPI ドキュメントを参照してください。
OpenAI Python API をインストールするには、次を実行します。
```python theme={null}
pip install openai
```
OpenAI Python API がすでにインストールされている場合は、以下のコマンドで更新できます。
```python theme={null}
pip install -U openai
```
## OpenAI のファインチューニング結果を Sync する
OpenAI のファインチューニング API と W\&B を統合し、ファインチューニングのメトリクスと設定を W\&B にログします。これを行うには、`wandb.integration.openai.fine_tuning` モジュールの `WandbLogger` クラスを使用します。
```python theme={null}
from wandb.integration.openai.fine_tuning import WandbLogger
# ファインチューニングのロジック
WandbLogger.sync(fine_tune_job_id=FINETUNE_JOB_ID)
```
### ファインチューニングをSyncする
スクリプトから結果をSyncする
```python theme={null}
from wandb.integration.openai.fine_tuning import WandbLogger
# 1行のコマンド
WandbLogger.sync()
# オプションのパラメーターを渡す
WandbLogger.sync(
fine_tune_job_id=None,
num_fine_tunes=None,
project="OpenAI-Fine-Tune",
entity=None,
overwrite=False,
model_artifact_name="model-metadata",
model_artifact_type="model",
**kwargs_wandb_init
)
```
### リファレンス
| Argument | Description |
| ----------------------- | --------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------- |
| fine\_tune\_job\_id | `client.fine_tuning.jobs.create` を使用してファインチューニング ジョブを作成したときに取得する OpenAI Fine-Tune ID です。この引数が None (デフォルト) の場合、まだ Sync されていないすべての OpenAI ファインチューニング ジョブが W\&B に Sync されます。 |
| openai\_client | 初期化済みの OpenAI クライアントを `sync` に渡します。クライアントが指定されていない場合は、ロガー自身がクライアントを初期化します。デフォルトでは None です。 |
| num\_fine\_tunes | ID が指定されていない場合、まだ Sync されていないすべてのファインチューニングが W\&B にログされます。この引数を使用すると、Sync する直近のファインチューニング数を選択できます。num\_fine\_tunes が 5 の場合、直近 5 件のファインチューニングが選択されます。 |
| project | ファインチューニングのメトリクス、モデル、データなどがログされる W\&B プロジェクト名です。デフォルトのプロジェクト名は "OpenAI-Fine-Tune" です。 |
| entity | run の送信先となる W\&B ユーザー名またはチーム名です。デフォルトでは、通常はユーザー名であるデフォルトの entity が使用されます。 |
| overwrite | 強制的にログを行い、同じファインチューニング ジョブに対応する既存の wandb run を上書きします。デフォルトでは False です。 |
| wait\_for\_job\_success | OpenAI のファインチューニング ジョブは、開始後に完了まで少し時間がかかるのが一般的です。ファインチューニング ジョブの完了後できるだけ早くメトリクスを W\&B にログするため、この設定では 60 秒ごとにファインチューニング ジョブのステータスが `succeeded` に変わったかどうかを確認します。ファインチューニング ジョブの成功が検出されると、メトリクスは自動的に W\&B に Sync されます。デフォルトは True です。 |
| model\_artifact\_name | ログされるモデル artifact の名前です。デフォルトは `"model-metadata"` です。 |
| model\_artifact\_type | ログされるモデル artifact のタイプです。デフォルトは `"model"` です。 |
| \*\*kwargs\_wandb\_init | [`wandb.init()`](/ja/models/ref/python/functions/init) に直接渡される追加の引数 |
## データセットのバージョン管理と可視化
### バージョン管理
ファインチューニングのためにOpenAIへアップロードするトレーニングデータと検証データは、バージョン管理をしやすくするために、自動的にW\&B Artifactsにログされます。以下は、Artifacts内のトレーニングファイルの表示例です。ここでは、このファイルをログしたW\&B run、ログされた日時、このデータセットのバージョン、メタデータ、そしてトレーニングデータからトレーニング済みモデルまでのDAGリネージを確認できます。
### 可視化
データセットは W\&B Tables で可視化され、データセットの探索、検索、操作を行えます。以下では、W\&B Tables を使って可視化したトレーニングサンプルを確認できます。
## ファインチューニングしたモデルとモデルのバージョン管理
OpenAI は、ファインチューニングしたモデルの ID を返します。モデルの重みにはアクセスできないため、`WandbLogger` は `fine_tuned_model`` ID` と、モデルのすべての詳細 (ハイパーパラメーター、データファイル ID など) を含む `model_metadata.json` ファイルを作成し、これを W\&B Artifact としてログします。
このモデル (メタデータ) の Artifact は、さらに [W\&B Registry](/ja/models/registry/) 内のモデルにリンクできます。
## よくある質問
### W\&Bのチームでファインチューニング結果を共有するにはどうすればよいですか
次を使用して、ファインチューニング ジョブをチームアカウントにログしてください。
```python theme={null}
WandbLogger.sync(entity="YOUR_TEAM_NAME")
```
### run を整理するにはどうすればよいですか？
W\&B の run は自動的に整理され、ジョブタイプ、base model、学習率、トレーニングファイル名、その他のハイパーパラメーターなど、任意の設定パラメーターに基づいてフィルターや並べ替えを行えます。
さらに、run の名前を変更したり、メモを追加したり、タグを作成してグループ化したりできます。
整理できたら、Workspace を保存し、それを使用して Reports を作成できます。run や保存済みの Artifacts (トレーニング/検証ファイル) からデータを取り込めます。
### ファインチューニングしたモデルにアクセスするにはどうすればよいですか？
ファインチューニングしたモデルのIDは、Artifacts (`model_metadata.json`) と設定の両方として W\&B にログされます。
```python theme={null}
import wandb
with wandb.init(project="OpenAI-Fine-Tune", entity="YOUR_TEAM_NAME") as run:
ft_artifact = run.use_artifact("ENTITY/PROJECT/model_metadata:VERSION")
artifact_dir = ft_artifact.download()
```
ここで `VERSION` には、次のいずれかを指定します:
* `v2` のようなバージョン番号
* `ft-xxxxxxxxx` のようなファインチューニング ID
* `latest` のように自動で追加されたエイリアス、または手動で追加したエイリアス
その後、ダウンロードした `model_metadata.json` ファイルを読み取ることで、`fine_tuned_model` ID を取得できます。
### ファインチューニング の Sync に失敗した場合はどうなりますか？
ファインチューニング の情報が W\&B に正常にログされなかった場合は、`overwrite=True` を使用し、ファインチューニング のジョブ ID を渡すことができます。
```python theme={null}
WandbLogger.sync(
fine_tune_job_id="FINE_TUNE_JOB_ID",
overwrite=True,
)
```
### W\&B でデータセットとモデルをトラッキングできますか？
トレーニングデータと検証データは、自動的に Artifacts として W\&B にログされます。ファインチューニングしたモデルの ID を含むメタデータも、Artifacts としてログされます。
`wandb.Artifact` や `wandb.Run.log` などの低レベルの wandb API を使えば、いつでもパイプラインを制御できます。これにより、データとモデルを完全に追跡可能にできます。
## リソース
* [OpenAIのファインチューニング ドキュメント](https://platform.openai.com/docs/guides/fine-tuning/) は非常に詳しく、役立つヒントが数多く載っています
* [デモ用Colab](https://wandb.me/openai-colab)
* [W\&B を使った OpenAI GPT-3.5 と GPT-4 モデルのファインチューニング方法](https://wandb.me/openai-report) レポート