Categories: ML-Agents

ML-Agents公式サンプル集解説0 ~サンプル一覧と学習環境の基本解説~

こちらのページでは、ML-Agentsのライブラリ(ml-agents-masterフォルダ)をダウンロードすると必ず付いてきます公式サンプル集(「ml-agents-master/UnitySDK/Assets/ML-Agents/Examples」に保存)についての解説ページになります。

ML-Agentsの公式サンプルは何と10種類以上あり、ただ機械学習する様子を眺めるのも一興(個人的にはそれでも充分楽しい(笑))ですが、実は中身のスクリプト文等をよくよく眺めますと、非常に沢山のことを勉強出来ます。それだけ非常によく出来たサンプル集なので、折角ならサンプルから様々なことを勉強していきましょう!というページになります。

なお、本ページはML-Agents(ver0.5)に基づいて解説していきます。2018年12月17日に、ML-Agents(ver0.6)が新規にリリースされました。ver0.6では、Brain Typeの設定方法が大きく変更されております。設定方法についてはこちらのページにまとめましたので、ML-Agents(ver0.6)でサンプルをいじる際は本ページと併せて参考にして下さい。

ML-Agents公式サンプル集一覧(随時勉強中…)

こちらがサンプルの一覧表になります。それぞれのサンプルゲームのついて、別ページにて詳細に解説をしておりますので、併せて参考にして下さい。各ゲーム名の所にリンクを貼ってあります。

フォルダ名 概要
Basic Agent(立方体)を左右に移動させてゴール(球)に到達させるゲーム、Agentは1つ
3DBall Agent(平板)を傾けてBallを落とさないようにするゲーム、Agentは複数
GridWorld Agent(四角)を上下左右に操作してゴール(+)に到達させるゲーム、ただし落とし穴(×)に注意、Visual Observationによる機械学習
Tennis 2つのAgent(ラケット)がお互いにボールを打ち合うゲーム、Agent vs Agentの対戦による機械学習
PushBlock Agent(青小立方体)を上下左右に操作してブロック(橙立方体)をゴールまで押し込むゲーム、RayPerceptionを用いた機械学習
WallJump Agent(青小立方体)を上下左右に操作してゴールに到達させるゲーム、ただし途中に高い壁がある場合、土台(橙立方体)の上からのジャンプが必要、Brainの切り替えが入る機械学習
Reacher
Crawler
BananaCollectors
Hallway
Bouncer
Soccer
Walker
Pyramids

ML-Agents学習環境の基本構成要素

引用:https://github.com/Unity-Technologies/ml-agents/blob/master/docs/ML-Agents-Overview.md

次に、UnityのML-Agents学習環境を構成する基本の3要素について説明していきます。最低限、学習環境の基本をおさえておいた方が、上記公式サンプルの中身の理解もより進むと思いますので、本ページで解説しておきます。なお、こちらからの引用になりますが上のイメージ図も分かり易いので併せて参考にして下さい。

まず、基本の3要素とは、「Academy」「Brain」「Agentになります。それぞれの役割を簡単に書きますと…、

・Academy:Unity内部のレンダリング品質・実行速度などの環境調節をしたり、Unity外部のPython(Tensorflow)=機械学習するAI様との連絡役。

・Brain:Agentに行動を指示する脳。Agentが観測したことや得た報酬を元に行動を決定する。機械学習の場合、Brainは(Academyを介して)AI様の指示に従うことになる。

・Agent:Brainにより操作される主人公オブジェクト。良い動作をするとプラスの報酬を得るが、間違った動作をするとマイナスの報酬を得て損をする。各Agentには1つのBrainが割り当てられている。

これら3要素はUnityのML-Agents学習環境に必須になります。特定のクラスを継承したスクリプトをUnity内のオブジェクトに付けることで、これら3要素を組み込むことが出来ます。

次に、各要素の概要をもう少し説明していきます。各要素の詳細な機能などについては、各サンプルの解説ページにて必要に応じて解説していきますのでここでは概要に留めます。m(_ _)m

学習環境の構成要素その1:Academy

Academyクラスを継承するスクリプトをUnity内のオブジェクトに付けることで、Academyの出来上がりです。スクリプトを付けるオブジェクトの名前は「○○Academy」として下さい。

スクリプトのテンプレートは「ml-agents-master/UnitySDK/Assets/ML-Agents/Examples/Template/Scripts」に「TemplateAcademy.cs」という名前で保存されていますので、新規に作成する場合はこれをコピーして編集することをオススメします!この「TemplateAcademy.cs」は大きく以下の3つの(オーバーライド)メソッドから成り立っています。

メソッド名 概要
void InitializeAcademy() 環境初期化時に呼び出される
void AcademyReset() 環境リセット時に呼び出される
void AcademyStep() ステップ毎に呼び出される
学習環境の構成要素その2:Brain

「ml-agents-master/UnitySDK/Assets/ML-Agents/Scripts」に保存されているスクリプト「Brain.cs」をUnity内の「□□Brain」オブジェクトに付けることでBrainの出来上がりです。「□□Brain」オブジェクトは、先程作成した「○○Academy」オブジェクトの子供にします。

よって、Brainのスクリプトは自分で作成する必要がありませんのでそこは楽ですが、代わりに右の画面で諸項目を色々設定する必要があります。各項目の設定についてはゲーム毎に変わってきますので各サンプルの方で解説するとしまして、ここではBrainの根幹に当たります「Brain Type」の設定(右図赤□の箇所)についてご紹介しておきます。

「Brain Type」どのようにAgent(主人公オブジェクト)を操作するかの設定項目になりまして、以下の4つの選択肢があります(注:ver0.6ではここの設定方法が大きく変更されました、こちらのページ参照)。

「Brain Type:Player」…プレイヤーがAgentを操作してゲームを遊びます。操作キーは右上の画面で設定します(Playerを選択すると「Brain Type」設定項目下に操作キーを設定する画面が追加で現れます)。

「Brain Type:External」…AgentはUnity外部のPython(Tensorflow)=機械学習するAI様の指示に従う。機械学習を実施する際はコチラの設定で。

「Brain Type:Internal」…先程の機械学習の結果、得られた推論モデル(○○.bytes)に基づきAgentが操作されます。

「Brain Type:Heuristic」…Agentの操作方法が書かれたスクリプト(○○Decision.cs)に基づきAgentが操作されます。なお、スクリプトを新規に作成する際は、テンプレートが「ml-agents-master/UnitySDK/Assets/ML-Agents/Examples/Template/Scripts」に「TemplateDecision.cs」という名前で保存されていますので、これをコピーして編集することをオススメします!

学習環境の構成要素その3:Agent

Agentクラスを継承するスクリプトをUnity内のオブジェクトに付けることで、Agentの出来上がりです。スクリプトを付けるオブジェクトの名前は「△△Agent」として下さい。

スクリプトのテンプレートが「ml-agents-master/UnitySDK/Assets/ML-Agents/Examples/Template/Scripts」に「TemplateAgent.cs」という名前で保存されていますので、新規に作成する場合はこれをコピーして編集することをオススメします!この「TemplateAgent.cs」には大きく以下の5つの(オーバーライド)メソッドから成り立っています。

メソッド名 概要
void InitializeAgent() Agent初期化時に呼び出される
void AgentReset() エピソード終了時=Agentリセット時に呼び出される
void CollectObservations() Stateの取得時に呼び出される
Actionの結果、Agentの状態をBrainに教えるために使用
void AgentAction
(float[] vectorAction, string textAction)
ステップ毎に呼び出される
Brainからの指示をどう処理するかの手続きや、Agentに与える報酬のルールが示されている
void AgentOnDone() エピソード完了時に呼び出される

最後に

このページの後半では、UnityのML-Agents学習環境を構成する基本3要素の話をしました。ほんの入り口の話をしただけですので、少しピンと来ない点があるかもしれません。その場合は、サンプル集解説その1の方で公式サンプル「Basic」の解説をしておりますので、簡単な具体例の一つとして併せてご覧いただくと、より理解が深まるかと思います。是非ご覧ください!

r_yoshi

Share
Published by
r_yoshi

Recent Posts

ゲーム「ワガハイ式テトリス」 制作手順4-2

監督スクリプトを記述しよう(ブ…

5年 ago

動的配列(List型)のご紹介と活用法

こちらのページでは、Unity…

5年 ago

ゲーム「ワガハイ式テトリス」 制作手順4-1

監督スクリプトを記述しよう(ブ…

5年 ago

ゲーム「ワガハイ式ビリヤード」 制作手順2-5

監督スクリプトを記述しよう こ…

5年 ago

ゲーム「ワガハイ式テトリス」 制作手順2-1

テトリミノに付けるスクリプトを…

5年 ago

ゲーム「ワガハイ式ぷよぷよ」 制作手順3-2

各ぷよに付けるスクリプトを記述…

5年 ago