AI実装検定S級に合格したので、そこに至るまでの過程をここにまとめる。

合格に必要な知識

• 試験要項にある通りのCNNとNLPの知識
• KerasやPytorchでの転移学習というよりは、内部構造の話がメイン
• numpyの知識も問われる
• 理論は必要だが、それよりもコードを書く能力が問われる
• パラメータの値(学習率、チャンネル数、フィルタサイズなど)も覚えておいたほうが良い

ライブラリの使い方よりも、ライブラリの基底クラス(例えばnn.moduleなど)を継承して、論文通りにイチからモデルを作れるようになっておいたほうが良いかも。

試験対策

1. オライリー本(ゼロから作るDeepLearningの一巻と二巻を読む)
2. GitHubのKerasとPytorchのモデルのコードを読み解く
3. CNNとNLPの理論をまとめ、生成AIも使って演習を繰り返す
4. モデルを模したコードをpytorchとKerasでまとめる。

大まかにこんな感じ。

合格に必要な知識にある通り、もう少しコードを書いて勉強をしたほうが良さそう。

理論だけでは合格は危うい印象。特にLSTMとGRU、Transformerの内部構造に関してはしっかり理解しておいたほうが良さそう。

入出力のテンソル型、NLPとCNNのテンソルの違いなども問われるので、事前にその点を意識したコーディングが必要と思われる。

試験の内容

論文を元にして作ったコードの穴埋め問題が主体

なので、生成AIに質問して生成されたコードを元に勉強をしたとしても、おそらくあまり効果は期待できないかもしれない。

自分で論文を読み解きながら、関連するメソッドやパラメータを考慮して作ったほうが無難かと思われる。

論点は、論文通りに実装をしたとして

• いつBNをするのか？
• いつプーリングや活性化関数を実行するのか？
• その値をどう使うか？
• パラメータはいくらか？
• 入力と出力のテンソルはどうなっているか？
• 作ったモデルのメソッドの引数はどうするか？

などである。

生成AIには、この「論文通り」という観点が抜けており、そういう意味で対策にならないと思われる。

理論の理解だけでもある程度の点数は取れる

今回、前項に挙げたような対策はしていない。

が、理論を中心として満点取れるレベルまで固めてきたので、結果的に合格した。

とはいえ、理論の理解だけで取れる点数はたかが知れていると思われるため、前項で挙げた対策は必須と思われる。

実際に論文を元にコードを作り、穴埋め問題形式にすると、より高い点数が期待できるだろう。

試験を終えて

これまでPytorchやKerasでコードを書いてきたが、それでもまだまだ対策としては不十分な印象が見られる。

特にNLPに関してはあまり参考になる資料がないため、生成AIに質問を繰り返して行くしか対策方法がない。

無料の生成AIに質問したとして、得られるコードはあまり試験対策にはならないため、AI関係のセミナー・オンラインコーチングを受けたほうが良さそう。

とはいえ、これによりある程度のAI実装力が客観的に証明された。

すでにpytorchとKerasを使った実装ができるため、あとは演習を繰り返していくだけである。

その上で追々、E資格の受験も考慮する。