現代機械学習の学習記録 #2

会社が契約している Udemy を適当に AI で掘って、LLMについて少し聞いた。

現代の生成AI、Chat AIの立役者たるTransformer、これが大事らしい。 qiita.com

Attention 層、そんなの初めて聞いたのでChat GPTに聞いてみた（本人が一番詳しいやろ）

わからんので具体例で聞いた

Queryの決め方とか、まだよくわからんところはあるが、ふわっとはイメージできた。

ところで現代はどんな層（生み出せるIN/OUTの種類）があるのか

やっぱりある程度IN/OUTにかませられるのは 1 function っぽいので、何か自分でAIでやりたいことを実現するには、コンポーネント図を書いて、中間層に現れるデータをイメージするのがよさそうだ。

そろそろハンズオンして、実際に現れる中間層データを目撃したほうがいいかもしれない。