現代機械学習の学習記録 #5

会社で契約しているUdemyをつかってAmazon Bedrockをためしている。

 

テキスト系生成AIは、軒並み同じようなパラメータが使われているようだ。まぁこれはおそらくTransferとかTokenizerとか、層は忘れたがプレゼンテーションなどの各部品が同じだからという感じなのかもしれない。

 

すでにAIはパーツ化がすごい。

Amazon Bedrockに入っているモデル群に大体共通するパラメータは

  • Temprature
  • Top P
  • Top K

だろう。

 

 

3つとも、文章の正確性だったり遊びの幅の大小を調整するものなんだろう。

 

Copilot(旧?Bing Chat)の「より正確に」とかの選択肢はこういうのが調整されているのかもしれない。(ただの予想)