会社で契約しているUdemyをつかってAmazon Bedrockをためしている。
テキスト系生成AIは、軒並み同じようなパラメータが使われているようだ。まぁこれはおそらくTransferとかTokenizerとか、層は忘れたがプレゼンテーションなどの各部品が同じだからという感じなのかもしれない。
すでにAIはパーツ化がすごい。
Amazon Bedrockに入っているモデル群に大体共通するパラメータは
- Temprature
- Top P
- Top K
だろう。
3つとも、文章の正確性だったり遊びの幅の大小を調整するものなんだろう。
Copilot(旧?Bing Chat)の「より正確に」とかの選択肢はこういうのが調整されているのかもしれない。(ただの予想)