目次
Amazon Bedrockで使用するパラメーターについて整理してみる
生成AIの使用にあたって最適な回答を得るためには、プロンプトやパラメータのチューニングが必要となります。
各パラメータの効果を整理しました。
各パラメータの効果を整理しました。
パラメータ
生成AIは問いに対して推論を交えて回答を作ります。
そこには生成AIモデルによりランダム性や多様性が発生します。
生成AIの推論の範囲を広くしてランダム性を許容するのか、確度の高いもののみを回答させるのかを設定できます。
答えが一意に確定されるような問いであればあまり関係しませんが、漠然とした質問に対する回答の場合に影響があります。
そこには生成AIモデルによりランダム性や多様性が発生します。
生成AIの推論の範囲を広くしてランダム性を許容するのか、確度の高いもののみを回答させるのかを設定できます。
答えが一意に確定されるような問いであればあまり関係しませんが、漠然とした質問に対する回答の場合に影響があります。
- 温度
モデルがより確率の低い出力を選択する可能性に影響します。
簡単に言えば、低くするほど確度の高い回答が得られます。逆に高くすれば、回答にランダム性が高くなります。
- トップP
複数の回答候補のうち、適している確率の高い候補から上位何パーセントまでを考慮対象とするかを設定します。
確度の高い候補のみを考慮させたいのであれば、数値を低くします。
数値はパーセンテージの値となります。0.8であれば確率分布の上位から80%まで範囲という意味になります。
- トップK
複数の回答候補のうち、適している確率の高い候補から上位何個までを考慮対象とするかを設定します。
確度の高い候補のみを考慮させたいのであれば、数値を低くします。
数値は個数となります。1であれば上位1個、2であれば上位から2個までを考慮範囲とします。
回答比較
生成AIのモデルは「Anthropic Claude 3.5 Sonnet」を使用して、パラメータを変化させて動きを見てみます。質問内容は、以下を繰り返し行ってみます。
お客様へ打ち合わせ依頼のメールを作成してください。
温度:1 / トップP:1 / トップK:500
それぞれのモデルに以下の質問をしてみました。
■1回目
■2回目
■1回目
■2回目
■3回目
■1回目
以下に、お客様への打ち合わせ依頼のメール例を作成しました。状況に応じて適宜修正してご利用ください。
件名: 打ち合わせのお願い
```
〇〇株式会社
△△部
××様
いつもお世話になっております。
□□株式会社の○○でございます。
この度は、弊社の新商品についてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程でご都合はいかがでしょうか。
第一候補：〇月〇日（〇） 14:00～15:00
第二候補：〇月〇日（〇） 10:00～11:00
第三候補：〇月〇日（〇） 16:00～17:00
ご都合の良い日時がございましたら、ご返信いただけますと幸いです。
また、ご都合が合わない場合は、別の日程をご提案させていただきます。
お忙しいところ恐縮ですが、ご検討のほどよろしくお願い申し上げます。
どうぞよろしくお願いいたします。
------------------------------
□□株式会社
○○部 ○○ ○○
TEL: 03-XXXX-XXXX
EMAIL: xxxxx@xxxx.co.jp
------------------------------
```
このメールテンプレートは以下の要素を含んでいます：
1. 丁寧な挨拶
2. 打ち合わせの目的
3. 複数の候補日時の提案
4. 柔軟な対応の姿勢
5. 締めの挨拶
6. 署名と連絡先情報
必要に応じて、会社の状況や関係性に合わせて文言を調整してください。
件名: 打ち合わせのお願い
```
〇〇株式会社
△△部
××様
いつもお世話になっております。
□□株式会社の○○でございます。
この度は、弊社の新商品についてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程でご都合はいかがでしょうか。
第一候補：〇月〇日（〇） 14:00～15:00
第二候補：〇月〇日（〇） 10:00～11:00
第三候補：〇月〇日（〇） 16:00～17:00
ご都合の良い日時がございましたら、ご返信いただけますと幸いです。
また、ご都合が合わない場合は、別の日程をご提案させていただきます。
お忙しいところ恐縮ですが、ご検討のほどよろしくお願い申し上げます。
どうぞよろしくお願いいたします。
------------------------------
□□株式会社
○○部 ○○ ○○
TEL: 03-XXXX-XXXX
EMAIL: xxxxx@xxxx.co.jp
------------------------------
```
このメールテンプレートは以下の要素を含んでいます：
1. 丁寧な挨拶
2. 打ち合わせの目的
3. 複数の候補日時の提案
4. 柔軟な対応の姿勢
5. 締めの挨拶
6. 署名と連絡先情報
必要に応じて、会社の状況や関係性に合わせて文言を調整してください。
■2回目
承知いたしました。以下に、お客様への打ち合わせ依頼のメール例を作成いたしました。
件名: 打ち合わせのお願い
株式会社〇〇
△△部
□□様
拝啓
貴社ますますご清栄のこととお喜び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：〇月〇日（曜日） 14:00～15:00
第2候補：〇月〇日（曜日） 10:00～11:00
第3候補：〇月〇日（曜日） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程が難しい場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
----------------
株式会社××
営業部
名前：山田 太郎
TEL：03-XXXX-XXXX
Email：yamada@xxxx.co.jp
----------------
このメールテンプレートには以下の要素が含まれています：
丁寧な挨拶と謝辞
打ち合わせの目的
具体的な日時の提案（複数の候補）
柔軟な対応の姿勢
丁寧な結びの言葉
詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
■3回目件名: 打ち合わせのお願い
株式会社〇〇
△△部
□□様
拝啓
貴社ますますご清栄のこととお喜び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：〇月〇日（曜日） 14:00～15:00
第2候補：〇月〇日（曜日） 10:00～11:00
第3候補：〇月〇日（曜日） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程が難しい場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
----------------
株式会社××
営業部
名前：山田 太郎
TEL：03-XXXX-XXXX
Email：yamada@xxxx.co.jp
----------------
このメールテンプレートには以下の要素が含まれています：
丁寧な挨拶と謝辞
打ち合わせの目的
具体的な日時の提案（複数の候補）
柔軟な対応の姿勢
丁寧な結びの言葉
詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
承知いたしました。以下に、お客様への打ち合わせ依頼のメール例を作成いたしました。
件名: 打ち合わせのご依頼
```
株式会社〇〇
△△部
□□様
拝啓
時下ますますご清祥のこととお慶び申し上げます。
平素は格別のお引き立てを賜り、厚く御礼申し上げます。
さて、この度は弊社の新規サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
ご多用中誠に恐縮ではございますが、下記の日程でご都合はいかがでしょうか。
第1候補：5月15日（月） 14:00～15:00
第2候補：5月17日（水） 10:00～11:00
第3候補：5月19日（金） 16:00～17:00
ご都合のよろしい日時がございましたら、ご教示いただけますと幸いです。
なお、上記日程が難しい場合は、別の候補日をご提案させていただきます。
お手数をおかけいたしますが、ご検討のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
鈴木 一郎
TEL: 03-XXXX-XXXX
Email: i.suzuki@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 締めの言葉
6. 送信者の詳細な連絡先情報
状況や関係性に応じて、内容や表現を適宜調整してご利用ください。また、自社の方針やガイドラインがある場合は、それに従って修正することをお勧めします。
件名: 打ち合わせのご依頼
```
株式会社〇〇
△△部
□□様
拝啓
時下ますますご清祥のこととお慶び申し上げます。
平素は格別のお引き立てを賜り、厚く御礼申し上げます。
さて、この度は弊社の新規サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
ご多用中誠に恐縮ではございますが、下記の日程でご都合はいかがでしょうか。
第1候補：5月15日（月） 14:00～15:00
第2候補：5月17日（水） 10:00～11:00
第3候補：5月19日（金） 16:00～17:00
ご都合のよろしい日時がございましたら、ご教示いただけますと幸いです。
なお、上記日程が難しい場合は、別の候補日をご提案させていただきます。
お手数をおかけいたしますが、ご検討のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
鈴木 一郎
TEL: 03-XXXX-XXXX
Email: i.suzuki@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 締めの言葉
6. 送信者の詳細な連絡先情報
状況や関係性に応じて、内容や表現を適宜調整してご利用ください。また、自社の方針やガイドラインがある場合は、それに従って修正することをお勧めします。
温度:0.1 / トップP:0.1 / トップK:1
■1回目
承知いたしました。以下に、お客様への打ち合わせ依頼のメール例を作成いたしました。
件名: 打ち合わせのお願い
```
株式会社○○
△△部
□□様
拝啓
貴社ますますご清栄のこととお慶び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：6月5日（月） 14:00～15:00
第2候補：6月7日（水） 10:00～11:00
第3候補：6月9日（金） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
山田 太郎
TEL: 03-XXXX-XXXX
Email: t.yamada@xx.co.jp
--------------------------- ```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
件名: 打ち合わせのお願い
```
株式会社○○
△△部
□□様
拝啓
貴社ますますご清栄のこととお慶び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：6月5日（月） 14:00～15:00
第2候補：6月7日（水） 10:00～11:00
第3候補：6月9日（金） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
山田 太郎
TEL: 03-XXXX-XXXX
Email: t.yamada@xx.co.jp
--------------------------- ```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
■2回目
承知いたしました。以下に、お客様への打ち合わせ依頼のメール例を作成いたしました。
件名: 打ち合わせのご依頼
```
株式会社〇〇
△△部
□□様
拝啓
時下ますますご清祥のこととお慶び申し上げます。
平素は格別のお引き立てを賜り、厚く御礼申し上げます。
さて、この度は弊社の新製品についてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程でご都合はいかがでしょうか。
第1候補：7月10日（月） 14:00～15:00
第2候補：7月12日（水） 10:00～11:00
第3候補：7月14日（金） 16:00～17:00
ご多用中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答くださいますようお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
佐藤 花子
TEL: 03-XXXX-XXXX
Email: h.sato@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
状況や関係性に応じて、内容や表現を適宜調整してご利用ください。また、自社の方針やガイドラインがある場合は、それに従って修正することをお勧めします。
件名: 打ち合わせのご依頼
```
株式会社〇〇
△△部
□□様
拝啓
時下ますますご清祥のこととお慶び申し上げます。
平素は格別のお引き立てを賜り、厚く御礼申し上げます。
さて、この度は弊社の新製品についてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程でご都合はいかがでしょうか。
第1候補：7月10日（月） 14:00～15:00
第2候補：7月12日（水） 10:00～11:00
第3候補：7月14日（金） 16:00～17:00
ご多用中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答くださいますようお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
佐藤 花子
TEL: 03-XXXX-XXXX
Email: h.sato@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
状況や関係性に応じて、内容や表現を適宜調整してご利用ください。また、自社の方針やガイドラインがある場合は、それに従って修正することをお勧めします。
■3回目
承知いたしました。以下に、お客様への打ち合わせ依頼のメール例を作成いたしました。
件名: 打ち合わせのお願い
```
株式会社〇〇
△△部
□□様
拝啓
貴社ますますご清栄のこととお慶び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：8月7日（月） 14:00～15:00
第2候補：8月9日（水） 10:00～11:00
第3候補：8月11日（金） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
鈴木 一郎
TEL: 03-XXXX-XXXX
Email: i.suzuki@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
件名: 打ち合わせのお願い
```
株式会社〇〇
△△部
□□様
拝啓
貴社ますますご清栄のこととお慶び申し上げます。
平素は格別のご高配を賜り、厚く御礼申し上げます。
さて、この度は弊社の新サービスについてご説明させていただきたく、
お打ち合わせのお時間を頂戴できればと存じます。
つきましては、下記の日程にてご都合をお伺いできますでしょうか。
第1候補：8月7日（月） 14:00～15:00
第2候補：8月9日（水） 10:00～11:00
第3候補：8月11日（金） 16:00～17:00
ご多忙中誠に恐縮ではございますが、ご検討いただけますと幸いです。
なお、上記日程がご都合に合わない場合は、別の日程をご提案させていただきます。
お手数をおかけいたしますが、ご返答のほどよろしくお願い申し上げます。
敬具
---------------------------
株式会社××
営業部
鈴木 一郎
TEL: 03-XXXX-XXXX
Email: i.suzuki@xx.co.jp
---------------------------
```
このメールテンプレートには以下の要素が含まれています：
1. 丁寧な挨拶と謝辞
2. 打ち合わせの目的
3. 具体的な日時の提案（複数の候補）
4. 柔軟な対応の姿勢
5. 丁寧な結びの言葉
6. 送信者の詳細な連絡先情報
必要に応じて、具体的な状況や関係性に合わせて内容を調整してください。また、社内の指針やガイドラインがある場合は、それに従って修正することをお勧めします。
まとめ
「温度:1 / トップP:1 / トップK:500 」のパターンの場合は、メール内容にブレが見られます。
最初の挨拶が「いつもお世話になっております。」からのパターンと「拝啓」でずれています。
他にも文中内でもズレが多々見られます。
それに比べて「温度:0.1 / トップP:0.1 / トップK:1 」のパターンの場合は、文章構成までかなり似通った結果が返ってきました。
何度問い合わせをしても回答にずれが少ない状態でした。
生成AIからの回答のブレの要否/許容可否が生成AIのパラメータ設定の重点になりそうです。
例えば、問い合わせに対する回答について一意の結果が想定される数学の問題について問い合わせする場合は、毎回同じ答えであるべきです。
その場合は温度、トップP、トップKの値は低くするべきです。
逆に不確定な回答やある程度自分でも想像がつかないようなアイデアを求めるような問い合わせの場合は、その場合は温度、トップP、トップKの値を高くするべきです。
値を高くすることで、想定外の突飛なアイデアを出してくれることもあります。
最初の挨拶が「いつもお世話になっております。」からのパターンと「拝啓」でずれています。
他にも文中内でもズレが多々見られます。
それに比べて「温度:0.1 / トップP:0.1 / トップK:1 」のパターンの場合は、文章構成までかなり似通った結果が返ってきました。
何度問い合わせをしても回答にずれが少ない状態でした。
生成AIからの回答のブレの要否/許容可否が生成AIのパラメータ設定の重点になりそうです。
例えば、問い合わせに対する回答について一意の結果が想定される数学の問題について問い合わせする場合は、毎回同じ答えであるべきです。
その場合は温度、トップP、トップKの値は低くするべきです。
逆に不確定な回答やある程度自分でも想像がつかないようなアイデアを求めるような問い合わせの場合は、その場合は温度、トップP、トップKの値を高くするべきです。
値を高くすることで、想定外の突飛なアイデアを出してくれることもあります。