一般向けリリース後、世界中で多くのユーザーを獲得したChatGPT。
すでに会社や個人ビジネスで活用している方も多いことでしょう。わたしも月額制のChatGPT Plusに加入して、日々、活用しています。一方で、短期間で多くのユーザーを獲得したことによって、利用中にエラーが発生したり、GPT4の利用回数が制限されるなどの課題も発生しています。
今回の記事で取り上げるのは、「ChatGPTの回答が途中で止まる(文章が切れる)」問題です。頻繁にChatGPTを使っている方であれば、すでに遭遇した経験があるのかもしれません。
では、原因と対策に進んでいきましょう。
ChatGPTに質問や依頼を送信すると文章で回答を得ることができます。ただし、場合によってはChatGPTからの回答が途中で止まってしまうことがあります。
当サイトでは、その問題の理由を説明するために、実際に回答が止まる症状を再現しました。次章以降で、理由と対策について説明します。
ChatGPTではユーザー数が多いことに起因するエラーが発生することもありますが、当記事をご覧になっている方は「回答の文章が途中で止まる・切れる」の症状に関してお調べしていると思いますので、その前提で説明します。
ChatGPTは、回答文の文字数上限について明記はされていないものの、約700文字前後に制限されているようです。そのため、文章が途中で止まる・切れるの症状は、長い回答文章が必要な質問・依頼をChatGPTに送信していることが原因です。
当サイトで、症状を確認するため、下記のような質問をしてみました(言語モデルはGPT4を使用)。
質問:日本の歴史について、大和時代から昭和前半までの「年表」を詳しく教えてください。
わたしが求めた質問は、「日本の歴史年表を詳しく教えて」という内容であり、とても短文で回答できるような内容ではありません。案の定、ChatGPTの回答は途中で止まってしまいました。
回答文章は途中で止まった(684文字)
わたしは、ChatGPTの月額制の有料サービスに加入しており、言語モデルは主にGPT4を使っていますが、回答が途中で止まる問題に関しては言語モデルを問わずに発生するようです。つまり、有料サービスに加入したからといって解決できる問題ではありません。
まとめると、ChatGPTの回答が途中で止まる・切れる問題の原因は、「ChatGPTに長い文章の回答を求めたこと」となります。
ChatGPTの回答が途中で止まってしまった場合でも、ChatGPTの内部では続きを含めた文章は生成されているようです。
対策としては回答が止まってしまったあと、下記のような依頼(プロンプト)を送信することで続きの文章が表示されます。
※このプロンプトに明確なルールはありません。要はChatGPTに「続きを表示してくれ」という意思が伝わればよいのです。例として、上記2つのプロンプトを覚えておけば十分です。
回答が止まった場合は、「続けて」と依頼すればOKです。
回答の続きが表示されます。
ChatGPTの回答が止まってしまった場合、シンプルに「続けて」と送信すれば十分です。
インターネット上では、止まってしまった最後の1文字を送信してもよい。という裏技のような情報もありますが、その都度、最後の文字を認識するのは合理的な方法ではないように思えます。
漢字で止まった場合には、漢字変換で一致させなければならず、記号であれば記号を合わせなければなりません。
続けて欲しいなら、「続けて」でよいのです。
最後の1文字の「:」コロンを認識して入力するより、「続けて」が早いです
今回は、現在のChatGPTの仕様上で発生する「回答が途中で止まる・切れる」について、理由と対策について説明しました。
なお、この症状はChatGPTの回答の文字数が制限されていることが原因と推測されますが、今後、バージョンアップ等によって解消される可能性も高いでしょう(現時点では有料プランでも回避できません)。
当サイトでは引き続き、ChatGPTに関する情報を発信していきます。