全体のトークン数を出さないと合わせてTemperatureの調節が出来ないが、全体のトークン数が分かってるということは出力が終わってるということで。 しょうがないので単語数とか指定して、ざっくり合わせるしかないと思う。