AI LangChain での LLM の Stream の基本とカスタマイズ LLM の Stream って? ChatGPTの、1文字ずつ(1単語ずつ)出力されるアレ。あれは別に、時間をかけてユーザーに出力を提供することで負荷分散を図っているのではなく(多分)、 もともと LLM 自体が tok 続きを読む » 2023年4月19日 2023年4月19日