AI
LangChain での LLM の Stream の基本とカスタマイズ
LLM の Stream って? ChatGPTの、1文字ずつ(1単語ずつ)出力されるアレ。あれは別に、時間をかけてユーザーに出力を提供することで負荷分散を図っているのではなく(多分)、 もともと LLM 自体が tok
LLM の Stream って? ChatGPTの、1文字ずつ(1単語ずつ)出力されるアレ。あれは別に、時間をかけてユーザーに出力を提供することで負荷分散を図っているのではなく(多分)、 もともと LLM 自体が tok
このサイトは、がんばるお一人様 SE や、SEがいないけど IT 関連技術で生産性を高めるために日々頑張っている人を応援するサイトです。
特に予算・人手に制約のある中小企業の役に立つツールやコンテンツ、その他仕事術などを紹介しています。