ギフプロギフプロ

動かせ!OllamaローカルLLMをNode.jsから呼ぶ方法

CODE PREVIEW

P

プロンプト

ローカルで起動中のOllamaにNode.js ESM(fetch / undici)から接続する最小限のコード例を生成してください。Ollama API(http://localhost:11434/api/chat)にチャット完了リクエストを送り、ストリーミング応答をコンソールに出力します。fetchのエラーハンドリングも含めてください。

この例では、ローカルで動作するOllamaインスタンスにNode.js ESMスクリプトから接続する方法を示します。Ollama API(http://localhost:11434/api/chat)にユーザーメッセージを含むチャット完了リクエストを送信し、ストリーミング応答を1行ずつ処理してコンソールに出力します。HTTPエラーやネットワーク障害のハンドリングも含まれています。

前提条件:
– ollama.com からOllamaをインストール
– モデルをダウンロード(例: ollama pull llama3.2)
– Ollamaサービスが起動していること

コードでは、Node.js 18以降で利用可能な組み込みの fetch API と ReadableStream リーダーを使ってストリーミングを処理しています。リクエストボディの stream: true パラメータにより、トークン単位でのストリーミング応答が有効になります。

このプロンプトは役に立ちましたか?

コメント

コメントは承認後に表示されます

ホームヘルプ