自動化無しに生活無し

WEB開発関係を中心に備忘録をまとめています

  • OllamaでRAGを実現する。

    すでにollamaとgemma:2bをインストール済みとする。 参照: UbuntuにローカルLLMをインストールし、Python上で動作させる(Ollama) RAGの実装とソースコード pip install faiss-cpu sentence-transformers numpy import faiss import numpy as np from sentence_transformers import SentenceTransformer import subprocess # ========================= # 1. ドキュメント準備 # ========================= documents = [ "RAGとは、検索と生成を組み合わせたAI手法です。", "FAISSはベクトル検索ライブラリです。", &quo ...
  • UbuntuにローカルLLMをインストールし、Python上で動作させる(Ollama)

    Ollama Ollama はGoogle DeepMind によって開発されたローカルで利用できるLLM。 入力した情報を外部に公開したり curl -fsSL https://ollama.com/install.sh | sh 仮想環境下で以下を実行する。 pip install ollama ollamaコマンドでgemma:2b をインストールしておく。 ollama run gemma:2b 以下コードを実行する。 import ollama # 1. システムプロンプト(末尾のカンマを削除し、内容を強化) system_prompt = { 'role': 'system', 'content': ( "【絶対ルール】必ず日本語だけで回答してください。英語は一切使用禁止です。" ...