Hanah

from openai import OpenAI
from pydantic import Field  # Pydanticモデルでフィールドのメタデータを定義するためのFieldをインポート
from llama_index.core.llms import (
    CustomLLM,
    CompletionResponse,
    LLMMetadata,
)
from llama_index.core.embeddings import BaseEmbedding
from llama_index.core.llms.callbacks import llm_completion_callback
from typing import List, Any, Generator
# OurLLMクラスを定義し、CustomLLM基底クラスを継承
class OurLLM(CustomLLM):
    api_key: str = Field(default=api_key)
    base_url: str = Field(default=base_url)
    model_name: str = Field(default=chat_model)
    client: OpenAI = Field(default=None, exclude=True)  # clientフィールドを明示的に宣言

    def __init__(self, api_key: str, base_url: str, model_name: str = chat_model, **data: Any):
        super().__init__(**data)
        self.api_key = api_key
        self.base_url = base_url
        self.model_name = model_name
        self.client = OpenAI(api_key=self.api_key, base_url=self.base_url)  # 渡されたapi_keyとbase_urlを使用してclientインスタンスを初期化

    @property
    def metadata(self) -> LLMMetadata:
        """LLMメタデータを取得します。"""
        return LLMMetadata(
            model_name=self.model_name,
        )

    @llm_completion_callback()
    def complete(self, prompt: str, **kwargs: Any) -> CompletionResponse:
        response = self.client.chat.completions.create(model=self.model_name, messages=[{"role": "user", "content": prompt}])
        if hasattr(response, 'choices') and len(response.choices) > 0:
            response_text = response.choices[0].message.content
            return CompletionResponse(text=response_text)
        else:
            raise Exception(f"予期しないレスポンス形式: {response}")

    @llm_completion_callback()
    def stream_complete(
        self, prompt: str, **kwargs: Any
    ) -> Generator[CompletionResponse, None, None]:
        response = self.client.chat.completions.create(
            model=self.model_name,
            messages=[{"role": "user", "content": prompt}],
            stream=True
        )

        try:
            for chunk in response:
                chunk_message = chunk.choices[0].delta
                if not chunk_message.content:
                    continue
                content = chunk_message.content
                yield CompletionResponse(text=content, delta=content)

        except Exception as e:
            raise Exception(f"予期しないレスポンス形式: {e}")

llm = OurLLM(api_key=api_key, base_url=base_url, model_name=chat_model)

response = llm.stream_complete("あなたは誰ですか？")
for chunk in response:
    print(chunk, end="", flush=True)

import sys
import os

sys.path.append(os.path.abspath(os.path.join(os.path.dirname(__file__), "..", "..")))

from llama_index.core.agent import ReActAgent
from llama_index.core.tools import FunctionTool


def multiply(a: float, b: float) -> float:
    """2つの数を掛け算し、積を返します"""
    return a * b


def add(a: float, b: float) -> float:
    """2つの数を足し算し、合計を返します"""
    return a + b


def main():

    multiply_tool = FunctionTool.from_defaults(fn=multiply)
    add_tool = FunctionTool.from_defaults(fn=add)

    # ReActAgentインスタンスを作成
    agent = ReActAgent.from_tools([multiply_tool, add_tool], llm=llm, verbose=True)

    response = agent.chat("20 + (2 * 4) はいくつですか？ツールを使って各ステップを計算してください")

    print(response)


if __name__ == "__main__":
    main()

def get_weather(city: str) -> int:
    """
    指定された都市の天気の気温を取得します。

    引数:
    city (str): 都市の名前または略称。

    戻り値:
    int: 都市の気温。'NY'（ニューヨーク）には20を、'BJ'（北京）には30を、未知の都市には-1を返します。
    """

    # 入力された都市名を大文字に変換して、大文字小文字を区別しない比較を処理します
    city = city.upper()

    # 都市がニューヨーク（'NY'）かどうかを確認
    if city == "NY":
        return 20  # ニューヨークのために20°Cを返します

    # 都市が北京（'BJ'）かどうかを確認
    elif city == "BJ":
        return 30  # 北京のために30°Cを返します

    # 都市が'NY'でも'BJ'でもない場合、未知の都市を示すために-1を返します
    else:
        return -1

weather_tool = FunctionTool.from_defaults(fn=get_weather)

agent = ReActAgent.from_tools([multiply_tool, add_tool, weather_tool], llm=llm, verbose=True)

response = agent.chat("ニューヨークの天気はどうですか?")