Azure

documents = SimpleDirectoryReader("files").load_data()

llm = AzureOpenAI(
    model="gpt-35-turbo-16k",
    engine="gpt-35-turbo-16k",
    api_key=api_key,
    api_base=api_base,
    api_type=api_type,
    api_version=api_version,
)

# You need to deploy your own embedding model as well as your own chat completion model
embed_model = OpenAIEmbedding(
    model="text-embedding-ada-002",
    deployment_name="text-embedding-ada-002",
    api_key=api_key,
    api_base=api_base,
    api_type=api_type,
    api_version=api_version,
)


prompt_helper = PromptHelper(context_window=16384, num_output=2048)
storage_context = StorageContext.from_defaults(vector_store=vector_store)
service_context = ServiceContext.from_defaults(
        embed_model=embed_model,
        prompt_helper=prompt_helper,
        llm=llm,
    )

summary_text=(
    "Des informations contextuelles provenant de plusieurs sources sont présentées ci-dessous.\n"
    "---------------------\n"
    "{context_str}\n"
    "---------------------\n"
    "Étant donné les informations provenant de sources multiples et sans connaissances préalables,"
    "répondre à la requête.\n"
    "Requête : {query_str}\n"
    "Réponse : ")

index1 = SummaryIndex(
    documents,
    service_context=service_context,
    storage_context=storage_context,
    summary_text=summary_text,
    response_mode="tree_summarize"
        )
        


index2 = VectorStoreIndex(
    documents,
            service_context=service_context,
            storage_context=storage_context,
        )

list_query_engine = index1.as_query_engine(response_mode="tree_summarize")
vector_query_engine = index2.as_query_engine(similarity_top_k=5)

list_tool = QueryEngineTool.from_defaults(
    query_engine=list_query_engine,
    description="Utile pour les questions de synthèse liées à la source de données",
)

vector_tool = QueryEngineTool.from_defaults(
    query_engine=vector_query_engine,
    description="Utile pour retrouver un contexte spécifique lié à la source de données",
)



# initialize router query engine (single selection, pydantic)
query_engine = RouterQueryEngine(
    selector=LLMMultiSelector.from_defaults(),
    query_engine_tools=[
        list_tool,
        vector_tool,
    ],
    service_context=service_context
)
#query_engine=index1.as_query_engine()
resp=query_engine.query("Fait un résumé complet des transcriptions d'appels, en français, à partir du contexte, avec une ou plusieurs conversations entre un assuré et un ou plusieurs opérateurs d'assistance d'assurance")
print(resp)