常见问题

1. 如何使用自定义/本地嵌入模型？
2. 如何使用本地的 Hugging Face 嵌入模型？
3. 我该如何定制我的提示词
4. 我必须微调自己的模型吗？
5. 我希望 LLM 用中文/意大利语/法语回答，但它只用英语回答，该怎么办？
6. LlamaIndex 支持 GPU 加速吗？

---

1. 如何定义一个自定义 LLM？

你可以查看定制用法来定义一个自定义 LLM。

---

2. 如何使用不同的 OpenAI 模型？

要使用不同的 OpenAI 模型，可以查看配置模型来设置你自己的自定义模型。

---

3. 我该如何定制我的提示词？

你可以查看提示词了解如何定制提示词。

---

4. 我必须微调自己的模型吗？

不必。有一些独立模块可能带来更好的效果，但并非必需——你可以在不微调模型的情况下使用 LlamaIndex。

---

5. 我希望 LLM 用中文/意大利语/法语回答，但它只用英语回答，该怎么办？

要让 LLM 更准确地用另一种语言回答，你可以更新提示词，更强制地指定输出语言。

response = query_engine.query("Rest of your query... \nRespond in Italian")

另一种做法：

from llama_index.core import Settings
from llama_index.llms.openai import OpenAI

llm = OpenAI(system_prompt="Always respond in Italian.")

# set a global llm
Settings.llm = llm

query_engine = load_index_from_storage(
    storage_context,
).as_query_engine()

---

6. LlamaIndex 支持 GPU 加速吗？

支持。在本地运行时，你可以把语言模型（LLM）跑在 GPU 上。llama2 设置文档中有一个为 LLM 配置 GPU 支持的示例。

---