feat(lightrag): 添加环境变量控制嵌入层最大 token 数量
Browse files- 在 lightrag_api_openai_compatible_demo.py 中,使用环境变量 EMBEDDING_MAX_TOKEN_SIZE 来设置嵌入层的最大 token 数量,默认值为 8192
examples/lightrag_api_openai_compatible_demo.py
CHANGED
@@ -60,7 +60,7 @@ rag = LightRAG(
|
|
60 |
working_dir=WORKING_DIR,
|
61 |
llm_model_func=llm_model_func,
|
62 |
embedding_func=EmbeddingFunc(embedding_dim=asyncio.run(get_embedding_dim()),
|
63 |
-
max_token_size=8192,
|
64 |
func=embedding_func),
|
65 |
)
|
66 |
|
|
|
60 |
working_dir=WORKING_DIR,
|
61 |
llm_model_func=llm_model_func,
|
62 |
embedding_func=EmbeddingFunc(embedding_dim=asyncio.run(get_embedding_dim()),
|
63 |
+
max_token_size=os.environ.get("EMBEDDING_MAX_TOKEN_SIZE", 8192),
|
64 |
func=embedding_func),
|
65 |
)
|
66 |
|