README.md

---
license: apache-2.0
language:
- ja
- en
base_model:
- SIP-med-LLM/SIP-jmed-llm-2-8x13b-OP-instruct
pipeline_tag: text-generation
library_name: transformers
---

# hiratagoh/SIP-jmed-llm-2-8x13b-OP-instruct-bnb-nf4

[SIP-med-LLM/SIP-jmed-llm-2-8x13b-OP-instruct](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-2-8x13b-OP-instruct)のバージョン1.0.0をBitsAndBytesでNF4量子化したものです。

モデルの詳細は[量子化前のモデルの説明](https://huggingface.co/SIP-med-LLM/SIP-jmed-llm-2-8x13b-OP-instruct)を参照ください。

念のため「使用目的と制限事項」のみ転記しておきます。

## 使用目的と制限事項

このモデルは「安全性・信頼性を持つオープンな医療 LLM の開発・社会実装」における研究開発プロトタイプとして開発されました。**現段階では研究開発目的のみでの使用を想定しており、実際の臨床現場における疾患の診断や臨床意思決定支援として直接利用することは推奨されません。**

#### 制限事項

- **本モデルは研究開発段階のプロトタイプであり、実臨床における安全性・有効性の検証は十分に行われていません。**
- 開発者は、本プログラムに関し、その正確性、完全性、最新性、および品質など、いかなる保証も行わず、利用者が本プログラムを利用したこと、利用できなかったことにより生じた一切の損害について責任を負いません。
- **医療行為（診断、治療方針の決定、健康への助言など）に直接適用することは推奨されません。あくまで医療専門家による適切な判断の補助となる情報提供ツールとしての利用可能性を探る研究段階にあります。**


## 使用方法

元モデルの必要ライブラリに加えてbitsandbytesが必要です。

```Python
import torch
from transformers import AutoTokenizer, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("llm-jp/llm-jp-3-8x13b-instruct3")
model = AutoModelForCausalLM.from_pretrained("hiratagoh/SIP-jmed-llm-2-8x13b-OP-instruct-bnb-nf4", device_map="auto", torch_dtype=torch.bfloat16)
chat = [
    {"role": "system", "content": "以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。"},
    {"role": "user", "content": "心筋梗塞の主要な症状を教えて下さい。"},
]
tokenized_input = tokenizer.apply_chat_template(chat, add_generation_prompt=True, tokenize=True, return_tensors="pt").to(model.device)
with torch.no_grad():
    output = model.generate(
        tokenized_input,
        max_new_tokens=100,
        do_sample=True,
        top_p=0.95,
        temperature=0.7,
        repetition_penalty=1.05,
    )[0]
print(tokenizer.decode(output))
```