Unsloth Model Card

README.md

@@ -1,181 +1,21 @@
 ---
+base_model: unsloth/gemma-3n-e2b-it-unsloth-bnb-4bit
 tags:
+- text-generation-inference
+- transformers
 - unsloth
+- gemma3n
+license: apache-2.0
+language:
+- en
 ---
-# ModelCard – Gemma-3N-2B **Bilanzierungs-Experte**
 
-## Modellübersicht
-**Modellname:** `unsloth/gemma-3n-E2B-it`  
-**Basis-Modell:** Google Gemma-3n-2B-it  
-**Finetuning-Framework:** Unsloth  
-**Domäne:** deutsche Bilanzierung & Rechnungswesen  
+# Uploaded finetuned  model
 
-Dieses Modell wurde auf Fachfragen zu Jahresabschluss, Handels- und Steuerbilanz sowie Bilanz­theorien spezialisiert. Es liefert präzise, praxisnahe Antworten in deutscher Sprache.
+- **Developed by:** ProfEngel
+- **License:** apache-2.0
+- **Finetuned from model :** unsloth/gemma-3n-e2b-it-unsloth-bnb-4bit
 
----
-
-## Trainingsdaten
-| Merkmal | Wert |
-|---------|------|
-| Beispiele | 932 Frage-Antwort-Dialoge |
-| Sprache   | Deutsch |
-| Fachgebiet| Bilanzierung, Jahresabschluss, Steuerrecht |
-| Format    | Strukturierte Conversational-Paare |
-
-### Themenabdeckung
-- Bilanzaufbau, Bilanzarten  
-- Anlage- und Umlauf­vermögen, Finanzanlagen  
-- Eigenkapital, Jahresüberschuss/-fehlbetrag  
-- Handels- vs. Steuerbilanz, latente Steuern  
-- Bilanztheorien (statisch, dynamisch, organisch)  
-- Stille Rücklagen, Ausweis eigener Anteile  
-
----
-
-## Training-Konfiguration
-| Parameter | Wert |
-|-----------|------|
-| GPU | NVIDIA T4 (16 GB VRAM) |
-| Trainingsdauer | 85 min |
-| Peak-VRAM | 10.99 GB |
-
-```
-
-per_device_train_batch_size = 1
-gradient_accumulation_steps = 6
-num_train_epochs = 4
-learning_rate = 2e-5
-warmup_steps = 50
-total_training_steps = 624
-optimizer = "adamw_8bit"
-lr_scheduler_type = "cosine"
-
-```
-
-**Ergebnis-Metriken**  
-• Finaler Training-Loss: 1.27  
-• Effektive Batch Size: 6  
-• Trainierbare Parameter: 10.6 M (0.19 % des Modells)
-
----
-
-## Nutzung
-
-### Installation
-```
-
-pip install unsloth transformers torch
-
-```
-
-### Modell laden
-```
-
-from unsloth import FastLanguageModel
-
-model, tokenizer = FastLanguageModel.from_pretrained(
-model_name="path/to/your/model",
-max_seq_length=2048,
-load_in_4bit=True,
-)
-FastLanguageModel.for_inference(model)
-
-```
-
-### Prompt-Beispiel
-```
-
-template = """
-Below is an instruction that describes a task, paired with an input that provides further context.
-Write a response that appropriately completes the request.
-
-### Instruction:
-
-{}
-
-### Input:
-
-{}
-
-### Response:
-
-{}
-"""
-
-prompt = template.format(
-"Du bist Experte für deutsches Bilanzwesen. Beantworte präzise:",
-"Was ist eine Bilanz und welche Informationen liefert sie?",
-"",
-)
-
-inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
-outputs = model.generate(
-**inputs,
-max_new_tokens=512,
-temperature=1.0,
-top_p=0.95,
-top_k=64,
-)
-print(tokenizer.decode(outputs, skip_special_tokens=True))
-
-```
-
-**Empfohlene Inferenz-Parameter**  
-Temperature 1.0 · Top-p 0.95 · Top-k 64 · Max 512–1 024 Tokens
-
----
-
-## Stärken
-- **Fachspezifische Terminologie**: HGB- und EStG-konform.  
-- **Strukturierte Antworten**: klar gegliedert, didaktisch.  
-- **Ressourcenschonend**: 2 B-Parameter + 4-bit-Quantisierung → geringe VRAM-Anforderungen.
-
-### Typische Einsatzgebiete
-Aus- & Weiterbildung, erste fachliche Einschätzungen, automatisierte Q&A-Systeme im Finanz-Reporting.
-
----
-
-## Limitierungen
-- **Domänenfokus**: außerhalb des Bilanzrechts eingeschränkte Genauigkeit.  
-- **Keine Rechtsberatung**: ersetzt keine Steuer- oder Wirtschaftsprüfer.  
-- **Datenstand**: Fachinhalte bis Trainingszeitpunkt; spätere Gesetzesänderungen nicht abgedeckt.
-
----
-
-## Technische Details
-- Quantisierung: 4-Bit (BitsAndBytes)  
-- Kompatibel mit Unsloth & Transformers ≥ 4.40  
-- Inferenz ab 4 GB VRAM möglich.
-
----
-
-## Lizenz – Apache 2.0
-Dieses Modell wird unter der Apache License, Version 2.0 bereitgestellt.  
-Die Nutzung ist frei, auch kommerziell, bei Beibehaltung der Lizenz- und Haftungsbedingungen.
-
-> Licensed under the Apache License, Version 2.0 (the “License”);  
-> you may not use this file except in compliance with the License.  
-> Unless required by applicable law or agreed to in writing, software  
-> distributed under the License is distributed on an “AS IS” BASIS,  
-> WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.  
-> See the License for the specific language governing permissions and  
-> limitations under the License.
-
-*Hinweis: Das zugrunde liegende Gemma-Modell unterliegt zusätzlich den Google Gemma Terms of Use.*
-
----
-
-## Kontakt & Support
-Fragen oder Feedback zum Einsatz im deutschen Bilanzwesen?  
-`<Ihre Kontaktadresse>`
-
----
-
-## Haftungsausschluss
-Dieses Modell dient ausschließlich Bildungs- und Informationszwecken und ersetzt keine professionelle Beratungsleistung. Entscheidungen basierend auf Modell-Ausgaben erfolgen auf eigenes Risiko.
-```
-
-<div style="text-align: center">⁂</div>
-
-[^1]: Bitte-die-gesamte-Modelcard-als-Markdown-ausgeben.md
+This gemma3n model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library.
 
+[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)