OpenHermes 2.5 — LLM Instrukcje / SFT Dataset

Kompilacja ponad miliona różnorodnych, wysokiej jakości syntetycznych zbiorów instrukcji. Słynie z tego, że powstałe na jej bazie modele „Hermes” regularnie biją modele znacznie większe od siebie.

Dataset Details

ProviderTeknium
CategoryInstrukcje / SFT
Size1M Rows
LicenseApache 2.0
Downloads500k
TagsSynthetic, Chat, Roleplay, Code
 
from datasets import load_dataset
ds = load_dataset("teknium/OpenHermes-2.5")

Fine-tuning z tym zbiorem danych

Szacowany VRAM do fine-tuningu z QLoRA (model bazowy 4-bit + adaptery LoRA), przy zachowawczych ustawieniach:

7B QLoRA~6GB VRAM
13B QLoRA~10GB VRAM

Sprawdź, czy Twoje GPU to udźwignie →

Pierwszy fine-tuning? Przejdź przewodnik krok po kroku: Zrób fine-tuning pierwszego LLM w godzinę

Powiązane zbiory danych

Najczęstsze pytania

Czy mogę użyć OpenHermes 2.5 komercyjnie?
Tak — OpenHermes 2.5 jest udostępniony na licencji Apache 2.0, liberalnej licencji pozwalającej na użycie komercyjne, w tym trenowanie modeli wdrażanych w produkcie. Przed publikacją sprawdź wymogi atrybucji na karcie zbioru.
Ile danych zawiera OpenHermes 2.5 i czy potrzebuję wszystkich?
OpenHermes 2.5 zawiera 1M Rows. Rzadko potrzebujesz całości: do fine-tuningu stylu i formatu wystarcza kilkaset–kilka tysięcy przykładów — załaduj wycinek (np. split="train[:1000]") i zwiększaj skalę tylko, gdy jakość przestaje rosnąć.
Do czego OpenHermes 2.5 nadaje się najlepiej?
The default general-purpose SFT mix for 7B-13B fine-tunes. Należy do sekcji „Instrukcje / SFT" naszego centrum zbiorów danych, gdzie znajdziesz alternatywy i zbiory komplementarne.

← Wszystkie zbiory danych | Fine-Tuning Guide