Hej, dzięki za feedback!
Sprawdziłem dokładnie i ta wartość 0.010 / 0.001 to czułość wykrywania zmian w Game Lens, a nie realny czas tłumaczenia, więc samo zejście do 0.001 nie przyspieszy całego procesu tłumaczenia.
W najbliższym update obniżę minimalny auto-refresh delay z 0.10s do 0.05s, dzięki czemu Game Lens będzie mógł szybciej reagować na krótkie dialogi. Nie chcę jednak od razu skakać do ekstremów typu 0.001s, bo samo przechwycenie ekranu + OCR + tłumaczenie i tak trwa dłużej niż 1 ms, a zbyt agresywne odświeżanie może łapać tekst w połowie animacji i dawać mniej stabilne wyniki.
Jeśli dialogi znikają u Ciebie po około 5s, spróbuj też:
- zmniejszyć obszar przechwytywania do samego okna dialogowego,
- w Real-Time Mode włączyć tryb instant / szybkiego OCR,
- w Game Lens ustawić niższy refresh delay i dobrać czułość zmian,
- jeśli karta to wspiera, przełączyć OCR na GPU,
- użyć szybszego modelu tłumaczenia.
Tak naprawdę największą różnicę robi nie sam timer, tylko OCR + model tłumaczenia. Jeśli chcesz maksymalnej szybkości, najlepiej zadziała GPU OCR + lokalny model, np. przez LM Studio, llama.cpp server, KoboldCpp albo inne OpenAI-compatible Local API, dobrze dopasowany pod Twój sprzęt.
Dzięki temu forum przeszedłem na "KoboldCpp" i jest trochę lepiej :D
Jak przełączam na GPU (mam RTX 5060) to zawiesza mi się program na ładowaniu GPU i nie rusza (albo coś źle robię)
Obszar i tak mam malutki (tylko okienko gdzie postacie mówią - przy każdej grze ustawiam)
ale i tak świetna robota i wart swojej ceny! :D (Jak kupiłem u konkurencji to podziałał tydzień...)
Fajnie, że rozwijasz program :D Oby tak dalej! :D
Będę śledził aktualizacje bym na swoich LIVE z gier horror więcej ogarniał jak szybko gadają xD
Na pewno będę testował 0.05s jak będzie :D
Z tego, co piszesz, główny winowajca to najpewniej Twoja RTX 5060. Obecnie Thaluna nie radzi sobie stabilnie z kartami z serii RTX 5000 ani przy GPU OCR, ani przy wbudowanych lokalnych modelach. Powód jest dość prosty: stack, na którym to stoi, czyli PaddleOCR / CUDA / transformers, nie ma jeszcze stabilnego wsparcia dla tej generacji kart.
Na Twoim sprzęcie najlepiej więc ustawić OCR i translation device w Thalunie na CPU, a jako translation engine wybrać coś poza wbudowanymi offline modelami:
- Local API / OpenAI-compatible, np. KoboldCpp, llama.cpp server albo LM Studio
- Ollama
- OpenRouter, jeśli może być cloud
Wbudowanych offline modeli typu English-Polish, Japanese-English itd. bym na razie unikał jako głównego trybu. One też korzystają ze stacku ML/transformers i mogą tylko dokładać obciążenia albo powodować problemy na RTX 5000.
Z lokalnych backendów polecam KoboldCpp albo llama.cpp/LM Studio. Dobrze skonfigurowane pod Twoją kartę często mogą działać szybciej niż Ollama. Ollama jest prostsza w ustawieniu, ale KoboldCpp/llama.cpp/LM Studio dają więcej kontroli nad szybkością.
Jedna ważna rzecz: jeśli planujesz korzystać z KoboldCpp czy Local OpenAI API, najlepiej od razu startuj Thalunę w tym trybie, a nie najpierw na wbudowanym modelu offline. Wbudowany model może po drodze załadować dodatkowe paczki/model lokalny i niepotrzebnie obciążyć system, nawet jeśli potem przełączysz się na Local API.
W pigułce, najlepsza konfiguracja na teraz:
OCR: CPU, tryb Instant
Translation device: CPU
Translation engine: Local API / OpenAI-compatible
Backend: KoboldCpp / llama.cpp server / LM Studio, dobrze dopasowany do Twojego GPU
Capture region: jak najmniejszy, tylko samo okno dialogowe
Mała uwaga: to, że OCR i translation device w Thalunie stoją na CPU, nie znaczy, że Twoja karta leży bezczynnie. KoboldCpp, llama.cpp czy LM Studio korzystają z GPU po swojej stronie, to zupełnie osobne sprawy.
Poradniki, co i gdzie ustawić, znajdziesz na:
W najbliższym update zejdę z minimalnym auto-refresh delay do 0.05s, więc przy szybkich dialogach powinno być trochę lepiej. Nie obiecuję jednak cudów na RTX 5060, bo głównym ograniczeniem wciąż będzie brak stabilnego GPU OCR dla kart z tej serii.
Jak tylko PaddleOCR / CUDA / transformers dostaną stabilne, nieeksperymentalne wsparcie dla RTX 5000, postaram się zrobić update Thaluny pod GPU OCR i GPU dla wbudowanych modeli albo przynajmniej osobną wersję eksperymentalną do testów.
