Is max tokens different from context size?
Might be worth keeping in mind that the generated tokens go into the context, so if you set it to 1k with 4k context you only get 3k left for character card and chat history. I think i usually have it set to 400 tokens or something, and use TGW's continue button in case a long response gets cut off
För ett par decennier sedan, innan alla hade smartphones och internet, så kände jag en pundare som ringde nummerupplysningen för hjälp att koka ägg. Det numret kostade ca 10kr/minuten att ringa vill jag minnas, för er som inte var med på den tiden