Ehm es gibt etwas namens AnythingLLM das ist wie eine Art ChatGPT aber es wird idR. von Unternehmen lokal gehostet und man kann dort Dokumente und anderes als Kontext benutzen. Weiß nicht genau ob Dir das in Deinem Anwendungsfall hilft aber vielleist ist es ja ein Hinweis =)