Motivation: Ich möchte IT-Lösungen nutzen, um meine Produktivität zu steigern. Deshalb probiere ich ChatGPT aus.

Problem 1: Relevanter Kontext für ChatGPT ist im Gehirn
Bisher habe ich nur sehr vereinzelte Anwendungsbereiche für ChatGPT gefunden. Ich produziere Output (z.B. eine E-Mail) auf der Basis von viel Kontext (Geschäftsberichte, Satzung, E-Mail-Historie, Projektstatus, Hintergrundinformationen zum Empfänger, etc.). Oft ist der Kontext nur im Gedächtnis vorhanden, aber nicht niedergeschrieben, oder der Kontext ist über viele lange Dokumente verteilt. Eine Textausgabe mit unzureichendem Kontext ist unangemessen (eine generische Blabla-Mail) und damit unbrauchbar. Das Schreiben von 50 Zeilen relevantem Kontext hingegen für jede 5-zeilige ChatGPT-Mail ist ineffizient.

Test: Aufschreiben aller Kontexte - Aufbau einer Testorganisation
Was aber, wenn wir von Anfang an alle Zusammenhänge aufschreiben?

Da ich mit einer Wahrscheinlichkeit von 20% in den nächsten 10-20 Jahren finanzielle Überschüsse erwirtschaften werde, für die es in meiner Familie keine Verwendung gibt, ergibt sich die Notwendigkeit eines gemeinnützigen Engagements. Dazu habe ich in der Vergangenheit bereits eine lokale Wohnungsbaugesellschaft mit günstigen Mieten (Kosten 6-7-stellig) teilweise ausgearbeitet. Aber das werde ich mir wohl nicht leisten können. Aber Stipendien für Studenten in Entwicklungsländern zu vergeben, kostet nur einen niedrigen 6-stelligen Euro-Betrag. Das ist machbar.

Deshalb habe ich mich mit ChatGPT auf den Weg gemacht, diese Stipendienorganisation zu planen. ChatGPT hilft mir mit lokalem Wissen, liefert Verbesserungsvorschläge, findet potentielle soziale Impulsgeber, hilft beim Brainstorming, prüft Fördermöglichkeiten und bringt Texte in das richtige Format (z.B. eine Stellenausschreibung).

So habe ich eine gemeinnützige NGO in einem Schwellenland „gegründet“, die Stipendien an begabte Studenten vergibt. Ausgehend von einer ersten Idee habe ich nach und nach einzelne Kapitel ausgearbeitet. Für jedes Kapitel gab ich eine Idee vor. ChatGPT hat mich dann durch Brainstorming oder Feedback unterstützt. Was mir an ChatGPT gefallen hat, habe ich dann in das Kapitel eingebaut.

Von 100 bis 1000 Wörtern wurde ChatGPT besser in seinen Antworten. Ab 2.500 bis 3.000 Wörter wurde ChatGPT schlechter und begann Dinge zu übersehen, die im Text klar definiert waren oder hat meinen Arbeitsauftrag übersehen und unpassend geantwortet. Bei knapp 4000 Wörtern antwortete ChatGPT überhaupt nicht mehr.

Nach 1-2 Tagen Brainstorming stößt man schon an die Grenzen des Kontextfensters von ChatGPT. Das ist unglaublich früh für eine Organisation.

Zwischenlösung
Die härtesten Nebenbedingung sind Bearbeitungszeit und Länge des Kontextfensters.
1.) Für jede neue Frage (auch zu ähnlichen Themen) öffne ich eine neue Unterhaltung.
2.) Ich habe ChatGPT gebeten, jedes Kapitel mit Rücksicht auf Inhalte aber ohne Rücksicht auf Grammatik auf eine gerigere Anzahl Token zusammenzufassen. Damit habe ich leider zwei Textvarianten (1x für den Menschen und 1x für ChatGPT).
3.) Ich kopiere nur die vermutlich notwendigen Kapitel in den Prompt.

ChatGPT kann 10^3 Token (=Prompt) in einem 10^12 Token Datensatz (=Trainingsdaten im wesentlichen Internet) suchen. Was uns fehlt ist die Berücksichtigung der Unternehmensdatenbank (10^7 Token) in der Antwort.

Evtl. Lösungen die Unternehmensdatenbank meiner Test-Stipendiums-NGO mit ChatGPT zu verknüpfen
1.) in Vektordatenbanken (z.B. Pinecone) hochladen (nicht anwenderfreundlich)
2.) in gut durchsuchbare Pakete aufteilen
3.) Dokumente in Notion hochladen und hier mit AI Verknüpfen (benutzerfreundliche Anwendung)

Notion bietet auf den ersten Blick eine ganz bequeme Verknüpfung zwischen AI und deinen Notizzetteln. Die Begrenzung an Token sollte Angabe gemäß höher sein als im Prompt von ChatGPT (das muss ich aber noch testen). Natürlich sollte man hier kein allzu sensiblen Informationen reinpacken.

Nutzt ihr ChatGTP o.a. zur Steigerung eurer Produktivität? Was ist eure Erfahrung?