LLMoin ist vergleichbar mit ChatGPT und ähnlichen KI-Textassistenten. Die Kollegen aus dem Amt IT und Digitalisierung und von Dataport haben es speziell für die Arbeit in der Hamburger Verwaltung entwickelt, sich auf wesentliche Funktionen fokussiert und es intuitiv gestaltet, damit es uns bei der Bewältigung täglicher Aufgaben unterstützen kann.
Diese Funktionen hat LLMoin
- Textzusammenfassung: Dafür kann man eigene Texte eingeben oder ins Textfeld kopieren und Dokumente hochladen. Man kann auswählen, in welcher Tonalität der gekürzte Text erscheinen, ob er in Stichpunkten oder als Fließtext ausgegeben werden und wie lang er werden soll.
- Inhaltsgenerierung: Text eingeben oder Dokument in LLMoin hochladen und im Menü auswählen, ob daraus ein Entwurf für eine E-Mail oder einen Vermerk oder sonstiges werden soll. Länge, Tonalität und Anrede auswählen und sich ein Ergebnis vorschlagen lassen.
- Recherche: Text hochladen, Fragen stellen und Antworten erhalten.
- Freies Prompten: Hier unterhält man sich mit der KI, kann Fragen stellen und sie als Sparringspartner nutzen. Auch dafür kann man Texte hochladen, allerdings auch, wie in Internet-Suchmaschinen oder anderen KI-Textassistenten das Weltwissen abfragen. Hierbei muss man allerdings beachten, dass LLMoin den Wissensstand vom Herbst 2023 ausspuckt. Beispielsweise dürfte bei der Suche nach dem Ausgang der US-Präsidentenwahl weiterhin Joe Biden als Gewinner genannt werden.
Damit LLMoin diese Funktionen leisten kann, verwendet es das Sprachmodell GPT4o. Das ist das aktuell leistungsfähigste Modell von OpenAI. Es wurde mit einem Datensatz öffentlich zugänglicher Daten wie Bücher, Internetseiten, wissenschaftliche Artikel usw. trainiert. Antworten auf Nutzerfragen berechnet LLMoin auf Basis dieser Trainingsdaten (sowie der möglicherweise hochgeladenen Texte).
Wichtig: Antworten können auch falsch sein, weil das Modell zwar sprachlich plausible Antworten gibt, die auf Mustern in den Trainingsdaten basieren, aber nicht auf logischer Herleitung oder Faktenwissen beruhen. Bitte immer kritisch sein! Wie und warum, erfahrt Ihr hier.
Was geht (noch) nicht?
Damit LLMoin seine volle Kraft entfalten kann, wäre es hilfreich, wenn es das komplette Behördenwissen anzapfen würde. Das könnte das Wissensmanagement auf ein neues Niveau heben und die Arbeit vieler Kolleg:innen erleichtern. Noch geht das nicht hundertprozentig. Ebenso stößt die Anwendung an ihre Grenzen, wenn ein hochgeladenes Dokument nicht nur aus Fließtext besteht: Informationen aus Tabellen oder Grafiken werden derzeit nur unvollständig ausgelesen.
Zwar ist bereits heute die Parlamentsdatenbank angebunden und ermöglicht es, in natürlicher Sprache tausende SKAs zu durchsuchen. Allerdings betrifft das momentan „nur“ die bis Oktober 2024 veröffentlichten SKAs, da aktuell noch keine dauerhafte Schnittstelle zwischen LLMoin und der Parlamentsdatenbank eingerichtet werden konnte. Auch die auf der Website der Senatspressestelle veröffentlichten Pressemitteilungen sind – Stand Dezember 2024 – noch nicht integriert.
Zukünftig soll LLMoin kontinuierlich in die IT- und Daten-Infrastrukturen der Stadt integriert werden, was heißt, dass auch interne Sharepoints und Laufwerke durchsuchbar sein werden.
Warum wir LLMoin starten, obwohl es noch nicht perfekt ist?
Weil die aktuellen Funktionen schon heute eine großartige Möglichkeit bieten, den Arbeitsalltag zu erleichtern und neue Kompetenzen zu entwickeln. Wir alle haben nun die Chance, Erfahrungen mit KI zu sammeln – eine Veränderung, die wir gern begleiten.
