Seit der Veröffentlichung von ChatGPT sind große Sprachmodelle, sogenannte Large Language Models (LLMs), in aller Munde. Sie können KI-basiert lange Texte in Sekundenschnelle zusammenfassen, unterstützen bei der Recherche und bei der Texterstellung. Das Pilotprojekt LLMoin will zeigen, wie Large Language Models innerhalb der Hamburger öffentlichen Verwaltung genutzt werden können und welche Funktionen die Mitarbeitenden tatsächlich annehmen und benötigen. Die Stadt Hamburg möchte außerdem erproben, welche technischen und organisatorischen Voraussetzungen nötig sind, damit die Technologie zukünftig einer großen Anzahl an Mitarbeiterinnen und Mitarbeitern zur Verfügung gestellt werden kann.
Christian Pfromm, Chief Digital Officer der Stadt Hamburg: „Mit LLMoin kommen wir in der Schlüsseltechnologie der Large Language Models von der Theorie in die Praxis und sammeln frühzeitig wertvolle Erfahrungen zur Anwendbarkeit in der Verwaltung. Was wir im Rahmen dieses Projektes lernen, wird uns helfen unser zukünftiges Handeln in diesem Feld an den tatsächlichen Bedürfnissen der Mitarbeiterinnen und Mitarbeiter auszurichten.“
Das Pilotprojekt „LLMoin“ ist ein integrierter Textassistent mit vier Funktionen für die verwaltungsinterne Anwendung. Es basiert auf dem in Deutschland entwickelten und gehosteten Sprachmodell Luminous von AlephAlpha. Die Frontend- und Datenverarbeitung wurde eigens für Hamburg entwickelt. Den Testgruppen stehen die Funktionen Zusammenfassung, Recherche-Assistent, Textgenerierung der Expertenmodus zur Verfügung. Beim Expertenmodus können die Testerinnen und Tester nach dem Vorbild von Chat GPT ohne weitere Einstellungsmöglichkeiten frei über selbst definierte „Prompts“ (Eingaben) mit dem System interagieren.
Ergänzt wird LLMoin durch weitere Aktivitäten rund um die Erschließung der LLM Technologie. Essenziell ist beispielsweise, dass Mitarbeitende generell an die Interaktion mit den Modellen (Prompting) herangeführt werden. Zu diesem Zweck wurde unter anderem ein Prompt-a-thon in Kooperation mit der Universität Hamburg im Rahmen einer verwaltungsinternen Tagung erprobt. Bei diesem Format konnten Mitarbeitende nach entsprechender Einführung zuvor definierte Problemstellungen mithilfe von ChatGPT lösen.
Das Vorhaben wird als innovativer KI-Pilot im Rahmen des InnoTecHH Fonds umgesetzt. Die Senatskanzlei unterstützt Hamburger Behörden dabei, innovative Ideen für den Einsatz von KI und anderen neuen Technologien zu entwickeln und agil zu erproben.
Weitere Informationen zum InnoTecHH Fonds: https://digital.hamburg.de/digitale-stadt/innotechh-689116.
Rückfragen der Medien
Senatskanzlei, Amt für IT und Digitalisierung
Dr. Svenja Zell
Telefon: 040 428 23 2717
E-Mail: svenja.zell@sk.hamburg.de
Internet: www.digital.hamburg.de