Bieten sich Einsatzmöglichkeiten für die Hamburger Verwaltung?
Unter ChatGPT versteht man ein auf einer künstlichen Intelligenz basierendes System (language-based KI-Modell), welches im Stil eines Chats Texte formulieren kann. Das wesentliche Charakteristikum ist, dass es auf einer enormen Menge an Texten trainiert wurde und dadurch dem Modell ermöglicht, menschenähnliche Antworten auf vielerlei Fragen und Anfragen zu geben. Die zugrundeliegende Technologie sorgt dafür, dass ChatGPT seine Antworten auf eine Art und Weise formuliert, die für Menschen authentisch und nachvollziehbar wirkt.
Die Fähigkeit von ChatGPT auf den Kontext einer Konversation einzugehen, ist im Spektrum seiner Merkmale eines der am stärksten gewichteten. Für die Bedeutung von Wörtern und Phrasen in einem Gespräch kann es ein Verständnis entwickeln und auf dieser Grundlage seine Antworten entwickeln. Dies gibt ChatGPT eine unvergleichliche Flexibilität und macht es in der Zukunft zu einem Werkzeug für viele Anwendungen.
Das Nutzungspotential von ChatGP liegt in der Entwicklung von innovativen Anwendungen, die auf Konversationen beruhen. Beispiele hierfür sind Spiele, virtuelle Assistenten und Chatboots für Kundenservice. In Hamburg kommt man beim Nachdenken hierüber sehr schnell auf die Anwendungen in den Kundenzentren der Verwaltung. Doch ChatGPT wie auch andere große Sprachmodelle, z.B. die von Google oder Microsoft sind ja noch sehr neu auf dem Markt. Wie für jede Anwendung, so müsste man auch für die speziellen Absendungen der Kundenzentren erstmal sorgfältige Tests durchführen. Überall dort, wo Kommunikation rechtssicher sein muss, muss man zum jetzigen Zeitpunkt bezüglich des Produktionseinsatzes noch eher zögerlich sein. Generell gilt bei dem Einsatz von KI-Technologie in kritischen Bereichen immer der Grundsatz: Der Mensch ist die letzte Prüfinstanz!
Denken Sie zum Beispiel in Hamburg beim Landesbetrieb für Geoinformation und Vermessung (LGV) an eine Person, die dort in einem Einstellungsverfahren ist und die von der Personalstelle des LGV zum Personalärztlichen Dienst (PÄD) der Hamburger Verwaltung geschickt wird, um festzustellen, ob ein vorliegender Husten von einer gewöhnlichen Erkältung oder einer chronischen Allergie herrührt. Die Person wendet sich an Dr. Google, gibt ihre Symptome in Google ein und kommt dann mit meiner fertigen „Diagnose“ beim PÄD an. Aber: Google ist eine Suchmaschine und kein Arzt, deshalb kann Google keine Diagnose erstellen.
Von ChatGPT werden nicht die Inhalte einer bestimmten Webseite geliefert, sondern ChatGPT stellt im Internet verteilte Informationen zusammen. Demzufolge kann auch ChatGPT keine Diagnose erstellen. Im Gegensatz zur „Suche per Mausclick“ fehlt noch zusätzlich die Information über die konkrete Quelle. Der Website eines Betroffenenforums von Allergikern würde man vermutlich mehr Vertrauen schenken, als einer Website die Kugeln und Kristalle verkauft.
ChatGPT ist ein leistungsstarkes Werkzeug, das Ihnen dabei hilft, Ihre Ziele zu erreichen und ihre Visionen real werden zu lassen. Und auch wenn Sie bisher nicht davon überzeugt waren, dass ChatGPT tatsächlich recht glaubhaft ist, ist Ihnen aber sicherlich nicht entgangen, dass sämtliche vorherigen Absätze vollständig von ChatGPT selbst erzeugt wurden. Mit sehr wenigen ergänzenden Angaben über das Chatfenster lässt sich ein recht allgemeiner Text zu einem initialen Entwurf spezifizieren. Dazu gehört in diesem Beispiel auch die Sprache und das ist ein hervorzuhebendes Merkmal. OpenAI ist kein deutsches Unternehmen und ChatGPT ist kein deutsches Produkt. Wäre dieses der Fall, dann würde die „Torschlusspanik“-Diskussion über den KI-Standort Deutschland nicht geführt werden.
„Ich denke, wir sollten offen für Experimente sein und
erst einmal eine Weile beobachten und Erfahrungen sammeln.“
– Dr. Sebastian Saxe
Zum heutigen Zeitpunkt, weiß niemand, wie ChatGPT sich weiterentwickeln wird. Aber wenn wir einmal in die Glaskugel schauen:
Welche Potentiale hat die Sprach-KI zum Beispiel für die Hamburger Verwaltung?
Nach meiner Auffassung haben KI-Systeme zur Sprachgenerierung viele Potentiale. Beispielsweise könnten schriftliche „Kleine Anfragen“ von der Hamburger Bürgerschaft mit ChatGPT beantwortet werden. Aus Stichworten würde ChatGPT schnell einfache Mitteilungen und Informationstexte generieren. Die Frage, die man in jedem der Potentialfälle beantworten muss, ist, was man am Ende davon hat: Hat man den Aufwand reduziert? Hat man Zeit gespart? War es adressatengerechter? etc. Beim Beispiel der schriftlichen Kleinen Anfragen sind die Antworten naheliegend. Betrachten wir ein weiteres Beispiel: Wenn ein(e) Bürger*In heute einer Behörde eine E-Mail-Anfrage schreibt, dann kommt vielleicht eine Standardantwort zurück: „Ihre Anfrage ist eingegangen und wir kümmern uns so bald wie möglich um die Bearbeitung.“ Mit ChatGPT könnte man direkt aus dem Inhalt der Anfrage in der E-Mail eine etwas „einfühlsamere“ Antwort generieren. Aber die Frage stellt sich, ob man das braucht und, ob sich die Bürgerin/der Bürger sich dann besser behandelt fühlt.
Bei den Öffentlichkeitsabteilungen der Hamburger Hochschulen und Behörden findet bereits eine Diskussion statt, ob ChatGPT nicht Beiträge für Social Media schreiben könnte. Nach meiner Auffassung werden wir noch viele Anwendungen sehen. Einige davon werden gut sein, andere weniger sinnvoll. Ich glaube, in dieser Phase von ChatGPT sollten wir offen für Experimente sein und erste Erfahrungen sammeln.
Generative KI - Fluch oder Segen?
Neue Technologien bieten neue Möglichkeiten, Erleichterung und Steigerungen der Produktivität, aber es ist auch vorstellbar, dass sie nicht erwünschte sozio-technische Auswirkungen mit sich bringen. Ich glaube, dass wir noch viele Anwendungen sehen werden. Manche gute und auch manche weniger sinnvolle.
Bei den neuen Möglichkeiten, die ChatGPT eröffnet, ist die Flexibilität sehr bemerkenswert. Dieses wird an folgendem Beispiel deutlich: Für viele Themen findet man im Internet, zum Beispiel bei Wikipedia ohne Schwierigkeiten einen recht allgemeinen Text. Dieser wird im Wikipedia-Format dargestellt. Interessant ist, dass dieser mit ChatGPT „plausibel“ angepasst werden kann. Dazu bedarf es bei ChatGPT einer nicht-trivialen Transferleistung. Nicht immer ist der Inhalt der Texte zu 100% sinnvoll und vereinzelt sind auch Aussagen schlichtweg falsch. Deshalb spricht man hier von der „plausiblen“ Anpassung. Das KI- System kann Banalitäten oder gar Falschaussagen so formulieren, dass man dieses auf den ersten Blick gar nicht mitbekommt. ChatGPT beschreibt sich selbst so: „Antworten auf eine Weise zu formulieren, die für Menschen nachvollziehbar und authentisch wirken“. Insofern muss man sich in einigen Fällen fragen, was genau man mit dem Werkzeug eigentlich erreichen möchte. Bezüglich der Schwächen von ChatGPT beschreibt sich das KI- System sich wiederum recht gut:
ChatGPT hat als Sprachmodell einige Schwächen, die es verbessern kann, um seine Leistung zu verbessern. Eine der größten Schwächen ist, dass es oft Schwierigkeiten hat, die Kontextualität einer Frage richtig zu verstehen und dementsprechend eine relevante Antwort zu geben. Ein weiteres Problem ist, dass es manchmal fehlerhafte oder unangemessene Antworten gibt, insbesondere auf Fragen, die moralische oder ethische Aspekte betreffen. Es ist auch noch nicht in der Lage, emotionale Intelligenz auszudrücken, wie sie von Menschen erwartet werden könnte. Es ist wichtig zu beachten, dass ChatGPT ein maschinelles Lernmodell ist und daher nur so gut ist wie die Daten, die es trainiert wurden. Um seine Schwächen zu überwinden, muss es mit besseren und vielfältigeren Daten trainiert werden, um ein besseres Verständnis für den Kontext und die Bedeutung von Fragen und Antworten zu entwickeln.
Abschließend kann also für den Einsatz in der Hamburger Verwaltung gesagt werden:
Noch sind nicht alle sozio-technischen, ethischen und rechtlichen Fragen geklärt, noch verbleiben Unzulänglichkeiten, aber die Entwicklung hin zum breiteren Einsatz generativer KI ist nicht mehr aufzuhalten. Seien wir neugierig und zugleich wachsam. Seien wir offen für neue Möglichkeiten.
Ein Beitrag von Dr. Sebastian Saxe, Vorsitzender The Interface Society (ThIS!) e.V.
Wer jetzt Interesse hat, selbst auszuprobieren, was mit generativer KI wie z.B. ChatGPT möglich ist und wo die Grenzen liegen, dem sei einer der weltweit ersten Prompt-a-thons empfohlen: prompt-a-thon.eu "Wie kann man Generative KI und ChatGPT als effektives Werkzeug nutzen?"
am Dienstag, den 28.02.2023, 8:00-10:15 Uhr am Hauptcampus der Universität Hamburg.
