Generative KI an der Jade Hochschule

• Schreibblockaden überwinden
• erste Ideen sammeln
• eine Gliederung erstellen
• Verständnisfragen "diskutieren“
• Teamfähigkeit herstellen und Rollen verteilen
• sokratische Gespräche führen
• Evaluationsfragen erstellen
• Zusammenfassungen von Freitextantworten schreiben
• Qualitätssicherungsmaßnahmen vorschlagen
• Peer-Feedback
• Veränderungsdimensionen in der eigenen Lehre identifizieren
• Transkripte von z. B. YouTube Videos erstellen und auf weitere Verwendbarkeit prüfen
• Sichtung von Materialien und erste Einschätzung bzgl. vordefinierter Kriterien

Stand: Dez. 2023

Grundsätzlich gelten bei der Verwendung von generativen KI-Systemen die Bestimmungen der DSGVO (DatenSchutzGrundVerOrdnung). Aber auch diejenigen, die KI-Systeme zur Nutzung zur Verfügung stellen bzw. deren Nutzung (im Rahmen einer Vorlesung...) verpflichtend machen, müssen die Einhaltung der deutschen/europäischen Datenschutzvorschriften gewährleisten (DSGVO/AI-Act) sicherstellen. Das bedeutet, dass KI-Systeme eingesetzt werden sollten, die weitgehend auf das Abfragen und Speichern personenbezogener Daten verzichten (z.B. beim Anlegen eines Accounts). KI-Tools sollten unseren gemeinsam vereinbarten und gelebten rechtsstaatlichen und demokratischen Ansprüchen/Vorstellungen entsprechen und die Menschenrechte wahren.

Diese Forderung setzt hohe Hürden, denen viele KI-Tools nicht gerecht werden (Stichworte: prekäre Arbeitsbedingungen, Urheberrechtsverletzungen, biasing...). Worauf ist im Hochschulkontext unbedingt zu achten?

1. Übermitteln Sie keine sensiblen oder persönlichen Daten von (anderen) Nutzern an das KI-Tool. Achten Sie darauf, dass keine personenbezogenen Informationen in den Anfragen (Prompts) enthalten sind. Ebenso keine Betriebsinterna (z.B. Ihres Praktikumsbetriebs) oder kritischer Daten aus der Hochschule.
2. Datenspeicherung und -aufbewahrung: Informieren Sie sich über und beachten Sie die Angaben zu Datenspeicherung und nutzung jedes individuellen KI-Tools. In der Regel ist davon auszugehen, dass die Eingaben der Nutzer_innen, von den KI-Tools für eigene Auswertungen, Leistungsverbesserungen und Verwertungen im öffentlichen Raum genutzt werden können. Insbesondere die Angaben zu Rückverfolgbarkeit und Anonymisierung sind zu beachten. Die Angaben der KI-Tool-Betreibenden können sich diesbezüglich auch mit der Zeit ändern.
3. Es möglich, sich von KI-Tools im Netz unabhängig zu machen und einen "KI-Rohling" selbst fine zu tunen und lokal (abgeschirmt) zu nutzen. Dennoch muss beachtet werden:
   • Daten, die zum Training verwendet werden, müssen anonymisiert bzw. pseudonymisiert werden.
   • Nutzungsinformationen müssen geklärt werden, (der/die Nutzer_in muss wissen, dass er/sie mit einem KI-Modell interagiert), sobald Sie Ihr Tool freigeben.
   • Mechanismen müssen implementiert werden, um Missbrauch Ihres Modells zu verhindern.
   • Anfragen und Antworten müssen regelmäßig überprüft und auf Einklang mit ethischen Grundsätzen begutachtet werden.
4. Verantwortungsbewusste KI-Nutzung: berücksichtigen Sie die potentiellen Auswirkungen des Einsatzes von KI auf Gesellschaft, Ökologie und Sozialgefüge.   

(Die Angaben sind im Hinblick auf CHatGPT erstellt worden. Sie gelten aber bei jedem anderen System genauso)

Stand: Dez. 2023

Bezüglich der Funktionsweise einer textgenerierenden KI sagt beispielsweise die KI ChatGPT selbst:

• Trainingsdaten: Die KI wird auf der Grundlage großer Mengen von Textdaten trainiert. ChatGPT wurde u.a. auf einer Vielzahl von Internettexten trainiert.* (s.u.)
• Architektur: ChatGPT verwendet ein Transformer-Netzwerk mit Millionen oder sogar Milliarden von Parametern. Dies ermöglicht es dem zugrunde liegenden Modell, komplexe Muster im Text zu erkennen.
• Inferenz: Nach dem Training kann die KI auf neue Eingabedaten reagieren und entsprechende Ausgaben generieren. Dieser Prozess wird als Inferenz bezeichnet.
• Anpassung: Ein großer Vorteil (aus der Sicht von OpenAI, dem Unternehmen hinter ChatGPT) von ChatGPT ist, dass es "unbeaufsichtigt" trainiert wurde und nicht für bestimmte Aufgaben vorab festgelegt ist. Es kann für verschiedene Anwendungen durch feine Anpassungen (fine-tuning) spezifiziert werden.

Es ist wichtig zu beachten, dass die Fähigkeiten und Einschränkungen von textgenerierenden KI-System stark von ihrem Training und ihrer Architektur abhängen. Auch ethische Überlegungen, wie der verantwortungsbewusste Einsatz von KI und die Vermeidung von Missbrauch, sollten berücksichtigt werden.

Diese Antwort wurde am 7. Dezember 2023 von ChatGPT3.5 generiert, jedoch auf Faktentreue und Verständlichkeit händisch von der Verfasserin überarbeitet.

Wichtige Anmerkungen:

*: Algorithmen werden (derzeit noch) immer von Menschen konzipiert. Der Mensch entscheidet, was der Algorithmus mit welchen Daten berechnen soll. Menschen "erklären" dem Algorithmus, wie er Eingabedaten interpretieren soll. Auch die Trainingsdaten werden immer von Menschen ausgewählt.

Trainingsdaten für die hier betrachteten KI-Modelle sind Texte - genaugenommen große Mengen an aneinandergereihten Wörtern, deren Bedeutung Menschen mehr oder weniger gut verstehen. Ein Algorithmus "versteht" deren Bedeutung jedoch nicht! "Ich finde das toll" und "Dies ist ein Haus" sind für ihn je 4 Wörter in einer festgelegten Reihenfolge ohne emotionale oder menschliche Komponente. Unsere Texte entstehen und werden veröffentlicht vor unserem soziokulturellen Hintergrund. Unterschiedliche Gesellschaften texten ausgesprochen unterschiedlich intensiv. Nicht jede gesellschaftliche Gruppe ist als Autor_in oder Protagonist_in anteilig repräsentiert. So gesehen – wird auch eine KI selektiv trainiert, was mit dem Stichwort bias-ing von generativen KIs gemeint ist: eine Ungleichbehandlung, die das Risiko von Vorurteilen mit sich bringt – die KI hat einfach keine Daten aus großen Teilen der Welt präsentiert bekommen und kann daher keine Antworten generieren, die das entsprechende Kulturgut berücksichtigen.

Außerdem: die Algorithmen, die zum Training verwendet werden, das "wie" des An- und Weiterlernens in Neuronalen Netzen, ist größtenteils nicht transparent, die Software-Entwickler legen sie nicht offen – sie sind aber immer von Menschen geschrieben, somit von der Meinung und dem Weltbild des Programmierers/der Programmiererin (unwillentlich) beeinflusst.

Stand: Dez. 2023

Die Jade Hochschule sieht sich in der Verantwortung, insbesondere allen Studierenden (generative) KI-Tools kostenfrei zur Verfügung zu stellen. Im Unterschied zu den auch kostenlos nutzbaren Copilots, die mittlerweile in vielen Suchmaschinen integriert sind, müssen und wollen wir mit unserem Angebot in jedem Fall den deutschen/europäischen Datenschutzvorschriften entsprechen (DSGVO/AI-Act). Das bedeutet, dass wir weitgehend auf das Abfragen und Speichern personenbezogener Daten verzichten und kritisch diskutieren unter welchen ethischen Standards die KI trainiert worden ist. Damit unterstreichen wir die Bedeutung unserer gemeinsam vereinbarten und gelebten rechtsstaatlichen und demokratischen Ansprüche/Vorstellungen, sowie die Notwendigkeit der Einhaltung der Menschenrechte im Prozess der Entstehung von KIs und deren späterer Verwendung.

Aktuell ist die Hochschule im Prozess der Bechaffung und wird (ab ca. Sommersemester 2024) mit einem textgenerierenden KI-Tool beginnen, anschließend weitere Bild-, Audio-Tools prüfen. Spezielle KI-Wünsche und Vorschläge dürfen gerne an uns weitergeleitet werden.

Die tatsächliche Nutzung eines KI-Systems im Studienalltag unterliegt darüber hinaus grundsätzlich auch der Absprache zwischen Lehrenden und Studierenden. !!! Bitte immer unbedingt die Verwendung von KIs und die Zitierregeln mit den Lehrenden besprechen, denn die KI ist auf jeden Fall eine anzugebende "Quelle“.

Wie Sie die Nutzung eines KI-Tools dokumentieren könnten, schlägt beispielsweise ChatGPT wie folgt vor:

You: Wie kann ich die Verwendung eines Chatbots zum Schreiben von Texten in meiner Masterarbeit dokumentieren?

ChatGPT: Wenn du einen Chatbot für das Schreiben von Texten in deiner Masterarbeit verwendest, ist es wichtig, die Nutzung klar und transparent zu dokumentieren. Hier sind einige Schritte, die du befolgen kannst:

1. Einführung und Kontext:
   • Beginne deine Masterarbeit mit einer Einführung, die den Kontext deiner Forschung und den Zweck der Verwendung eines Chatbots für das Schreiben von Texten erklärt. Erkläre, warum du dich für diese Methode entschieden hast und welchen Beitrag sie zur Forschung leisten kann.
2. Chatbot-Auswahl:
   • Beschreibe die Auswahlkriterien für den Chatbot. Erkläre, warum der ausgewählte Chatbot für deine Forschungsfrage oder dein Projekt am besten geeignet ist. Gib technische Details an, wie die zugrundeliegende KI-Architektur.
3. Methodik:
   • Beschreibe die Methodik, die du für die Verwendung des Chatbots angewendet hast. Erkläre, wie du den Chatbot trainiert oder konfiguriert hast und welche spezifischen Parameter oder Einstellungen verwendet wurden.
4. Datensätze und Training:
   • Falls du den Chatbot trainiert hast, erkläre den Prozess des Trainings im Detail. Nenne die verwendeten Datensätze und erkläre, wie du sicherstellst, dass der Chatbot für die Anforderungen deiner Masterarbeit geeignet ist.
5. Anwendungsbeispiel:
   • Gib ein konkretes Beispiel dafür, wie der Chatbot in deiner Forschung eingesetzt wurde. Beschreibe, welche Art von Texten der Chatbot generiert hat und wie du diese in deine Analyse integriert hast.
6. Bewertung und Limitationen:
   • Bewerte die Leistung des Chatbots kritisch. Diskutiere die Vor- und Nachteile der Verwendung eines Chatbots für deine spezifische Forschungsfrage. Weise auf mögliche Limitationen hin und erkläre, wie du mit diesen umgegangen bist.
7. Ethik und Validität:
   • Reflektiere über ethische Fragen im Zusammenhang mit der Verwendung eines Chatbots. Diskutiere, wie du sicherstellst, dass die Verwendung ethisch vertretbar ist. Betone die Validität der Ergebnisse, indem du mögliche Einflüsse des Chatbots auf die Forschungsergebnisse ansprichst.
8. Vergleich mit anderen Methoden:
   • Falls möglich, vergleiche die Ergebnisse der Chatbot-Generierung mit anderen Methoden, um die Stärken und Schwächen des Chatbots im Kontext deiner Forschungsfrage zu verdeutlichen.
9. Zusammenfassung:
   • Schließe deine Dokumentation mit einer Zusammenfassung ab, in der du die wichtigsten Erkenntnisse, Herausforderungen und Implikationen für zukünftige Forschung hervorhebst.

Indem du diese Schritte befolgst, kannst du sicherstellen, dass die Verwendung des Chatbots in deiner Masterarbeit transparent dokumentiert ist und dass deine Leser die Methodik und Ergebnisse gut nachvollziehen können.

Diese Antwort wurde am 7. Dezember 2023 von ChatGPT3.5 generiert.

Stand: Dez. 2023

Ja, das tun sie. Wir sprechen vom "halluzinieren“. Generative KIs werden aber mit der Zeit, mit dem Nachtraining, einer Spezialisierung, mit dem Zusammenspiel von Suchmaschine plus KI und der Mithilfe von Bewertungen durch User_innen schnell immer besser, also zuverlässiger.

Aber: Keine KI

• denkt mit
• oder überprüft ihre Ergebnisse
• oder versteht gar, was sie von sich gibt
• oder fühlt womöglich irgendetwas – auch wenn sie so tut, sich also so ausdrückt, als ob
• oder glaubt irgendetwas von dem, was sie da schreibt
• oder merkt sich irgendetwas, was mehr Zeichen umfasst als ihr Kurzzeitgedächtnis aktuell durch ihre Neuronen zu schicken vermag ...

Denn: Generative KIs sind darauf trainiert,

• uns zu gefallen
• lieber irgendeine Antwort zu geben als keine Antwort zu geben
• lieber irgendetwas zu schreiben als ihre Grenzen zu zeigen
• lieber "drumrum" zu reden als dumm zu wirken, weil es ein Wettbewerbsnachteil zu Konkurrenten sein könnte.

Hier ein kleiner Beispieldialog mit KI-Halluzinationen, die Sie als Studierende_r sicher sofort erkannt hätten! Kursiv war die Verfasser_in (you):

Darstellung des Dialogs im PDF

Stand: Dez. 2023

Wir im Lehr- und Lernzentrum empfehlen den

• KI Campus (FernUni Hagen/Stifterverband). Dort gibt es zahlreiche interaktive, kostenlose Kursangebote zum Thema KI.
• Oder auch VK: KIWA (Virtuelles Kompetenzzentrum: Künstliche Intelligenz und wissenschaftliches Arbeiten).
• Zum Ausprobieren von DSGVO-konformen Tools, auch Bild und Video bietet sich in kleinem Umfang kostenlos die fobizz-Plattform an.
• Wenn Lehrende oder Studierende Interesse am Thema oder Lust auf ein gemeinsames KI-Experiment haben, empfehlen wir ein offenes Gespräch über die o.g. Rahmenbedingungen. Sprechen Sie uns auch gerne an.

Teilen Sie uns bitte auch gerne mit, womit wir diese Liste ergänzen sollten! Wir freuen uns!

Wichtig ist es, im Hinterkopf zu behalten, dass die Themen rund um die generative KI sehr schnelllebig sind. Hinsichtlich der Menge an verfügbaren Tools ist zu ergänzen, dass ein großer Teil der überwältigenden Mengen an KI-Tools, die derzeit auf den Markt geschwemmt werden, "nur“ Spezialisierungen von wenigen, leistungsstarken LLMs (Large Language Modellen) wie ChatGPT von OpenAI sind.

Stand: Dez. 2023