Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

--- courses:studierende:l:s-fachdidaktik:material:m02-4 [2024/10/18 13:33] – leofuc
+++ courses:studierende:l:s-fachdidaktik:material:m02-4 [2025/02/05 12:17] (aktuell) – leofuc
@@ Zeile 1: / Zeile 1: @@
-===== M02-4: Nutzung von Chat AI =====
+===== M02-4: Chat AI =====
 [[https://kisski.gwdg.de/leistungen/2-02-llm-service/|Chat AI]] ist ein Web Interface, vergleichbar mit ChatGPT zur Interaktion mit verschiedenen Large Language Models. Ein zentraler Vorteil von Chat AI gegenüber anderen Systemen, wie ChatGPT, ist die lokale Speicherung der Chatverläufe im Browser der Nutzenden. Ihre Eingaben werden zwar von dem Large Language Model zur Beantwortung analysiert, die Daten werden allerdings nicht auf externen Servern gespeichert. Eine ausführliche Dokumentation zum Tool finden Sie [[https://docs.hpc.gwdg.de/services/chat-ai/index.html|hier]].
@@ Zeile 29: / Zeile 29: @@
 Hier können einige Voreinstellungen getroffen werden, welche die Arbeitsweise des Large Language Models beeinflussen. Wir haben diese Einstellungen bereits für den Seminarkontext angepasst. Sie erreichen die angepasste Chatumgebung unter folgendem Link: https://tinyurl.com/ChatAICriticalFriend
-  * __a. Wahl des Modells__: Sie haben bei Chat AI die Auswahl zwischen verschiedenen Large Language Models. Nähere Infos zu den verfügbaren Modellen finden Sie hier. Wählen Sie für Ihre Konversationen im Rahmen des Seminars das Modell „Llama 3.1 70B Instruct“.
+**Sollte bei Ihnen nach einer Prompt-Eingabe die Fehlermeldung "not found" angezeigt werden, versuchen Sie folgenden Link:** https://tinyurl.com/ChatAICriticalFriendv2
-  * __b. Einstellen der „Temperatur“__: Die Temperatur bestimmt den Charakter der Antworten: Bei einer niedrigen Temperatur generiert der Chatbot eher nüchterne Antworten, bei einer hohen Temperatur eher kreativere Antworten. Wählen Sie als Temperatur den Wert 0.7.
-  * c. __Einstellen des Top_P-Wertes__: Auch der Top_P-Wert wirkt sich auf die Kreativität der Antworten aus. Stellen Sie hier den Wert 0.8 ein.
+  * __a. Wahl des Modells__: Sie haben bei Chat AI die Auswahl zwischen verschiedenen Large Language Models. Nähere Infos zu den verfügbaren Modellen finden Sie [[https://docs.hpc.gwdg.de/services/chat-ai/models/index.html|hier]]. Im Kontext des Seminars nutzen wir das Modell „Llama 3.1 70B Instruct“.
+  * __b. Einstellen der „Temperatur“__: Die Temperatur bestimmt den Charakter der Antworten: Bei einer niedrigen Temperatur generiert der Chatbot eher nüchterne Antworten, bei einer hohen Temperatur eher kreativere Antworten. Im Kontext des Seminars nutzen wir als Temperatur den Wert 0.7.
+  * c. __Einstellen des Top_P-Wertes__: Auch der Top_P-Wert wirkt sich auf die Kreativität der Antworten aus. Im Kontext des Seminars nutzen wir den Wert 0.8.
   * d. __Der System Prompt__: Mithilfe eines Systemprompts können bereits gewisse Vorannahmen festgelegt werden, die dann nicht mehr in die individuelle Chatnachricht eingebracht werden müssen. Hier können wir hinterlegen, dass der Chatbot als Critical Friend agieren soll.