OpenSource KI-Chatbot HuggingChat

HuggingChat
Q: https://huggingface.co/chat/

Gestern las ich bei Heise (Link) einen Artikel über den neuen OpenSource-Chatbot namens „HuggingChat“. Das klang spannend und musste bald ausprobiert werden. Die Chatbots sind schnell und so konnte ich heute früh, während ich in der Telefon-Warteschleife beim VRN hing, um nach dem Stand meines „Deutschlandlandtickets Job“ nachzufragen, am PC bei HuggingChat meine Fragen platzieren, die ich im Dezember 20222 schon ChatGPT gestellt hatte. Das manuelle Verfassen des folgenden Blogartikels dauerte dann natürlich deutlich länger.

Zugang: https://huggingface.co/chat/ ohne Registrierung
Hinweis: „This application is for demonstration purposes only“, Version „v0“ April 2023
Current Model: „For now, it’s running OpenAssistant’s latest LLaMA based model“: OpenAssistant/oasst-sft-6-llama-30b

 

Bsp. 1 Why should I go to a lecture at a university if I am a student? (Link zum Screenshot)

Bsp. 2 What is your recommendation for an interactive live seminar with some students at university and some students at home? (Link zum Screenshot)

Bsp. 3 How should a learning management course look like in order to be motivating for students? (Link zum Screenshot)

Bsp. 4 Generate an easy multiple choice question relating to the topic sports and AI with 4 wrong answers and 1 correct answer. (Link zum Screenshot)

Bsp. 5 Which 5 aspects do I need to know about RPTU? (Link zum Screenshot 1 / Link zum Screenshot 2)

Bsp. 6 Write a poem about a racoon who wants to move to Heidelberg, but doesn’t find an appartment. (Link zum Screenshot)

Mein kurzes Fazit:

  • „HuggingChat“ ist schon ziemlich gut, wenngleich ChatGPT „besser“ war. Wie auch bei ChatGPT sind die gegebenen Antworten nicht immer inhaltlich korrekt.
  • Mit „HuggingChat“ hatte ich deutlich mehr Missverständnisse bzgl. meiner Prompt-Formulierungen, die ich im Dezember 2022 allerdings auch nicht unbedingt perfekt überlegt hatte. (Bsp. 4 und 5)
    Vom Hinweis auf „refrain from asking me sensitive personal information“ bis hin zu inhaltlich komplett an der Sache vorbei.
  • Interessant ist auch die Art der Rückfragen und wann sie vom Chatbot gestellt wurden und wann nicht. Bei Fragen mit einer Abkürzung wie im Bsp. 5 fände ich eine Rückfrage elementar, da es eigentlich immer mehrere Möglichkeiten gibt, was gemeint ist.
    RPTU ohne Rückfrage als „reptile parenting techniques unleashed“-Website zu interpretieren, ist schon sehr schräg, zumal es so ein Portal wohl gar nicht gibt 😉
  • Bei HuggingChat scheint es eine Maximallänge der Antworten zu geben, bei der Chatbot-Antworten einfach mitten im Wort abbrechen, was sehr irritierend ist. (Bsp. 1, 3, 5)

Ganz klar im Vorteil ist, wer seine Prompts gut formuliert, auch aufgrund Hintergrundwissens über die zugrunde liegenden Modelle. Diese Erfahrung habe ich auch vor allem bei KI-Bildgeneratoren gemacht. Ob „Prompt Engineer“ ein neues gut bezahltes Berufsfeld wird oder nicht, wird sich zeigen. Die Suche und Bewertung von Informationen ist ja eine Kernaufgabe von Bibliothekaren – ich erinnere mich noch an mein Studium in Hamburg, wo wir Mitte der 80er die Formulierung von GRIPS/DIRS-Anfragen in kostenpflichtigen Datenbanken gelernt haben… (= General Relation based Information Processing System/DIMDI’S Information Retrieval System)

ChatGPT News und ChatGPT Teach-Out

OpenAI’s ChatGPT – Selten war ein Thema so präsent in Medien, Hochschulen und bei den üblichen Akteuren im Bereich des Lernens. Fast täglich gibt es Berichte über neue Entwicklungen bzgl. ChatGPT und Konkurrenz-Systemen – es wird unübersichtlich, was man selbst derzeit in Deutschland (kostenlos) ausprobieren kann, z. B.

    • ChatGPT4 (s.a. https://www.youtube.com/watch?v=oc6RV5c1yd0) steht als „ChatGPT Plus“ eigentlich nur zahlenden Kunden zur Verfügung – Das „gewohnte“ chat.openai.com basiert derzeit auf ChatGPT3.5 und ist sehr oft überlastet.
    • Microsoft (als einer der OpenAI-Investoren) bietet über persönliches Microsoft-Login und Warteliste mit „Bing Chat“ in seinem Edge-Browser eine Verbindung von Suchmaschine und AI an. In Edge kann dann auch ein „Bing Sidebar“ zum Erstellen von Text mit Auswahl bzgl. Stil, Format und Länge genutzt werden. (s.a. https://www.youtube.com/watch?v=bsFXgfbj8Bc)
    • Der Zugang zu Googles Konkurrenzprodukt „Google Bard“, über Google-Login und Warteliste, ist derzeit noch nicht in Deutschland möglich. (s.a. https://blog.google/technology/ai/try-bard/)

Aufgrund der rasanten Geschwindigkeit der AI-Entwicklungen vielleicht auch gerade der Versuch zu bremsen / zu regulieren, so z. B.

***

University of Michigan: ChatGPT Teach-Out
via Coursera
https://www.coursera.org/learn/chatgpt-teach-out
Spannend finde ich immer den internationalen Blick, daher an diesem Wochenende ein Besuch des Coursera-MOOCs „ChatGPT Teach-Out“. Gerade bei einem derartigen Thema ist inhaltliche Aktualität essentiell, was Aufwand für die Ersteller/Betreuung eines MOOCs bedeutet – vielleicht auch daher an vielen Stellen nach meinem ersten Eindruck in diesem MOOC der Hinweis „Text generated with the support of ChatGPT.“
Der MOOC bietet in vielen sehr kurzen Videos einen guten Überblick zum Thema ChatGPT. Dabei wird auch auf das so wichtige „Prompt engineering“ eingegangen sowie auf die ganze Bandbreite juristischer Aspekte, ethischer Aspekte und Auswirkungen auf Education, Wirtschaft und Gesellschaft.

***

Einige persönliche Notizen aus dem MOOC

  • „GPT-4 takes what you prompt it with and just runs with it“ … „From one perspective, it’s a tool, a thing you can use to get useful tasks done in language (…) From another perspective, it’s a system that can make dreams, thoughts, ideas, flourish in text in front of you.“
  • „Writing good search prompts or search queries is a skill and it’s very, very related to your writing or communication ability.“
  • „People are experimenting like crazy.“
  • Jobs will be redefined – makes jobs more interesting and more productive.
  • „First time white-collar workers will begin to fear machines as competitors for their jobs.“
  • How do we train knowledge workers to work in tandem with AI technologies in creative processes?
  • Conversational personal digital assistant, augment own human capital.
  • „It’s rapidly moving. We wouldn’t want to necessarily just teach how to interface with exactly the current version of ChatGPT.“
  • ChatGPT/AI as a teammate and as a tool.
  • „Help us draft any kind of text.“
  • Useful: output as tables or slides.
  • Create learning material adjusted to the level of each student.
  • „Middle of the road effect, really good at giving basic advice – think of it just as an aggregate of what people have thought.“
  • „Is in the hand of a private company – what questions get answered and what don’t.“