{"id":2324,"date":"2023-04-28T09:50:16","date_gmt":"2023-04-28T08:50:16","guid":{"rendered":"https:\/\/blog.idethloff.de\/wordpress\/?p=2324"},"modified":"2023-07-07T17:44:41","modified_gmt":"2023-07-07T16:44:41","slug":"opensource-ki-chatbot-huggingchat","status":"publish","type":"post","link":"https:\/\/blog.idethloff.de\/wordpress\/?p=2324","title":{"rendered":"OpenSource KI-Chatbot HuggingChat"},"content":{"rendered":"<figure style=\"width: 200px\" class=\"wp-caption alignright\"><img loading=\"lazy\" decoding=\"async\" style=\"float: right; margin-left: 20px;\" title=\"HuggingChat\" src=\"https:\/\/www.idethloff.de\/images\/huggingchat-200.png\" alt=\"HuggingChat\" width=\"200\" height=\"194\" \/><figcaption class=\"wp-caption-text\">Q: https:\/\/huggingface.co\/chat\/<\/figcaption><\/figure>\n<p>Gestern las ich bei Heise (<a href=\"https:\/\/www.heise.de\/news\/HuggingChat-Hugging-Face-stellt-Open-Source-KI-Chatbot-bereit-8980641.html\" target=\"_blank\" rel=\"noopener\">Link<\/a>) einen Artikel \u00fcber den neuen OpenSource-Chatbot namens &#8222;HuggingChat&#8220;. Das klang spannend und musste bald ausprobiert werden. Die Chatbots sind schnell und so konnte ich heute fr\u00fch, w\u00e4hrend ich in der Telefon-Warteschleife beim VRN hing, um nach dem Stand meines &#8222;Deutschlandlandtickets Job&#8220; nachzufragen, am PC bei HuggingChat meine Fragen platzieren, die ich im Dezember 20222 schon ChatGPT gestellt hatte. Das manuelle Verfassen des folgenden Blogartikels dauerte dann nat\u00fcrlich deutlich l\u00e4nger.<\/p>\n<p><strong>Zugang<\/strong>: <a href=\"https:\/\/huggingface.co\/chat\/\" target=\"_blank\" rel=\"noopener\">https:\/\/huggingface.co\/chat\/<\/a> ohne Registrierung<br \/>\n<strong>Hinweis<\/strong>: &#8222;This application is for demonstration purposes only&#8220;, Version &#8222;v0&#8220; April 2023<br \/>\n<strong>Current Model:<\/strong> &#8222;For now, it&#8217;s running OpenAssistant&#8217;s latest LLaMA based model&#8220;: OpenAssistant\/oasst-sft-6-llama-30b<\/p>\n<p>&nbsp;<\/p>\n<p>Bsp. 1 Why should I go to a lecture at a university if I am a student? (<a href=\"https:\/\/www.idethloff.de\/images\/bsp1-hugg-university.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot<\/a>)<\/p>\n<p>Bsp. 2 What is your recommendation for an interactive live seminar with some students at university and some students at home? (<a href=\"https:\/\/www.idethloff.de\/images\/bsp2-hugg-interactive.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot<\/a>)<\/p>\n<p>Bsp. 3 How should a learning management course look like in order to be motivating for students? (<a href=\"https:\/\/www.idethloff.de\/images\/bsp3-hugg-lms.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot<\/a>)<\/p>\n<p>Bsp. 4 Generate an easy multiple choice question relating to the topic sports and AI with 4 wrong answers and 1 correct answer. (<a href=\"https:\/\/www.idethloff.de\/images\/bsp4-hugg-sports.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot<\/a>)<\/p>\n<p>Bsp. 5 Which 5 aspects do I need to know about RPTU? (<a href=\"https:\/\/www.idethloff.de\/images\/bsp5a-hugg-rptu.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot 1<\/a> \/ <a href=\"https:\/\/www.idethloff.de\/images\/bsp5b-hugg-rptu.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot 2<\/a>)<\/p>\n<p>Bsp. 6 Write a poem about a racoon who wants to move to Heidelberg, but doesn\u2019t find an appartment. (<a href=\"https:\/\/www.idethloff.de\/images\/bsp6-hugg-racoon.jpg\" target=\"_blank\" rel=\"noopener\">Link zum Screenshot<\/a>)<\/p>\n<p><strong>Mein kurzes Fazit:<\/strong><\/p>\n<ul>\n<li>&#8222;HuggingChat&#8220; ist schon ziemlich gut, wenngleich ChatGPT &#8222;besser&#8220; war. Wie auch bei ChatGPT sind die gegebenen Antworten nicht immer inhaltlich korrekt.<\/li>\n<li>Mit &#8222;HuggingChat&#8220; hatte ich deutlich mehr Missverst\u00e4ndnisse bzgl. meiner Prompt-Formulierungen, die ich im Dezember 2022 allerdings auch nicht unbedingt perfekt \u00fcberlegt hatte. (Bsp. 4 und 5)<br \/>\nVom Hinweis auf &#8222;refrain from asking me sensitive personal information&#8220; bis hin zu inhaltlich komplett an der Sache vorbei.<\/li>\n<li>Interessant ist auch die Art der R\u00fcckfragen und wann sie vom Chatbot gestellt wurden und wann nicht. Bei Fragen mit einer Abk\u00fcrzung wie im Bsp. 5 f\u00e4nde ich eine R\u00fcckfrage elementar, da es eigentlich immer mehrere M\u00f6glichkeiten gibt, was gemeint ist.<br \/>\nRPTU ohne R\u00fcckfrage als &#8222;reptile parenting techniques unleashed&#8220;-Website zu interpretieren, ist schon sehr schr\u00e4g, zumal es so ein Portal wohl gar nicht gibt \ud83d\ude09<\/li>\n<li>Bei HuggingChat scheint es eine Maximall\u00e4nge der Antworten zu geben, bei der Chatbot-Antworten einfach mitten im Wort abbrechen, was sehr irritierend ist. (Bsp. 1, 3, 5)<\/li>\n<\/ul>\n<p>Ganz klar im Vorteil ist, wer seine Prompts gut formuliert, auch aufgrund Hintergrundwissens \u00fcber die zugrunde liegenden Modelle. Diese Erfahrung habe ich auch vor allem bei KI-Bildgeneratoren gemacht. Ob &#8222;Prompt Engineer&#8220; ein neues gut bezahltes Berufsfeld wird oder nicht, wird sich zeigen. Die Suche und Bewertung von Informationen ist ja eine Kernaufgabe von Bibliothekaren &#8211; ich erinnere mich noch an mein Studium in Hamburg, wo wir Mitte der 80er die Formulierung von GRIPS\/DIRS-Anfragen in kostenpflichtigen Datenbanken gelernt haben&#8230; (= General Relation based Information Processing System\/DIMDI&#8217;S Information Retrieval System)<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Gestern las ich bei Heise (Link) einen Artikel \u00fcber den neuen OpenSource-Chatbot namens &#8222;HuggingChat&#8220;. Das klang spannend und musste bald ausprobiert werden. Die Chatbots sind schnell und so konnte ich heute fr\u00fch, w\u00e4hrend ich in der Telefon-Warteschleife beim VRN hing, um nach dem Stand meines &#8222;Deutschlandlandtickets Job&#8220; nachzufragen, am PC bei HuggingChat meine Fragen platzieren, &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/blog.idethloff.de\/wordpress\/?p=2324\" class=\"more-link\"><span class=\"screen-reader-text\">\u201eOpenSource KI-Chatbot HuggingChat\u201c <\/span>weiterlesen<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2,22,4],"tags":[],"class_list":["post-2324","post","type-post","status-publish","format-standard","hentry","category-e-learning","category-ki","category-software"],"_links":{"self":[{"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/2324","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2324"}],"version-history":[{"count":15,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/2324\/revisions"}],"predecessor-version":[{"id":2339,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=\/wp\/v2\/posts\/2324\/revisions\/2339"}],"wp:attachment":[{"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2324"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2324"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.idethloff.de\/wordpress\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2324"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}