Mario Zechner Profile picture
Mar 27 16 tweets 4 min read Read on X
Video zur KärntenGPT Pressekonferenz.



Wir erfahren ein paar Dinge.

- Getestet wurden Mistral und Llama, welches Modell gewählt wurde, sagen sie nicht. Tippe auf Mistral, weil größeres Kontextfenster iirc.facebook.com/landkaernten/v…
3 Phasen, ersten 2 machen Sinn. Dritte Phase will Agents in Prozesse einziehen, die dann die 40% abgang an Personal kompensieren helfen soll.

Ja, eher nicht... Image
Auch angedacht: telefonische Beantwortung von oft gestellten Fragen. Sportlich, bei starkem Dialekt.

Haben bei NVIDIA tatsächlich ordentlich eingekauft. Leider nix über welche Hardware konkret. budgetmässig eher nicht A100/H100?
Demo bei Minute 19:30

Benutzeroberfläche über die freie Open-Source Software LibreChat implementiert. Wobei "implementiert" schon ein bissl weit gegriffen ist. Leicht adaptiert triffts eher. Image
Herr Inzko sagt, er verwendet ChatGPT mehr als Google und für Recherche.

Gut, das ist eher nicht vertrauensbildend, weil das ChatGPT nicht leisten kann, Stichwort Halluzinationen.

geht da schon eher, weil es Quellen ausspuckt. perplexity.ai
Image
Zweites Demo: PDF Zusammenfassung und Zusammenfassung auf Englisch übersetzen. Hinweis: alles lokal.

Ja, das ist net. Die Zusammenfassung großer Dokumente wird aber leider ziemlicher Müll sein. Spricht: Echtwelt-Betrieb wird schwierig. Image
Auf Basis des Demos haben sie LibreChat + LangChain/LlamaIndex zusammengeklatscht. Also quasi die Tutorials durchgespielt :D

Das ist schon OK. Der Echtweltkontakt wird jedenfalls spannend, sowohl Landesintern als auch ggü "Kundinnen".

Den Förderkatalog Use Case kriegen sie hin
Alles andere sind sehr lofty goals. We'll see.
Ah in der Q&A gibts zu Minute 25:00 mehr Info zu den Kosten. Die Hardware hat bis dato €50k gekostet. Da lag ich mit meiner Schätzung 30% für Software von €85k gar net so weit weg.

Herr Inzko argumentiert das wäre billiger als €60/Monat pro Mitarbeiter.
Strom und Maintenance der Hardware ist in Kärnten anscheinend gratis...

Weiter: sie werden mehrere thematische Chatbots bauen. Förderführer erste low-hanging fruit. Warum das bis Herbst dauert erschließt sich leider nicht.

Ja, das dablasen sie sicher, denk ich.
~25:00 Herr Inzko spricht davon, mit 2 Kärnter Unternehmen den Prototypen umgesetzt zu haben, aber dass sie intern die Expertise aufbauen wollen, das selbst fort zu führen um nicht in Abhängigkeit zu bleiben.

Liebe es. Sehr gute Idee. High Five für Herrn Inzko!
Man braucht dazu nämlich auch kein Team von 50 Leuten. Es wird gemunkelt, dass die Umsetzungsfirma genau aus 3 Leuten besteht, wovon nur einer die Umsetzung macht.

Es braucht wirklich nicht mehr. Ein FTE plus ein zweites Fallback FTE. That's it. Infra ist automatisierbar.
Minute 27:00 nich einmal zum Budget, €85k bisher. Wird bis 2027 noch eigenes Budget für KI geben, größter Teil für Personalaufbau.

Good!
Kaiser noch einmal zu den 40%: die werden demnächst aus dem Dienst ausscheiden.

Meint mit dem KI Projekt kann man deren Erfahrung im Haus erhalten.

Das wird jedenfalls eher nicht zutreffen. Was stimmt: die von ihnen erstellten Dokumente und Emails bleiben erhalten :)
Und aus.

Das war jetzt net deppat. Herr Inzko wird ws. intern a bissl unruhig gwesen sein, weil das Demo halt net wirklich gut demonstriert, was da alles an Infra im Hintergrund gebaut wurde.

Jedenfalls bis aufs trottelige Marketing kein voller Klogriff wie der AMS Bot.
@threadreaderapp unroll

• • •

Missing some Tweet in this thread? You can try to force a refresh
 

Keep Current with Mario Zechner

Mario Zechner Profile picture

Stay in touch and get notified when new unrolls are available from this author!

Read all threads

This Thread may be Removed Anytime!

PDF

Twitter may remove this content at anytime! Save it as PDF for later use!

Try unrolling a thread yourself!

how to unroll video
  1. Follow @ThreadReaderApp to mention us!

  2. From a Twitter thread mention us with a keyword "unroll"
@threadreaderapp unroll

Practice here first or read more on our help page!

More from @badlogicgames

Nov 19
Mittagspäuschen, schauen wir einmal ob wir schnell Themen finden, wo sich @volkspartei , @SPOE_at und @neos_eu schnell einig werden können.



Das scheint mir doch schnell umsetzbar zu sein, hm? wahlomat.mariozechner.at/regierung2024Image
OK, daran muss man wohl noch arbeiten. Vll. mag die ÖVP ja die Forderung von Transparenz bei NGOs auch auf die Verwaltung ausweiten. Image
Read 12 tweets
Nov 2
Die Frage der wir heute Nacht nachgingen:

Können wir statistisch herausfinden, ob Exxpress generative KI wie ChatGPT zum Schreiben von Artikeln verwendet?

Wie könnten wir das feststellen? Eine Annäherung :) 🧵 Image
Image
Image
Image
Dazu müssen wir uns zuerst die Texte der Artikel von Exxpress holen. Als Computerhawi und mit Hilfe von Leuten wie @bemayr ist das ziemlich einfach. Es sind ein bissl über 50.000 seit 2021.

Für jeden Artikel bekommen wir den Text, die Kategorie und ein Publikationsdatum.
Als nächstes berechnen wir sogenannte stilometrische Eigenschaften jedes Texts. Darunter versteht man Dinge wie durchschnittliche Wort oder Satzlänge, oder komplexeres wie "lexical diversity". Das ist die Zahl einzigartiger dividiert durch die Zahl aller Wörter im Text.
Read 21 tweets
May 31
Erklärbar Thread zum Thema "Wie gut können 'ChatGPT' und co. Antworten aus (eigenen) Dokumenten geben?"

Der Parade-Anwendungsfall für die Nützlichkeit von sog. Large Language Models (LLM), einer Art KI Modell.

Ist ja super, wenn die "KI" was für mich lesen kann, oder? Extrem 🧵
Konkreter Anlassfall: eine Studie einer Forschergruppe von Stanford:


Die haben untersucht, wie gut Software-Systeme auf Basis von LLMs zur juristischen Recherche funktionieren.

Das Abstrakt, also die Zusammenfassung, der Studie is a lot! dho.stanford.edu/wp-content/upl…
Image
Da sind einige Begriffe drinnen, die wir erst einmal behirnen müssen. Dazu müssen wir ein gemeinsames Verständnis haben, was LLMs sind und wie sie (sehr, sehr grob) funktionieren.

Was ist also ein LLM wie ChatGPT?
Read 102 tweets
Apr 30
Pünktlich zur Wahl in Vösendorf gibts einen Prüfbericht über die Gebarung der Gemeinde. 169 Seiten PDF.

Aus Spass in GPT reingeworfen. Hat die Analyse lustigerweise per Keyword Suche gemacht.


Image
Image
Image
Image
So wird das nix mit der KI-Revolution.

(Ja, das kann man besser machen, trotzdem)
Zumindest der Hinweis auf die Gutscheine ist ein guter.

Hat Koza da einen Anzengruber gerissen oder anders herum? Scheint eine beliebte ÖVP Methode zu sein. Image
Read 21 tweets
Apr 21
Ich find es sehr super, wie Herr Sator seinen Podcast aufgesetzt hat, speziell auch die Transparenz dazu.

Aber bitte, liebe Journalist:innen, verwendet ChatGPT (und nicht "Chat GPT") nicht zur Recherche.

Bitte, bitte, really (nein, auch nicht GPT 4, ja, Google auch crap).
Verwendet es bitte auch nicht, um euch wissenschaftliche Studien zusammenfassen zu lassen, oder nich schlimmer, Studien so miteinander zu vergleichen oder gar auf diesen Weg konkrete Zahlen zu extrahieren.

Just don't.
Gab dazu auch eine Folge. Mein BS dazu soll nicht auf Herrn Sator abfärben. Die Gastwahl war da wohl eher unglücklich.

Read 27 tweets
Apr 10
OK, schnelles Tutorial, wie man KI generierte Bilder erkennen kann (oft, nicht immer, speziell wenn sie nachbearbeitet sind).

Heute: FPÖ KI "Blue Harry" und die RFJ "Heimat Games" Kampagenen Poster.

Fangen wir mit den Hitler-Jugend-Cosplayern an.

🧵

Image
Image
Image
Erlaub ich mir zu sagen, weil es sind ja keine echten FPÖ Jugendliche. Soviele blonde Kinder auf einem Haufen gibts in Salzburg gar net.

Erster Hint: die Hauttexture schaut ein bissl seltsam aus. Auch ein wenig zu rein. Bei allen.

Noch keine smoking gun, aber smoke.

Image
Image
Image
Der "wie erkenne ich KI Bilder" Klassiker: die Finger sind anatomisch "kreativ". Gibt technische Gründe dafür warum das (noch immer) schwer ist für die KI Modelle. Ist aber wurscht für die Analyse.

- Finger zählen
- "Schmelzfinger" finden
- Physikalisch unmögliche Posen finden
Image
Image
Read 20 tweets

Did Thread Reader help you today?

Support us! We are indie developers!


This site is made by just two indie developers on a laptop doing marketing, support and development! Read more about the story.

Become a Premium Member ($3/month or $30/year) and get exclusive features!

Become Premium

Don't want to be a Premium member but still want to support us?

Make a small donation by buying us coffee ($5) or help with server cost ($10)

Donate via Paypal

Or Donate anonymously using crypto!

Ethereum

0xfe58350B80634f60Fa6Dc149a72b4DFbc17D341E copy

Bitcoin

3ATGMxNzCUFzxpMCHL5sWSt4DVtS8UqXpi copy

Thank you for your support!

Follow Us!

:(