Jev – die KI, die kein Schwätzer ist
Warum eine kleine, schnelle KI für Entscheidungen manchmal sinnvoller ist als ein großes Sprachmodell
23.09.2026 6 min
Zusammenfassung & Show Notes
Große Sprachmodelle sind darauf trainiert, möglichst gut mit Menschen zu kommunizieren. Jev geht einen anderen Weg: Die KI soll keine langen Texte produzieren, sondern Entscheidungen in einer klar strukturierten Form treffen. Als Ausgabe liefert sie beispielsweise eine Klassifizierung, einen Score oder eine einfache Ja-/Nein-Entscheidung.
Der Vorteil liegt vor allem in Geschwindigkeit und Kosten. Jev soll laut den im Podcast besprochenen Angaben deutlich schneller und günstiger als große High-End-Modelle sein und eignet sich damit beispielsweise für Model-Routing, die Kategorisierung und Priorisierung von E-Mails oder Entscheidungen in Echtzeit. Auch autonomes Fahren und Echtzeit-Aktienhandel werden als mögliche Einsatzgebiete genannt.
Dabei ist Jev nicht immer richtig, liefert aber zu jeder Entscheidung ein Confidence-Level. Gleichzeitig bleibt offen, wie die Technologie intern genau funktioniert – denn die Entwickler behandeln die konkrete Umsetzung als Betriebsgeheimnis.
Die KI-Kantine ist ein Projekt von Michael Busch – Entwickler, Unternehmer und neugieriger Kantinenphilosoph.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
Hier geht’s regelmäßig zur Mittagspause um Künstliche Intelligenz im echten Entwickleralltag – verständlich, praxisnah und mit einer Prise Skepsis.
Neue Folgen erscheinen regelmäßig – meistens genau dann, wenn du dir eh gerade ein Tablett schnappst.
📬 Fragen, Feedback oder eigene KI-Erlebnisse? Schreib mir an podcast@ki-kantine.de
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Alle Folgen & mehr: https://ki-kantine.letscast.fm/
Transkript
(Transkribiert von TurboScribe. Upgrade auf Unbegrenzt, um diese Nachricht zu entfernen.) Diese Podcast-Folge über KI nutzt zusätzliche KI
-generierte Stimmen.
Ja, Mahlzeit.
Mahlzeit.
Sag mal, ihr habt doch bei euch sicher
auch so einen, der immer nur sagt, das
haben wir schon immer so gemacht und deshalb
ändern wir nichts, oder?
Was heißt denn hier nur ein?
Ich habe das Gefühl, die halbe Abteilung ist
so.
Ich habe ja auch das letzte Mal gesagt,
dass wenn die KI sich selbst verbessern soll,
es auch kaum zu einem großen Paradigmenwechsel kommt,
sondern dass die eigentlich auch an die Sache
herangeht, das haben wir schon immer so gemacht,
das machen wir jetzt auch weiterhin so.
Zumindest was die großen Themen betrifft.
Und deswegen hat es doch wieder einen Menschen
gebraucht.
Dio Almeda.
Das ist ein Miterfinder und Mitentwickler von Cecibiti.
Den hat es gebraucht, mal eine andere Herangehensweise
zu wählen.
Der hat nämlich Jeff entwickelt.
Und Jeff ist halt mal kein Chatbot.
Und Jeff hat auch eine ganz andere Entwicklungsgeschichte.
Da haben wir schon oft drüber geredet, dass
so eine KI oder ein Large Language Model
durch Reinforcement Learning verbessert.
Dabei erfolgt das auf dem Belohnungsprinzip.
Also so wie in der Hundeschule, wenn es
der Welpe gut gemacht hat, hieß hier hast
du ein Leckerli.
So ist es auch bei dem Reinforcement Learning.
Und dieses Leckerli gibt es vom Menschen.
Das heißt, die KI lernt, sich mit dem
Menschen so gut wie möglich zu unterhalten, um
möglichst viele Leckerlis zu bekommen.
Das will man aber bei Jeff gar nicht.
Und man hat den auch nicht so trainiert.
Denn Jeff soll nur Entscheidungen treffen, Antworten geben,
in einer ganz klaren, strukturierten Art und Weise.
Jeff liest schon Sprache, aber er hat nur
drei Möglichkeiten zu antworten.
Entweder über eine Klassifizierung oder einen Score, also
zu bewerten auf einer Skala, zum Beispiel Dringlichkeit
oder sowas.
Oder noch einfacher, Ja oder Nein Antworten zu
geben.
Interessant.
Und damit kannst du diesen Output wunderbar direkt
von Software verarbeiten lassen.
Überleg mal, sonst, wenn du sagst, gib mir
doch mal eine Beurteilung da und da ab,
kriegst du halt so einen Labertext.
Selbst wenn du sagst, antworte nur mit True
oder False, wird das auch nicht funktionieren.
Zumindest nicht jedes Mal.
Das LLM wird halt dann doch noch mal
ein bisschen rumlabern oder ein bisschen mehr erklären.
Und das gibt es hier nicht.
Und durch diese Vereinfachung gibt es verglichen mit
den High-End-Modellen eine Ersparnis von 400
Mal günstiger und auch 200 Mal schneller als
bei den dicken Geräten.
Aha.
Natürlich ist auch Jeff nicht bei allem immer
richtig bei seinen Entscheidungen.
Aber er gibt für jede Antwort ein Confidence
-Level zurück.
Also ich bin 90% sicher, dass meine
Antwort richtig ist.
Und mit sowas kannst du wirklich arbeiten.
Ich habe mir auch erst gedacht, naja, aber
was ist da jetzt so besonders dran?
Dann habe ich mir ein paar Anwendungsfälle mal
angeschaut.
Also reale Anwendungsfälle.
Und dann stellst du fest, verdammt, das ist
wirklich was echt Wichtiges.
Immer unter dem Gesichtspunkt, es ist wahnsinnig schnell
und wahnsinnig billig.
Das heißt, du kannst es auch in Übermaß
benutzen, ohne in die Kostenphase zu treten.
Zum Beispiel ist es eine perfekte Herangehensweise für
so ein Model-Router.
Also ein Model-Router entscheidet ja auf Basis
des Inputs, was ist denn hier ein gescheites
LLM-Modell, das ich nutzen kann.
Weil ich muss ja nicht immer den teuersten
und größten Roboter nehmen, sondern ich kann ja
auch mal ganz triviale, kleine LLMs benutzen für
meine Problemchen.
Und was Jeff auch super kann, ist die
E-Mails richtig zu kategorisieren.
Stell dir vor, du kriegst ganz viele E
-Mails.
So ein Unternehmen im Support kriegt ganz viele
E-Mails.
Und dort gibt es auch so Entscheidungsmuster, wo
ein Jeff das beurteilen kann, ist der Kunde
böse, schlecht gelaunt, zufrieden, unzufrieden?
Diese Kategorisierung der Mails kann der vornehmen.
Und dann kann er auch noch entscheiden, wie
priorisiere ich das?
Muss der jetzt sofort bedient werden?
Oder ob es irgendwelche Spam ist, den du
da bekommen hast.
Interessant.
Beim autonomen Fahren gibt es Entscheidungsbäume, die genau
von dieser Herangehensweise profitieren können.
Weil Jeff halt in quasi Echtzeit entscheiden kann,
ob er jetzt Stopp machen soll, links abbiegen
oder geradeaus fahren soll.
Oder im Aktienhandel, also im Echtzeitaktienhandel.
Der kann ja blitzschnell entscheiden, ist das kaufenswert,
verkaufenswert oder macht man erst mal gar nichts?
Und er kann halt mit den Live-Datenströmen
sehr, sehr schnell interagieren.
Ich meine, wir verstehen ja alle nicht so
ganz, wie so ein LLM überhaupt funktioniert.
Und die Wissenschaftler und Forscher wissen selber nicht
so 100%.
Ich habe das Gefühl, hier wissen sie auch
noch nicht so ganz genau, warum es klappt.
Denn die Firma erzählt gar nicht, wie das
bei denen intern gemacht wird.
Es wird also als Betriebsgeheimnis dargestellt.
Weißt du, wo auch niemand weiß, was drin
ist?
In meinem Leberkäse.
Können wir jetzt in Limo essen?
Die KI-Kantine ist ein Projekt von Michael
Busch, der auch beim nächsten Mal wieder ein
frisches KI-Gericht auftischt mit einer Prise Ponz
und einer Beilage Skepsis.