|
Hürth (ots) - Viele Unternehmen setzen KI bereits täglich ein und wundern sich
über steigende Kosten. Doch ein neuer Trend zeigt: Oft ist nicht die KI selbst
zu teuer, sondern die Art, wie sie genutzt wird. Durch kürzere Prompts,
effizientere Anweisungen und optimierte Prozesse lassen sich die benötigten
Tokens drastisch reduzieren - bei gleicher oder sogar besserer Leistung.
Die meisten Firmen suchen nach besseren KI-Modellen; dabei liegt das größte
Einsparpotenzial oft in der Art, wie sie mit der KI kommunizieren. Hier erfahren
Sie, warum weniger Tokens oft zu besseren Ergebnissen führen und wie Unternehmen
ihre KI-Kosten ohne Leistungseinbußen deutlich senken können.
Token sind dabei die Digitalwährung der KI: Je nach Sprache entspricht ein Token
2 bis 5 Buchstaben als Silben. Dies rührt daher, dass die heutigen KI-Modelle im
Endeffekt nur das wahrscheinlichste nächste Wort komplettieren. So wie in
Fisch-er oder Fisch - je nach Kontext ist das Leerzeichen oder die Endung -er
wahrscheinlicher. Je weniger Token die Berechnung bzw. Antwort braucht, desto
günstiger.
Weniger Tokens beginnen mit mehr Kontext
Viele Unternehmen gehen davon aus, dass möglichst leistungsstarke KI-Modelle
automatisch die besten Ergebnisse liefern. In der Praxis ist jedoch häufig
entscheidend, wie präzise eine Anfrage formuliert wird.
Je besser ein Unternehmen den fachlichen Kontext beschreibt, desto weniger
Interpretationsarbeit muss das Modell leisten. Dazu gehören beispielsweise
Informationen darüber, dass es sich um ein Angebot handelt, welche Abkürzungen
ein Kunde verwendet und wie diese mit den unternehmensinternen Begriffen
zusammenhängen. Ist dieser Kontext bereits vorhanden, reichen oft kleinere und
günstigere Modelle aus.
Fehlt diese Grundlage, muss das Modell den Zusammenhang selbst herstellen.
Dadurch steigt nicht nur der Rechenaufwand, sondern auch das Risiko ungenauer
oder sogar fehlerhafter Antworten. Ein sauber formulierter System-Prompt
reduziert deshalb sowohl die Anzahl der benötigten Modellaufrufe als auch die
Gefahr sogenannter Halluzinationen.
Komplexe Aufgaben in kleine Schritte zerlegen
Ein weiterer Hebel zur Kostenoptimierung besteht darin, große Aufgaben in
mehrere kleine Verarbeitungsschritte aufzuteilen.
Soll beispielsweise in einer Handwerkersoftware automatisch eine Rechnung
erstellt werden, ist es wirtschaftlicher, zunächst die Arbeitszeiten je
Mitarbeiter abzurufen, anschließend die verwendeten Materialien zu ermitteln und
erst danach beide Informationen zusammenzuführen. Im Vergleich zu einem
einzelnen, umfangreichen Prompt benötigt dieses Vorgehen weniger Kontext und
erlaubt den Einsatz kleinerer Modelle.
Dadurch sinkt nicht nur der Tokenverbrauch, sondern häufig auch die
Bearbeitungszeit. Gleichzeitig bleibt die Qualität der Ergebnisse erhalten.
Das passende Modell statt des leistungsstärksten Modells
Nicht jede Aufgabe erfordert das aktuell leistungsfähigste KI-Modell. Für viele
Standardprozesse, etwa das Auslesen einer Lieferantenrechnung oder das
Extrahieren strukturierter Informationen, genügen Modelle der vorherigen
Generation.
Ein Beispiel sind die Gemini-Flash-Modelle von Google. Sie verursachen teilweise
nur einen Bruchteil der Kosten aktueller Pro-Modelle und liefern für klar
definierte Aufgaben dennoch zuverlässige Ergebnisse.
Zusätzliche Qualitätsgewinne lassen sich durch sogenannte Reflection-Muster
erzielen. Das Modell wird dabei angewiesen, seine Antwort zunächst zu entwerfen,
sie anschließend selbst zu prüfen und erst die überarbeitete Fassung auszugeben.
Praxiserfahrungen zeigen, dass dadurch auch günstigere Modelle eine mit deutlich
leistungsfähigeren Varianten vergleichbare Antwortqualität erreichen können, bei
erheblich geringeren Kosten.
Spezialisierte KI-Skills reduzieren unnötige Modellaufrufe
Ebenso wichtig ist die Einbindung vorhandener Datenquellen. Statt einer KI
sämtliche Informationen selbst suchen zu lassen, können Unternehmen
spezialisierte KI-Skills einsetzen.
Ein "Skill" kombiniert dabei einen System-Prompt mit einer oder mehreren
Datenquellen und beschreibt exakt, wie beispielsweise ein Unternehmens-Wiki,
eine Branchensoftware oder eine Buchhaltungslösung angesprochen werden soll. Je
genauer dieser Ablauf definiert ist, desto weniger zusätzliche Rückfragen und
Modellaufrufe sind erforderlich.
Insbesondere mittelständische Unternehmen profitieren davon, wenn ihre KI direkt
mit bestehenden Fachanwendungen kommuniziert. Dadurch werden Antworten schneller
erzeugt und gleichzeitig die laufenden Tokenkosten reduziert.
KI nur dort einsetzen, wo sie wirklich benötigt wird
Nicht jeder Prozess erfordert künstliche Intelligenz. Viele wiederkehrende
Abläufe lassen sich deutlich günstiger über klassische Prozessautomatisierung
abbilden.
Plattformen wie Make.com ermöglichen beispielsweise, Zeiterfassungsdaten
automatisch in eine Excel-Datei oder in eine Abrechnungssoftware zu übertragen.
Hinter http://make.com steht die Münchener Firma Celonis. Es gibt aber ca. ein
Dutzend solcher Plattformen. Die Idee: Solche standardisierten Prozesse folgen
immer demselben Muster und benötigen daher keine KI.
Erst wenn Entscheidungen getroffen oder unstrukturierte, wechselnde
Informationen verarbeitet werden müssen, lohnt sich die Einbindung eines
KI-Modells. Moderne Automatisierungsplattformen erlauben es, klassische
Workflows und KI flexibel miteinander zu kombinieren. Unternehmen können dadurch
genau an den Stellen Intelligenz ergänzen, an denen sie tatsächlich einen
Mehrwert schafft.
Lokale KI schafft zusätzliche Einsparpotenziale
Neben der Optimierung von Prompts und Prozessen gewinnt auch der lokale Betrieb
von KI-Modellen an Bedeutung. Neue KI-PCs und spezialisierte Server ermöglichen
es zunehmend, Open-Source-Modelle direkt im eigenen Unternehmen einzusetzen.
Hersteller wie Mistral.ai, Apple oder Nvidia treiben diese Entwicklung bereits
voran. Vor allem Standardaufgaben können dadurch lokal verarbeitet werden, ohne
dass für jede Anfrage externe KI-Dienste genutzt werden müssen. Gleichzeitig
behalten Unternehmen die Kontrolle über ihre Daten und schaffen eine weitere
Möglichkeit, laufende Nutzungskosten langfristig zu reduzieren.
Letztlich zeigt sich: Die größten Einsparpotenziale liegen selten im Wechsel des
KI-Anbieters. Entscheidend ist vielmehr, wie effizient Unternehmen ihre KI
einsetzen. Wer Prozesse sinnvoll strukturiert, das passende Modell auswählt und
KI gezielt mit klassischer Automatisierung kombiniert, reduziert den
Tokenverbrauch erheblich und erzielt dennoch eine gleichbleibend hohe Qualität
der Ergebnisse.
Über Dr. Alexander Nichau:
Dr. Alexander Nichau ist Geschäftsführer der niologic GmbH und Experte für
Künstliche Intelligenz, Machine Learning und datengetriebene
Prozessautomatisierung im Mittelstand. Seit 2015 unterstützt er Unternehmen bei
der Integration von KI in bestehende Systemlandschaften. Als Google-AI-Partner
zählt niologic zu den wenigen spezialisierten KI-Beratungen im deutschen
Mittelstand. Weitere Informationen unter: http://www.niologic.de .
Pressekontakt:
niologic GmbH
Vertreten durch: Dr. Alexander Nichau
E-Mail: mailto:info@niologic.de
Website: https://niologic.de/mission.html
Ruben Schäfer
E-Mail: mailto:redaktion@dcfverlag.de
Weiteres Material: http://presseportal.de/pm/182383/6312973
OTS: niologic GmbH
|
