Tausend Tische tief
12 Minuten gelesen
David Zuccolotto0

Tausend Tische tief

Wo KI in Unternehmen stillschweigend aufgibt und was sie schließlich zum Erfolg führt

Es gibt einen Moment in fast jedem KI-Programm für Unternehmen, den niemand auf einer Präsentationsfolie festhält.

Die Demo funktioniert. Jemand stellt eine Frage in einfachem Englisch, die KI generiert eine fehlerfreie Anfrage, liefert das richtige Ergebnis, und alle sind einverstanden. Das Budget wird genehmigt. Doch dann wird dasselbe System auf die reale Produktionsumgebung mit ihren Tausenden von Tabellen und jahrzehntelang angesammelter Geschäftslogik angewendet – und es versagt still und leise. Nicht mit einem Fehler. Sondern mit selbstbewussten, korrekt formatierten, aber falschen Antworten und einer stetig wachsenden Liste von Fragen, die es einfach nicht beantworten kann.

Das Muster ist mittlerweile so gut dokumentiert, dass es klar erkennbar ist. KI, die mit öffentlichen Daten trainiert und getestet wurde, skaliert hervorragend. KI, die auf reale Unternehmensdaten angewendet wird, scheitert hingegen oft. Wie ein Experte nach den diesjährigen Datenkonferenzen treffend formulierte: Die Diskrepanz liegt nicht in der Qualität der Modelle, sondern in den Daten selbst. Öffentliche Daten sind organisiert, beschriftet und leicht verständlich. Unternehmensdaten hingegen sind über verschiedene Systeme verteilt, werden von jedem Team anders definiert und es fehlt ihnen der Kontext, der ihre Bedeutung erklärt.

Ich habe fast dreißig Jahre lang im Bereich Enterprise-IT verkauft und möchte Ihnen erklären, warum das immer wieder passiert, warum es sich eher verschlimmert als verbessert und was schließlich den Ausschlag gibt.

Die Wand besteht aus Ihren eigenen Daten.

Wird ein Modell anhand eines sauberen akademischen Benchmarks evaluiert, schneidet es hervorragend ab. Nach dem etablierten Industriestandard erreichen die besten Systeme eine Genauigkeit von etwa 85 bis 86 Prozent. Dann erstellten Forscher den Benchmark anhand realer Unternehmensdatenbanken neu – Datenbanken mit Hunderten von Spalten, komplexen Joins und undokumentierten Legacy-Tabellen – und die Genauigkeit der gleichen Spitzenmodelle sank auf etwa 17 bis 21 Prozent. Dieselben Modelle. Ein Einbruch von 91 Prozent auf knapp über 15 Prozent, sobald die Daten einem realen Unternehmen ähnelten.

Das ist kein Rundungsfehler. Das ist ein eklatanter Unterschied. Und er hängt fast ausschließlich von Ausmaß und Komplexität ab.

Warum passiert das? Drei Gründe, die jeder Verantwortliche für Unternehmensdaten sofort erkennen wird:

  • Die Schemata sind enorm. Benchmark-Datenbanken umfassen drei bis zehn Tabellen. Produktionsumgebungen hingegen Tausende. Ein viel zitierter Unternehmenstest lief mit 1,251 Tabellen und über 750 Spalten – ein Umfang, der selbst die größten Kontextfenster auf dem Markt überfordert. Man kann nicht einfach das gesamte Schema in eine Eingabeaufforderung einfügen und hoffen, dass es funktioniert. Es passt nicht, und sobald man es kürzt, um es passend zu machen, geht der Kontext verloren, den die KI benötigt.
  • Die Namensgebung ist feindselig. Die eigentlichen Spalten sind nicht mit „customer_name“ beschriftet. Sie heißen beispielsweise „consumer_1“ und „consumer_2“, wobei die tatsächlichen Werte im JSON-Code verborgen sind. Neben einer Spalte namens „acctScope“ befindet sich eine Spalte namens „MARG_FORM“. Die relevante Tabelle ist fast nie die offensichtliche. Sie zu finden, ist ein Suchproblem, das das Modell allein anhand der Frage nicht lösen kann.
  • Die Bedeutung existiert außerhalb der Datenbank. Aktive Benutzer schließen Mitarbeiter aus. Rückerstattungen werden auf eine bestimmte Weise behandelt. Diese Regeln finden sich in Produktdokumentationen, Betriebshandbüchern und zehn Jahre alten Threads, niemals im Schema selbst. Ohne sie ist die Abfrage zwar syntaktisch korrekt, aber semantisch falsch.

Diese drei Faktoren zusammen ergeben den gefährlichsten Fehlerfall in der KI-Unternehmensarchitektur: eine Antwort, die korrekt erscheint, sich gut liest und in Wirklichkeit falsch ist. Keine Fehlermeldung. Kein Warnsignal. Nur eine Zahl, die sich in die falsche Richtung bewegt, und eine Führungskraft, die sie absegnet.

Deshalb halten die Piloten die Flüge inne.

Das ist keine Randerscheinung. Es ist das, was den gesamten Markt gleichzeitig betrifft.

IBM beschrieb das Muster im Frühjahr deutlich: Eine globale Bank entwickelt einen KI-Agenten, der isoliert betrachtet hervorragend funktioniert, muss dann aber mitansehen, wie er bei der Skalierung scheitert, weil er weiterhin von einem kleinen Team abhängig ist, das Daten aufbereitet und jede Ausgabe manuell validiert. Das Modell selbst funktioniert gut. Das System hingegen nicht. Laut IBMs Analyse der Daten von Experten wird mindestens die Hälfte aller generativen KI-Projekte nach dem Machbarkeitsnachweis abgebrochen, was häufig auf unzureichend aufbereitete Daten zurückzuführen ist.

Die Makrozahlen zeichnen aus jeder Perspektive ein einheitliches Bild. BCG fand heraus, dass 60 Prozent der Unternehmen keinen wesentlichen Mehrwert aus KI generieren, während nur 5 Prozent einen signifikanten Mehrwert in großem Umfang erzielen. McKinsey ermittelte, dass 88 Prozent der Organisationen KI in mindestens einem Bereich einsetzen, aber nur 39 Prozent davon überhaupt Auswirkungen auf den Gewinn verzeichnen. Die vielzitierte Studie des MIT kam zu dem Ergebnis, dass etwa 5 Prozent der Pilotprojekte eine tatsächliche Umsatzsteigerung erzielten. Gartner prognostiziert nun, dass 60 Prozent der KI-Projekte, die nicht durch KI-fähige Daten gestützt werden, noch in diesem Jahr abgebrochen werden.

Liest man diese Aussagen zusammen, ergibt sich ein einziger Satz: Nicht die Modelle sind der Flaschenhals, sondern die Daten im Unternehmensmaßstab. Und fast jedes Tool auf dem Markt wurde dafür entwickelt, auf einem kleinen, überschaubaren Schema zu beeindrucken, nicht aber, in der Realität zu bestehen.

So ist die Stimmung momentan. Stille Frustration. Viel Geld wurde ausgegeben, viele Demos haben begeistert, und immer mehr Piloten schaffen den Sprung vom Slider zum Aufzeichnungssystem nicht.

Was tatsächlich nötig ist, um die Mauer zu überwinden

Hier kommt der entscheidende Punkt: Die Mauer ist nicht unüberwindbar. Um sie zu überwinden, ist jedoch ein grundlegend anderer Ansatz erforderlich, als ein universelles Modell auf eine riesige Datenbank anzuwenden und darauf zu hoffen, dass das Kontextfenster groß genug ist.

Es erfordert zwei Dinge, die zusammenwirken.

Die erste Fähigkeit besteht darin, die Daten wirklich zu verstehen – alle Daten, im vollen Umfang des Unternehmens. Nicht nur eine Stichprobe. Nicht die dreißig Tabellen, die zufällig in eine Abfrage passen. Sondern die gesamte Datenlandschaft, über laufende operative Systeme und jahrzehntelange Archivdaten hinweg, wobei jede Beziehung zwischen System, Tabelle und Feld abgebildet und – ganz entscheidend – mit ihrer tatsächlichen Bedeutung für das Unternehmen verknüpft ist. Wenn die KI weiß, dass Kunde_1 die Rechnungsstelle und Kunde_2 die Lieferadresse ist und wie Ihr Unternehmen den Nettoumsatz definiert, hört das Rätselraten auf.

Der zweite Aspekt ist, diese Möglichkeiten für jeden zugänglich zu machen. Eine Frage in einfacher Sprache. Eine Antwort in Sekundenschnelle. Kein SQL, kein Ticket ans Datenteam, keine dreiwöchige Wartezeit, bis jemand die Abfrage geschrieben hat.

Genau das haben wir bei Solix aufgebaut, und deshalb wollte ich diesen Artikel schreiben.

DataSense und DataAsk

Zwei Produkte, eine Aufgabe: Ihre größten, unübersichtlichsten und wertvollsten Daten in etwas verwandeln, dem Ihr gesamtes Unternehmen einfach Fragen stellen und dessen Antworten vertrauen kann.

DataSense ist die treibende Kraft. Es erstellt automatisch ein Profil Ihrer gesamten Datenlandschaft – sowohl in Live-Anwendungen als auch in archivierten Daten – und entwickelt ein dynamisches, geschäftsorientiertes Verständnis dafür, wie alles zusammenhängt und was es für Sie bedeutet. Genau hier liegt die Lösung für die enormen Datenmengen, an denen andere Marktteilnehmer scheitern. Während ein herkömmliches Modell mit einem Telefonbuch arbeitet und eine einzige Person finden soll, liefert DataSense der KI eine präzise, ​​geschäftsorientierte Karte Ihrer gesamten Datenlandschaft. Deshalb bleibt die Genauigkeit auch bei tausend Tabellen erhalten, anstatt bereits bei dreißig einzubrechen.

DataAsk ist der Einstiegspunkt. Es ist die leicht verständliche Benutzeroberfläche. Jeder im Unternehmen – ob Finanzen, Betrieb, Vertrieb oder Compliance – kann eine Frage so stellen, wie er sie einem Kollegen stellen würde, und erhält innerhalb von Sekunden eine präzise Antwort direkt aus den realen Systemen.

Was diese Kombination bietet, in den für einen Käufer relevanten Punkten:

  • Waage, die nicht zerbricht. Hunderte oder Tausende von Tabellen in Live- und Archivsystemen werden routinemäßig behandelt, nicht als Sonderfall, der das gesamte System zum Absturz bringt.
  • Genauigkeit dort, wo die Kategorie zusammenbricht. Nahezu perfekte Ergebnisse genau unter den Bedingungen, großen Schemata, feindseliger Namensgebung, realer Geschäftslogik, unter denen allgemeine KI im einstelligen Bereich versagt.
  • Es fragt, anstatt zu raten. Bei mehrdeutigen Fragen stellt das System eine Nachfrage, anstatt vorschnell eine Antwort zu erfinden. Genau dieses Verhalten ist der entscheidende Unterschied zwischen einer KI, die man Führungskräften präsentieren kann, und einer KI, deren Antwort man überprüfen muss.
  • Stunden, nicht Monate. Die Einrichtung wird in Stunden gemessen, nicht in dem mehrmonatigen Datenverarbeitungsprojekt, das der Großteil des Marktes stillschweigend benötigt, bevor überhaupt etwas funktioniert.
  • Deutlich geringere Kosten pro Frage. Im Vergleich zu Brute-Force-Ansätzen ergibt sich eine Reduzierung der Kosten pro Abfrage um etwa 87 Prozent, da das System präzise festlegt, welche Daten tatsächlich verarbeitet werden müssen.
  • Integrierte Governance. Föderierte Kontrolle über Live- und Archivdaten, sodass die Antworten nicht nur schnell und präzise, ​​sondern auch konform sind.

Ich werde bewusst nicht im Detail darauf eingehen, wie DataSense funktioniert. Der Mechanismus ist unser Alleinstellungsmerkmal. Was ich Ihnen aber sagen möchte, ist, was es leistet: etwas, das der Rest des Marktes bisher nicht bieten konnte – nahezu perfekte Genauigkeit bei der Analyse des gesamten, realen und weitläufigen Datenbestands eines großen Unternehmens, abgefragt und beantwortet in verständlicher Sprache.

Was ich einem CIO sagen würde

Wenn Sie gerade an einem instabilen Pilotprojekt arbeiten, sollten Sie sich eine Frage stellen, bevor Sie einen weiteren Dollar für die Optimierung des Modells ausgeben: Ist es bei einem kleinen, sauberen Testset versagt oder hat es sofort versagt, als es mit dem realen Modell in Berührung kam?

Wenn es sich um das reale Modell handelte, lag das Problem nie im Modell selbst, sondern im Maßstab. Und weder schnelle Entwicklungsarbeit noch ein größeres Kontextfenster oder eine neue Modellversion können ein System reparieren, das nie dafür ausgelegt war, Ihre Daten in ihrer tatsächlichen Größe zu verstehen.

Die Unternehmen, die die Nase vorn haben, sind nicht diejenigen mit dem ausgefeiltesten Geschäftsmodell. Sie sind diejenigen, die als Erste das Problem des Datenverständnisses gelöst und dann allen die Möglichkeit gegeben haben, Fragen dazu zu stellen. Darum geht es dieses Jahr.

Ihre Daten sind mit hoher Wahrscheinlichkeit so umfangreich, dass sie für die KI-gestützte Verarbeitung geeignet sind. Die einzige Frage ist, ob Ihre Systeme die Datenmenge und deren Realitätsnähe bewältigen können.

Referenzen

Globaler Vizepräsident Vertrieb

David Zuccolotto ist Global Vice President of Sales und VP of Enterprise AI bei Solix Technologies. In dieser Funktion leitet er die globale Vertriebsorganisation von Solix in Nordamerika, Europa, Kanada, dem asiatisch-pazifischen Raum und Japan. Er verfügt über fast 30 Jahre Erfahrung im Vertrieb von Unternehmenssoftware, hat zwei Technologieunternehmen gegründet und ist Träger des Oracle ACE Awards. Seine Themen sind Unternehmens-KI, KI-Readiness, Data Governance und Informationslebenszyklusmanagement.

Verwandte Artikel