Warum „in zwei Wochen eine KI-App" eine gefährliche Halbwahrheit ist
Man kann heute in einem Nachmittag etwas zusammenstecken, das beeindruckend aussieht: eine schicke Oberfläche, ein KI-Modell dahinter, ein paar überzeugende Antworten in der Demo. Genau das verkaufen manche als „fertiges KI-Produkt". Und genau hier fängt unser Misstrauen an.
Wir sagen das nicht aus Bescheidenheit, sondern aus Erfahrung. Wir bauen selbst an KI-Produkten, nutzen sie täglich, iterieren seit Monaten daran, und wissen deshalb sehr genau: Zwischen „sieht fertig aus" und „ist fertig" liegt der gesamte schwierige Teil. Dieser Artikel handelt von diesem Teil.
Die Technik darunter steht nie still
Den ersten Grund haben wir an anderer Stelle ausführlich beschrieben: Die Modelle, Schnittstellen und Preise, auf denen ein KI-Produkt aufsetzt, verändern sich im Wochentakt. Was heute funktioniert, kann nächsten Monat abgekündigt, anders abgerechnet oder durch ein scheinbar harmloses Update still ausgehöhlt sein. Ein Produkt, das diese Bewegung nicht einkalkuliert, ist nicht fertig, sondern nur noch nicht kaputt.
Aber selbst wenn die Technik darunter stillhielte, bliebe der schwierigere Teil.
Recht ist kein Feature, das man hinten dranhängt
Sobald ein KI-Produkt echte Kundendaten verarbeitet, wird aus einem Technikprojekt ein Rechts- und Vertrauensprojekt. Und Datenschutz lässt sich nicht nachrüsten, er muss von Anfang an in der Architektur stecken.
Ein konkretes Beispiel: Wir bauen an einer Funktion, die Eingangsrechnungen automatisch ausliest. Die naheliegende, schnelle Lösung wäre, das Dokument an einen großen Cloud-Dienst zu schicken und die Antwort entgegenzunehmen. Für uns ist das keine Option. Eine Rechnung trägt Lieferantennamen, Beträge, Geschäftsbeziehungen, also personenbezogene und vertrauliche Daten. Sie unbedacht an einen externen Dienst zu schicken, wäre datenschutzrechtlich heikel und für uns ein Vertrauensbruch gegenüber dem Kunden. Also läuft die Erkennung lokal, auf der eigenen Maschine, mit einem deutlich höheren technischen Aufwand. Dieser Mehraufwand ist nicht Perfektionismus, er ist schlicht die Konsequenz daraus, den Datenschutz ernst zu nehmen.
Dazu kommen branchenspezifische Pflichten. Im Finanzbereich etwa müssen Aufzeichnungen revisionssicher sein, also nachträglich unveränderbar und lückenlos nachvollziehbar. Das ist kein Knopf, den man umlegt, sondern eine durchgängige Eigenschaft des ganzen Systems, die man von der ersten Zeile an mitdenken muss oder hinterher nicht mehr sauber nachrüsten kann. Und am Ende ist der schwerste Punkt vor einer breiten Markteinführung oft gar kein technischer: Es sind wasserdichte Verträge, Datenschutzerklärungen und die rechtliche Bewertung sensibler Datenkategorien.
Das Tückischste: „grün" bedeutet oft gar nichts
Wenn man eine Sache aus diesem Artikel mitnimmt, dann diese: Bei KI-Produkten ist „sieht fertig aus" und „läuft fehlerfrei" eine gefährlich trügerische Auskunft. Wir nennen das Muster intern „gebaut, aber nicht verdrahtet" und „grün, aber misst nichts". Ein paar echte Beispiele aus unserer eigenen Arbeit, alle behoben, alle lehrreich:
- Eine automatische Sicherungs-Prüfung lief wochenlang scheinbar einwandfrei durch. Nur hatte sie über hundert Datensätze hinterlassen, in denen das Ergebnis der Prüfung nie gespeichert wurde. Sie prüfte und meldete, vergaß aber, das Ergebnis festzuhalten. Bei rechtlich relevanten Daten reicht eine flüchtige Erfolgsmeldung nicht, das Ergebnis muss dauerhaft hinterlegt sein.
- Bei einer systematischen Durchsicht eines unserer Produkte fanden wir Dutzende von Funktionen, deren Logik fertig im Hintergrund existierte, aber nirgends mit einer Bedienoberfläche verbunden war. Aus Sicht des Nutzers waren das keine fertigen Funktionen, sondern Versprechen ohne Knopf.
Das ist der Kern unserer Skepsis gegenüber dem schnellen KI-Produkt: Eine Demo zeigt, dass etwas funktionieren kann. Sie zeigt nicht, dass es im Alltag, unter Last, mit echten Daten, über Wochen tatsächlich das Richtige tut. Dieser Nachweis ist die eigentliche Arbeit.
Die Reife-Lücke ist real, auch bei uns
Eines unserer eigenen Produkte ist seit Monaten täglich im echten Einsatz, hat dutzende Module, eine umfangreiche Bedienoberfläche und eine vollständige Test-Sammlung. Und trotzdem würden wir es nicht als „fertig für jedermann" bezeichnen. Was dafür noch fehlt, ist aufschlussreich: ein sauberer Einführungsprozess für neue Kunden, eine durchdachte Preisgestaltung, verständliche Dokumentation für Endnutzer, und die rechtlichen Grundlagen. Nichts davon ist eine Funktion, die man „noch schnell programmiert".
Wir sagen das offen, weil es die ehrliche Wahrheit über den Reifegrad von KI-Produkten ist: Selbst ein System, das sein Erbauer jeden Tag selbst benutzt und seit Monaten verbessert, ist noch nicht am Ziel. „Fertig" heißt bei einem KI-Produkt: revisionssicher, datenschutzkonform, belastbar unter realer Last, mit Tests, die wirklich laufen, mit Protokollen, die wirklich etwas festhalten, und mit Verträgen, die wirklich tragen.
Unsere Haltung
Daraus folgt eine klare Reihenfolge, nach der wir arbeiten: Erst die Einhaltung von Recht und Sicherheit, dann Qualität, dann der Erhalt von Wissen, und erst dann Tempo. Wenn Tempo wirklich nötig ist, etwa wegen eines Termins, dann sagen wir das ausdrücklich, statt heimlich an der Qualität zu sparen.
Und wir fangen lieber klein an, messen, bewerten ehrlich und lassen weg, was keinen Wert bringt, als ein großes Versprechen abzugeben, das wir nicht halten können. Was uns von einem „in zwei Wochen eine KI-App" unterscheidet, ist nicht das Versprechen. Es ist das Verständnis für die Entfernung zwischen einer überzeugenden Demo und einem Produkt, dem man Kunden und ihre Daten guten Gewissens anvertrauen kann.
Wenn du den schnellen Wow-Effekt suchst, sind wir die Falschen. Wenn du jemanden suchst, der den schwierigen Teil kennt und ernst nimmt, weißt du jetzt, woran du uns erkennst.
Aus dem Labor ist unsere Rubrik über das, was wir selbst bauen und betreiben, bevor wir es jemandem empfehlen. Den Anfang dieser Reihe übers KI-Handwerk macht Unser zweites Gehirn. Fragen? Schreib uns.