Wann darf ein mit KI gebauter Prototyp zum Kunden? Ein Beispiel aus dem Maschinenbau zeigt, welche Nachweise vor der Freigabe zählen.
Eine Diagnoseoberfläche entsteht mit KI in wenigen Stunden und zeigt beim ersten Versuch genau die gewünschten Daten.
Das Service-Team möchte sie nun Kunden zur Verfügung stellen.
Wann ist der Prototyp bereit dafür und welche Nachweise brauchst du als Produktverantwortlicher vor der Freigabe?
Bei Maschinen reicht die Entscheidung oft weit über den ersten Einsatz hinaus.
Software muss zu verschiedenen Maschinenvarianten passen und auch Jahre später noch gepflegt werden können.
Das folgende Beispiel ist erfunden, die Fragen dahinter sind für Maschinen- und Anlagenbauer jedoch alltäglich.
Ein schneller Versuch für den Service
Ein Service-Team möchte Störungen schneller eingrenzen.
Es lässt mit KI eine Oberfläche erstellen, die aufgezeichnete Diagnosewerte übersichtlich darstellt.
Schon nach wenigen Stunden kann das Team anhand von Testdaten beurteilen, ob die Darstellung bei der Fehlersuche hilft.
Für den Versuch läuft die Oberfläche in einer getrennten Umgebung.
Sie verarbeitet künstlich erzeugte Daten, hat keinen Zugriff auf Maschinen oder Kundensysteme und kann keine Einstellungen verändern.
Ein falsches Ergebnis führt hier zu einer falschen Einschätzung im Versuch, aber nicht unmittelbar zu einem Eingriff an der Maschine.
Das Team kann die Idee erproben, ohne sie bereits als Kundenprodukt zu behandeln.
Vibe Coding ist nicht jede KI-gestützte Entwicklung
Beim Vibe Coding im ursprünglichen Sinn beschreibt ein Mensch das gewünschte Ergebnis, lässt die KI Code erzeugen und übernimmt ihn weitgehend, ohne ihn zu lesen oder zu verstehen.
Simon Willison erklärt die Unterscheidung anhand der ursprünglichen Begriffsprägung.
Für einen abgegrenzten Versuch kann dieses Vorgehen nützlich sein, solange die Folgen eines Fehlers beherrschbar bleiben.
KI-gestützte Entwicklung kann aber auch anders aussehen.
Fachleute prüfen den erzeugten Code, testen das Verhalten und übernehmen die weitere Pflege.
Automatisierte Tests prüfen bei jeder Änderung, ob bekannte Abläufe weiterhin funktionieren.
Statische Analyse untersucht den Code auf typische Fehlermuster, bevor er überhaupt läuft.
Ein Prototyp muss dafür nicht weggeworfen werden, doch sein erster Erfolg ersetzt diese Arbeit nicht.
Je nach Zustand kann Überarbeiten reichen oder ein Neuaufbau sinnvoller sein.
Vom Versuch zur Auslieferung
Im Beispiel überzeugt die Diagnoseoberfläche das Team.
Ein Kunde möchte sie an einer Maschine nutzen, später sollen weitere Kunden folgen.
Damit ändern sich die Fragen: Sind die angezeigten Werte für die jeweilige Maschinenvariante richtig?
Was passiert, wenn Daten fehlen oder ein Fehlerzustand übersehen wird?
Auch eine reine Anzeige kann Folgen haben.
Zeigt sie einen unauffälligen Zustand, obwohl ein Fehler vorliegt, kann das Service-Team die falsche Maßnahme treffen oder eine Störung später erkennen.
Hat die Oberfläche zusätzlich Zugriff auf Kundensysteme oder Zugangsdaten, muss auch dieser Zugriff geschützt werden.
Eine Einstufung als internes Werkzeug oder Serviceoberfläche sagt allein noch nichts über das Risiko aus.
Vor der Weitergabe muss das Team deshalb den vorgesehenen Einsatz und seine Grenzen festlegen.
Kann die Anwendung Einstellungen verändern oder Maschinen erreichen, sind die möglichen Folgen und die nötigen Prüfungen anders als bei einer Auswertung mit künstlichen Daten.
Für Funktionen, die sicherheitsrelevante Steuerungen beeinflussen können, genügt eine allgemeine Softwareprüfung nicht.
Hier müssen die zuständigen Fachleute die Auswirkungen auf die Maschine und die erforderlichen Nachweise gesondert bewerten.
Wenn Jahre später eine Schwachstelle auftaucht
Nehmen wir an, die Oberfläche wurde inzwischen für mehrere Maschinenvarianten ausgeliefert.
Jahre später wird in einer verwendeten Softwarekomponente eine Schwachstelle bekannt.
Jetzt muss der Hersteller feststellen, welche Versionen der Oberfläche die Komponente enthalten und bei welchen Kunden und Maschinen diese Versionen installiert sind.
Eine Software-Stückliste, auch Software Bill of Materials oder SBOM genannt, führt verwendete Komponenten auf und hilft bei der Suche.
Sie muss zur jeweiligen ausgelieferten Softwareversion passen und wird erst zusammen mit einer verlässlichen Zuordnung zu Kunden und Maschinen praktisch nutzbar.
Am zuverlässigsten entsteht sie automatisch bei jedem Build, also bei jeder Erzeugung einer auslieferbaren Version, statt nachträglich von Hand.
Wie das für Steuerungen und Geräte aussehen kann, zeigt unser Beitrag SBOM für Embedded Systeme.
Bei älteren Maschinen oder Software von Zulieferern können solche Angaben fehlen.
Dann muss das Team die Lücken mit den verfügbaren Unterlagen und den Zulieferern klären, statt Vollständigkeit anzunehmen.
Eine Liste allein behebt die Schwachstelle nicht.
Das Team muss die Korrektur für die betroffenen Varianten prüfen und mit den Kunden abstimmen, wann und wie sie eingespielt wird.
Für Maschinen ohne dauerhafte Verbindung kann das zum Beispiel über einen kontrollierten Datenträger und einen Serviceeinsatz geschehen.
Ist das Update signiert, kann die Maschine vor dem Einspielen prüfen, ob es unverändert vom Hersteller stammt.
Auch für einen fehlgeschlagenen Einspielvorgang braucht der Service einen erprobten Weg, den Betrieb wiederherzustellen.
Fachleute nennen das Rollback: die Rückkehr zu einem getesteten, funktionsfähigen Stand.
Was vor der Freigabe nachgewiesen sein muss
Für die Diagnoseoberfläche sollten Produktverantwortliche vor der Weitergabe dieselben Nachweise verlangen, die sie bei einem neuen mechanischen Bauteil selbstverständlich erwarten.
Wie sie aussehen, hängt vom Einsatz ab, sie müssen aber zum tatsächlichen Risiko und zu den unterstützten Maschinen passen.
Zuerst braucht die Software einen Verantwortlichen über den ersten Einsatz hinaus.
Eine benannte Stelle und ein vereinbarter Pflegezeitraum legen fest, wer Fehlermeldungen aufnimmt, Fachleute hinzuzieht und Korrekturen organisiert.
Ebenso wichtig ist, welche Schäden ein Fehler verursachen kann und wie dagegen geprüft wurde.
Eine dokumentierte Risikobewertung und Prüfergebnisse sollten zeigen, wie die Oberfläche mit fehlenden oder falschen Diagnosewerten umgeht und ob sie nur die vorgesehenen Zugriffe besitzt.
Je nach Anwendung gehören dazu automatisierte Tests, ein Code Review durch Fachleute sowie Dependency-, Secret- und Security-Scans.
Diese Scans suchen automatisch nach verwundbaren Komponenten, versehentlich im Code hinterlegten Passwörtern und bekannten Angriffswegen.
Für den Fall einer späteren Schwachstelle muss klar sein, welche Kunden und Maschinen betroffen wären.
Dafür braucht jede ausgelieferte Version eine eindeutige Kennung und eine passende SBOM.
Erst die Zuordnung von Version, enthaltenen Komponenten, Kunde und Maschine macht die Suche möglich.
Außerdem muss feststehen, wie Korrekturen an die Maschinen gelangen.
Der Updateweg sollte auch für Maschinen ohne dauerhafte Verbindung erprobt sein und signierte Updates verwenden.
Für ein fehlgeschlagenes Update sollte der Service ein getestetes Rollback beherrschen.
Schließlich entscheidet eine benannte Person über den Kundeneinsatz.
Sie stützt sich auf Risikobewertung, Prüfergebnisse sowie den Pflege- und Updateplan und dokumentiert die Freigabe samt offenen Punkten.
Im Beispiel könnte ein Funktionstest mit einer einzelnen Maschine gut aussehen, während die Zuordnung der installierten Versionen noch fehlt.
Dann lässt sich später nicht zuverlässig feststellen, welche Kunden eine Korrektur brauchen.
Die Oberfläche sollte noch nicht ausgeliefert werden, bis das Team diese Lücke geschlossen und die übrigen Nachweise bewertet hat.
Ein Versuch mit künstlichen Daten in einer getrennten Umgebung kann ein sinnvoller erster Schritt sein.
Sobald das Werkzeug Kundensysteme erreicht, Einstellungen verändert oder seine Ergebnisse Entscheidungen im laufenden Betrieb beeinflussen, braucht es eine passende Risikobewertung und fachliche Prüfung.
Fehlt dafür Kompetenz im Team, hole sie intern oder extern hinzu, bevor der Einsatz ausgeweitet wird.
Fehlen vor der Kundenauslieferung wesentliche Nachweise oder ein tragfähiger Pflege- und Updateweg, bleibt die Freigabe aus.
Welche rechtlichen Anforderungen zusätzlich gelten, hängt vom Produkt und seinem Einsatz ab.
Der Cyber Resilience Act kann für Produkte mit digitalen Elementen relevant sein.
Bei Maschinen sind gegebenenfalls weitere Anforderungen zu berücksichtigen.
Wie sich das bei bestehenden Maschinen und der Auswahl von Komponenten auswirkt, beschreibt unsere CRA-Einordnung für Maschinenmodernisierungen.
Kläre den Anwendungsbereich und die Pflichten für das konkrete Produkt, statt aus einem internen Versuch auf eine Ausnahme zu schließen.
KI kann den Weg zur ersten funktionierenden Oberfläche verkürzen.
Für die Kundenfreigabe zählt, ob dein Team ihre Folgen geprüft hat und sie über den zugesagten Zeitraum betreuen kann.
Wenn du tiefer in die Prüfung KI-gestützter Entwicklung einsteigen willst, schau in unseren Artikel Copilot und Coding Agents wirksam nutzen.
Wie entscheidest du, wann ein Prototyp für den Kundeneinsatz bereit ist? Schau gerne bei uns auf LinkedIn vorbei und diskutiere mit.
Daniel verbindet langjährige Erfahrung aus Softwareentwicklung, Vertrieb, Marketing, Produktmanagement und Geschäftsführung mit unternehmerischem Denken. Bei Lunaris bringt er technische und wirtschaftliche Perspektiven zusammen, um Kunden passende Lösungen und konkreten Mehrwert zu bieten.
Gute Prompts und Instructions reichen nicht. Erst eine belastbare Grundlage in der Softwareentwicklung aus Anforderungen, Tests, Pipelines und Betrieb macht Änderungen mit GenAI nutzbar.
Spezialisierte Softwarepartner und KI können die Wirtschaftlichkeit professioneller Softwareentwicklung verändern, wenn sie nachweislich Aufwand oder Laufzeit senken.
Sensible Nutzerdaten haben in Logs nichts verloren. Dieser Artikel zeigt, wie du mit .NET Data Redaction und LogTape systematisch personenbezogene Daten maskierst, bevor sie in den Logs landen.
Vom klassischen Windows-Installer über OTA-Update-Frameworks bis zum Firmware-Flasher: ein Überblick aller relevanten Update-Mechanismen und wie du sie CRA-konform umsetzt.
In diesem Artikel werden zwei etablierte Tools für Threat Modeling – das Microsoft Threat Modeling Tool und OWASP Threat Dragon – praxisnah entlang des gesamten Threat-Modeling-Prozesses verglichen. Der Fokus liegt auf typischen Abläufen, Report-Funktionen, Katalogen und der Wartung über den Produktlebenszyklus.