00:00:01: Willkommen zu einer neuen Folge.

00:00:03: Mein Name ist Volker Rummel, ich bin Technischer Redakteur und heute geht es um ein Thema das schnell groß klingt aber in der Praxis sehr konkret wird – Künstliche Intelligenz in Maschinen.

00:00:15: Genauer gesagt was passiert violatorisch wenn Sicherheitsfunktionen nicht mehr nur stark programmiert sind sondern sich Verhalten anpassen dazu lahmen oder autonom reagieren?

00:00:25: Die neue Maschinverordnung ist dabei kein Science-Fiction Text mehr.

00:00:28: Sie ist ein handfester Rechtsrahmenverhersteller, Konstruktion, Safety Software und ganz ausdrücklich auch für die technische Dokumentation.

00:00:36: Denn wenn Maschinen komplexer entscheiden dann muss Sicherheit nicht nur vorhanden sein sie muss auch nachweisbar verständlich und von Menschen beherrschbar sein.

00:00:46: Genau darum geht es heute!

00:00:50: Was ist die MVO?

00:00:51: Und wann gilt sie?

00:00:53: Die neue Maschineverordnung ist die Verordnung.

00:00:58: Sie ersetzt die bisherige Maschinenrichtlinie, der Unterschied ist nicht nur sprachlich wichtig.

00:01:06: Eine Richtlinie muss national umgesetzt werden und eine Verordnung gilt in der EU unmittelbar.

00:01:15: Die MVO ist am Juli-Jubiläum im Kraft getreten und gilt grundsätzlich ab dem Januar.

00:01:23: Einige Teile greifen schon früher etwa zu notifizierten Stellen und bestimmten Verfahrenswagen.

00:01:30: Für Deutschland kommt noch das Maschinenverordnungs-Durchführungsgesetz, also das Maschinendegeh dazu.

00:01:37: Das regelt unter anderem Sprache, Marktüberwachung und Sanktionen.

00:01:41: Praktisch wichtig für uns – Betriebsanleitungen, Sicherheitsinformationen und EU-Konformitätserklärung müssen in Deutschland in deutscher Sprache vorlegen.

00:01:50: Wenn die Anleitung digital bereitgestellt wird muss auch die Zugritsinweis auf diese Digitalanleitung auf Deutsch sein.

00:01:57: Das klingt erst einmal trocken, ist es aber nicht, denn die MVE wurde gerade deshalb überarbeitet weil die alte Maschinen richtigen wir viele neue technische Entwicklungen nur unzureichend abgebildet hat.

00:02:07: Die BAUA also die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin nennt ausdrücklich KI Autonomie- und Vernetzung als Treiber der Überarbeitung.

00:02:17: Genau Deshalb ist diese Folge nicht nur etwas für Juristen oder CE verantwortliche sondern für alle die an Maschinen-Information arbeiten.

00:02:31: KI in Maschine, der regulatorische Trick ist nicht das Wort KI, sondern die Funktion.

00:02:37: Spannend ist – Die MVO arbeitet nicht einfach mit einer poschalen Überschrift wie Alles mit KI ist kritisch!

00:02:44: Sie schaut viel genauer hin.

00:02:46: Relerant wird es dort, wo Systeme selbst entwickelndes Verhalten, Maschinenlearning oder variierende Autonomiegrade in der sicherheitsrelevanten Funktion zeigen.

00:02:54: In Anex I Paar-A nennt die MVO ausdrücklich Sicherheitsbauteile mit vollständig oder teilweise selbstentwickelndem Verhalten unter Einsatz von Machine Learning – die Sicherheitsfunktion sicherstellen.

00:03:07: Außerdem nennt sie die Maschine mit eingebittenen solchen System und in der indikativen Liste der Sicherheitsbauteile, die sogar ausdrücklich Software, die Sicherheitsfunktionen gewährleistet sowie ML-basierte Sicherheitsbauteile.

00:03:20: Genau da liegt der Knackpunkt – nicht jede KI in der Maschine ist autonomisch ein Safety Thema!

00:03:25: Wenn ein System nur Energieverbräuche optimiert oder eine Oberfläche personalisiert, ist das etwas anderes als wenn ein System Kollision verhindert, Schutzabstände überwacht, Person erkennt oder Bewegungen freigibt oder blockiert.

00:03:39: Dem Moment reden wir nicht mehr über Komfort sondern über eine sicherheitsrelevante Funktion und dann wird die Sache regulatorisch empfindlich.

00:03:47: Noch interessanter wird es bei der Menschen-Maschineninteraktion, Die MVO verlangt bei der Maschine mit selbst entwickelten Verhalten oder Logik unter unterschiedlichen Autonomiegraden das sie – wo relevant – auf Menschen angemessen reagiert und ihre geplanten Handlungen für Bediener verständlich kommuniziert.

00:04:04: Das ist der eigentliche Game Changer.

00:04:06: Damit kommt eine neue Qualität in die Dokumentation.

00:04:09: Es reicht nicht mehr nur die Maschine zu beschreiben Man muss auch beschreiben, wie ihre sicherheitsrelevante Logik nach außen verstehbar wird.

00:04:18: Ein gutes Bild dafür ist eine mobile Maschine oder ein kollaborative System im Missbetrieb mit Menschen.

00:04:24: Wenn das System Person erkennt, Fahrwege anpasst stoppt oder alternative Bewegungen plant dann ist die Frage nicht nur funktioniert das sondern auch Ist für den Menschen nachvollziehbar worum die Maschine gerade so handelt?

00:04:36: Das ist übrigens auch der Punkt an dem die MVO auf die KI-Verordnung trifft.

00:04:41: der AI Act, also die Verordnung im Jahr zwanzigzwanzigsechzehn acht neun Stuft KI-Systeme als hochrisikant ein wenn sie Sicherheitskomponenten bestimmter Produkte sind.

00:04:52: Und dazu gehören ausdrücklich auch Maschinen sofern eine Drittstellenbewertung einschlägig ist.

00:04:57: Versuche Hochrisiko-KI Systeme vor der AI Act unter anderem Risikomanagement, Daten und Datengabernenz, technische Dokumentationen, Logging, Transparenz gegenüber Betreibern, Human Oversight sowie Genauigkeit, Robustheit und Cyber-Sicherheit.

00:05:13: Mit anderen Worten die OMVO fragt stark nach Maschinensicherheit – Der AI Act ergänzt das mit einem strukturierten Pflichtenprogramm für Hochrisico-KI?

00:05:22: Und in der Praxis bedeutet das, wer KI'n sicherheitsrelevanten Maschinenfunktion nutzt bekommt mehr Nachweisdruck, mehr Dokumentationspflicht und mehr Änderungsdisziplin.

00:05:35: Cybersecurity ist jetzt Maschinensicherheit.

00:05:38: Jetzt kommt der Teil den viele noch unterschätzen.

00:05:41: Unter der MVO ist Cyber Sicherheit nicht nur ein IT-Spezialthema.

00:05:45: Sie ist ein wesentlicher Teil der Sicherheits- und Gesundheitsschutzanforderungen.

00:05:51: Die Verordnung verlangt einen Schutz gegen Korrumpierung Das heißt vereinfacht, die Maschine muss so konstruiert sein dass die Verbindung mit anderen Geräten oder Fernzugriff nicht zu einer gefährlichen Situation führt.

00:06:02: Hardware-Komponenten, die Signale und Daten für sicherheitskritische Software übertragen müssen gegen versehentliche oder absichtliche Manapulation geschützt sein.

00:06:11: Dasselbe gilt für Sicherheitskritisches Software und Daten selbst!

00:06:15: Zusätzlich muss die Maschine, die für den sicheren Betrieb notwendigen Installiertes Software indedinfizierbar machen und Eingriffe oder Änderungen an Software- und Konfigurationen nachweisbar erfassen.

00:06:26: Für Versionen hochgeladener Sicherheitssoftware ist sogar eine Nachverfolgbarkeit über fünf Jahre vorgesehen.

00:06:33: Für sicherheitsrelevante Software basierte Entscheidungsdaten flangt die MVO ebenfalls Logging.

00:06:39: Das ist ziemlich deutlich übersetzt.

00:06:40: in dem Alltag heißt das Wenn eine Sicherheitsfunktion Software basiert ist, muss man sie nicht nur in ihrer Logik geschrieben.

00:06:47: Man muss auch sauber zeigen können welche Software sicherheitsrelevant ist, welche Version installiert ist und welche Änderungen vorgenommen werden und wie Manipulationen verhindert oder wenigstens erkannt werden.

00:06:59: Und genau hier kippt Cybersecurity im Produkt Sicherheit – Nicht als Bonus sondern als Pflicht und als Kapitel!

00:07:06: Der AI-Eigt zieht in die gleiche Richtung.

00:07:08: Hochrisiko-KI-Systeme müssen ausreichend robust und cybersicher sein.

00:07:12: Sie sollen Fehler Situationen aushalten, Loggen ermöglichen und menschliche Aufsicht unterstützen.

00:07:17: In den Gebrauchsinformationen müssen unter anderem Leistungsgrenzen erwartbare Genauigkeit, Robustheit, Cybersicherheit vorgesehener Human Oversight Maßnahmen sowie Wartungs- und Update Anforderungen stehen.

00:07:29: Das ist für die technische Dokumentation Enorme relevant, denn Dokumentation wird dadurch vom Erklären nach dem Bau zu einem aktiven Nachweisraum.

00:07:37: Wenn Updates, Lernstände, Parameteränderungen oder Sicherheitsgrenzen nicht beherrscht dokumentiert sind läuft die DoCo der Realität hinterher und dann wird es nicht unpraktisch sondern haftungsgefährlich.

00:07:48: Was muss die DoCo unter der MVO konkret können?

00:07:52: Schauen wir auf den Punkt der für unsere Branche wahrscheinlich am sichtbarsten ist Die digitale Betriebsanleitung.

00:07:58: Die MVO erlaubt digitale Anleitungen ausdrücklich Aber eben nicht nach dem Motor belegen irgendwo ein PDF ab und fertig, die Verordnung knüpft daran klare Bedingungen.

00:08:07: Der Hersteller muss am Produkt oder auf der Verpackung oder an einem Begleitdokument angeben wie auf die digitalen Anleitung zugegriffen werden kann.

00:08:16: Der Anleiter muss so bereitgestellt werden dass die Nutzer sie downloaden speichern und ausdrücken können auch für den Fall das die Maschine ausfällt Und sie muss online für die vorauslichtliche Ladungsdauer des Produkts und mindestens zehn Jahre ab in Verkehr bringen verfügbar bleiben.

00:08:31: Auf Wunsch des Käufers ist die Anleitung innerhalb eines Monats kostenfreien Papierformen bereitzustellen.

00:08:37: Für Maschinen, die für nicht professionelle Benutzer bestimmt sind oder vernützlicherweise von ihnen benutzt werden können müssen die wesentlichen Sicherheitsinformationen für Inbetriebnahme und sichere Nutzung sogar ein Papier-Form mitgegeben werden.

00:08:50: Ein digitales Handbuch ist unter der MVO absolut möglich, aber nur dann wenn der Zugriff klar markiert ist.

00:08:56: Praktisch also zum Beispiel über ein QR-Code oder einen anderen Maschinenlesbarnverweis – wenn der Nutzer speichern und drucken kann, wenn der Hersteller die Informationen ziehen bei Jahre verfügbar hält und wenn Papier auf uns geliefert wird.

00:09:08: Digital ja beliebig nein!

00:09:11: Dasselbe gilt für die EU Konformitätserklärung.

00:09:14: Auch die kann digital bereitgestellt werden, etwa über ein Internetadresse oder über einen maschinenlesbaren Code.

00:09:20: Aber auch hier gilt die zehn Jahreslogik für die Online-Verfügbarkeit.

00:09:25: Für Deutschland kommen die Sprachfrage dazu – das Maschinen-DG verlangt von Maschiden und dazugehörige Produkte Deutsch für die Betriebsanleitung, Sicherheitsinformationen und EU-Konformitätserklärung.

00:09:37: Bei digitaler Anleitung muss der Zugrisshinweis deutsch sein.

00:09:40: Das ist wichtig, weil sie manche zu früh in einer reinen englischen oder globalen Plattform-Logik einrichten.

00:09:46: Was folgt daraus für die Rädachzolendepraxis?

00:09:48: Erstens.

00:09:49: Visionsmanagement wird ein Pflichtprogramm.

00:09:52: Zweitens Release Notes, Sicherheitsänderungen und Update-Histöre müssen enger mit Software Safety & Service verzahnt werden.

00:09:59: Drittens Dokumentation muss klar zwischen stabilen Produkteigenschaften und anwendbaren Softwareabhängigen Verhaltensanteilen unterscheiden.

00:10:08: Und viertens WinKI Sicherheitsrelevant entscheidet, da muss die Anleitung nicht nur Bedienelemente erklären sondern auch Grenzen, Voraussetzungen, typische Feldernnahmen menschliche Eingriffsmöglichkeiten und Restriesigen sauber vermitteln.

00:10:21: Das ist keine dekorative Zusatzaufgabe sondern kann der sicheren Anwendung!

00:10:28: Jetzt noch der Blick auf uns selbst denn natürlich stellt sich die Frage dürfen oder sollten wir KI beim Schreiben recherchieren oder strukturieren von Doku einsetzen?

00:10:39: Die ehrliche Antwort lautet ja Aber nicht naiv.

00:10:43: Die Datenschutzkonferenz sagt in ihrer Orientierungshilfe sehr klar, dass Datenschutze und KI von Anfang an zusammen gedacht werden müssen.

00:10:50: Für KI-Systeme mit Personenbezug gelten die Grundsätze der DSGVO darunter Zweckbindung, Datenminimierung, Richtigkeit, Transparenz und Nachweisbarkeit.

00:11:00: Die DSK betont außerdem die Verantwortlichkeit der Wehweltsverantwortlichen weiß darauf hin bei voraussichtlichem hohen Risiko ein Datschenschutzfolgeabschätzung nach Artikel-Fünfundreißig DSGVO erforderlich ist.

00:11:13: Für die Praxis heißt das, nicht einfach alles in irgendeine Cloud prompt geben!

00:11:18: Nicht ungebprüft fremde Modelle mit internen Inhalten füttern – nicht zu tun als da in kein E-Text schon deshalb richtig weil er für sich klingt.

00:11:27: Sehr hilfreich sind diesen Zusammenhang die DSK Orientierungshilfe zum RAG System.

00:11:32: Das wird beschrieben, dass RAG die Richtigkeit Nachvollziehbarkeit und Vertraulichkeit verbessern kann weil zusätzliche Referenzdokumente eingebunden werden.

00:11:41: Die Idee ist kapitont aber genauso klar ein rechtswidrig trainiertes LLM wird nicht dadurch rechtmäßig das davor eine RAG Schicht sitzt.

00:11:51: Gleichzeitig kann RAG lokal oder on-premise betrieben werden und so Datenübermittlungen an Träder reduzieren.

00:12:00: Denn genau dort liegt die saubere Einsatzlogik.

00:12:03: KI-Vergliederung, Variantenbildung, sprachliche Verdichtungen, Recherchevorbereitung oder Entwürfe – ja!

00:12:09: Aber nur mit klar definierten Zweck, mit sauberen Quellenbezug, Mit Eingabedisziplinen und mit fachlicher Schlussprüfung durch Menschen.

00:12:18: Die Faustregel für die Folge könnte so lauten, KI darf die Arbeit abnehmen, Verantwortung nicht.

00:12:26: So langsam können wir jetzt zum Ende dieser Folge.

00:12:29: Die Maschinenverordnung redet nicht einfach über moderne Technik, sondern ganz konkret über neue Sicherheitslagen.

00:12:37: KI wird dort kritisch wo sie in Sicherheitsfunktionen eingreift.

00:12:42: Cyber Security ist damit auch keine Nebensache mehr, sondern ein Teil von der Maschinensicherheit.

00:12:48: Für uns in der Doku heißt das Mehr Versionsdisziplin, mehr Nachweislogik, mehr Klarheit über Grenzen, Updates und menschliche Einkriegsmöglichkeiten.

00:12:57: Und für uns als Redakteure heißt es auch, KI-Nutzen ist erlaubt aber nur mit Quellenkontrolle und Verantwortungsbewusstsein.

00:13:04: Denn wenn Maschinen intelligenter werden muss vor allem eins mitwachsen – die Verständlichkeit für Menschen, die mit ihnen arbeiten!

00:13:12: Das war's für heute.

00:13:12: ich hoffe Ihnen hat diese Folge gefallen.

00:13:14: lassen Sie uns gerne ein Like und ein Abo da.

00:13:17: In der nächsten Folge spricht mein Kollege über Hochrisikomaschinen und deren Zulassung was dabei zu beachten ist und welche Verfahren verwendet werden.

00:13:26: Hochinteressant, schalten Sie unbedingt ein.

00:13:28: Bis zur nächsten Folge Ihr Volker Rommel.