Verantwortungsbewusste KI in die Praxis umsetzen: Was macht sie wirklich erfolgreich?

Um diese Prinzipien in die Tat umzusetzen, benötigt ein Unternehmen drei praktische Hilfsmittel – konkrete Fähigkeiten, die es aufbauen und aufrechterhalten muss, damit wir in unserer täglichen Arbeit verantwortungsbewusst mit KI umgehen können. In diesem Beitrag konzentrieren wir uns auf drei wesentliche Bausteine:

• Mensch-Maschine-Zusammenarbeit
• Governance-Rahmenwerke
• Datenbereitstellung

Jeder dieser Punkte unterstützt mehrere Prinzipien für verantwortungsbewusste KI. Wenn diese Faktoren zusammenwirken, ermöglichen sie den sicheren, ethischen und effektiven Einsatz von KI-Tools in der Welt der Produktinformationen.

Beginnen wir mit dem Faktor, der den Menschen in den Mittelpunkt stellt: der Mensch-Maschine-Zusammenarbeit. Auch wenn KI-Tools immer leistungsfähiger werden, ist es die Partnerschaft zwischen Mensch und Maschine, die KI praktisch, sicher und effektiv macht.

Diese Zusammenarbeit ist besonders wichtig, um zwei der Grundsätze für verantwortungsvolle KI zu ermöglichen: Robustheit und Erklärbarkeit.

Robustheit

KI mag zwar hervorragend darin sein, Muster aufzudecken oder Inhalte automatisch zu generieren, aber sie kann dennoch den Kontext falsch interpretieren, ungenaue Vorschläge machen oder aus begrenzten Daten übermäßig zuversichtliche Ergebnisse liefern. Durch menschliche Überwachung wird sichergestellt, dass diese Vorschläge überprüft und korrigiert werden, bevor sie den Endnutzer erreichen. Wenn beispielsweise ein KI-Tool eine falsche Drehmomentspezifikation für einen Wartungsvorgang vorschlägt, kann ein technischer Redakteur, der über das erforderliche Fachwissen verfügt, dies erkennen und korrigieren, bevor es zu einem Sicherheitsrisiko wird.

Verantwortlichkeit

In der technischen Dokumentation sind Entscheidungen und Maßnahmen oft auf mehrere Mitwirkende verteilt. Governance stellt sicher, dass auch dann, wenn ein KI-Tool etwas vorschlägt oder automatisiert, eine klar identifizierte Person oder ein klar identifiziertes Team verantwortlich bleibt.

Wenn beispielsweise ein KI-System Schritte für einen Installationsvorgang empfehlen kann, wird die Verantwortung auf zwei wichtige Organisationen aufgeteilt: eine, die für das KI-Tool selbst verantwortlich ist, und eine andere, die für die von ihm gelieferten Inhalte verantwortlich ist.

Die Organisation, die das KI-System entwickelt, muss sicherstellen, dass das System zuverlässig funktioniert und mit sicherheitskritischen Anwendungsfällen übereinstimmt.

Gleichzeitig muss die für den Inhalt verantwortliche Organisation verifiziertes, aktuelles Quellenmaterial bereitstellen und Qualitätsanforderungen festlegen.

Gemeinsam müssen sie sicherstellen, dass das KI-Tool sichere und korrekte Installationen unterstützt. Dies können sie durch koordinierte Tests, Governance und gemeinsame Verantwortlichkeit erreichen. Eine Überprüfung durch Menschen kann Teil des Prozesses sein, aber die organisatorische Verantwortlichkeit beginnt bereits während der Planung, Umsetzung und Qualitätssicherung.

Selbst die besten KI-Tools sind nur so gut wie die Daten, auf denen sie basieren. Deshalb ist die Datenbereitstellung ein so wichtiger Faktor für verantwortungsbewusste KI. Sie stellt sicher, dass die Informationen, die in ein KI-System eingespeist werden, sauber, strukturiert, relevant und vollständig sind. Dies wiederum unterstützt sowohl die Leistung des Systems als auch das Vertrauen, das die Menschen in es setzen.

Zwei Prinzipien hängen besonders von einer soliden Datengrundlage ab: Robustheit und Erklärbarkeit.

Robustheit

In der technischen Dokumentation muss ein robustes KI-System zuverlässig reagieren, egal ob es um das Abrufen eines Serviceverfahrens oder die Identifizierung des richtigen Ersatzteils geht. Wenn die zugrunde liegenden Daten fragmentiert, veraltet oder schlecht strukturiert sind, kann selbst die beste KI-Logik irreführende oder unvollständige Ergebnisse liefern. Wenn beispielsweise Ersatzteildaten keine klaren Beziehungen zu bestimmten Produktmodellen aufweisen, empfiehlt die KI möglicherweise die falsche Komponente, was zu Zeitverlust oder im schlimmsten Fall zu einer fehlgeschlagenen Reparatur führt. Hochwertige Daten, die mit klaren Metadaten strukturiert sind, tragen dazu bei, solche Fehler zu vermeiden.