Omsätt ansvarsfull AI i praktiken: Vad krävs för att det ska fungera?
Att använda AI ansvarsfullt inom teknisk kommunikation – Del 2
I vår senaste artikelbröt vi ned vad ansvarsfull AI är och hur det påverkar teknisk kommunikation. Vi tittade på sex grundläggande principer: ansvarsskyldighet, förklarbarhet, rättvisa, integritet, robusthet och hållbarhet. Vi diskuterade också hur dessa principer formar vårt sätt att använda AI när vi skapar innehåll och utformar AI-drivna användargränssnitt.
Men bara principer är inte tillräckligt.
För att omsätta principerna i praktiken behöver en organisation tre praktiska möjliggörare - konkreta resurser som måste inrättas och underhållas så att vi kan arbeta ansvarsfullt med AI i vårt dagliga arbete. I det här inlägget kommer vi att fokusera på dessa tre avgörande byggstenar:
- Samarbete mellan människa och maskin
- Ramverk för styrning
- Databeredskap
Var och en av dessa stöttar flera principer för ansvarsfull AI. När byggstenarna används tillsammans gör de det möjligt för AI-verktyg att fungera säkert, etiskt och effektivt inom produktinformation.
| Ansvarsskyldighet (Accountability) | Människans ansvar för beslut som fattas med hjälp av AI |
| Förklarbarhet (Explainability) | Resonemang bakom AI-genererade förslag görs tillgängliga för användaren |
| Rättvisa (Fairness) | Samma upplevelse för alla användare och i olika situationer |
| Integritet (Privacy) | Respekt för och skydd av personuppgifter eller känsliga uppgifter |
| Robusthet (Robustness) | Pålitligt, konsekvent och säkert systembeteende |
| Hållbarhet (Sustainability) | Effektivet och långsiktig hållbarhet för innehåll och system |
Samarbete mellan människa och maskin: Samarbetsbaserad intelligens i praktiken
Låt oss börja med det som sätter människan i centrum: samarbetet mellan människa och maskin. Även om AI-verktygen blir allt mer kraftfulla är det samarbetet mellan människor och maskiner som gör AI praktiskt, säkert och effektivt.
Detta samarbete är särskilt viktigt för att möjliggöra två av principerna för ansvarsfull AI: robusthet och förklarbarhet.
Robusthet
AI kan vara utmärkt på att upptäcka mönster eller automatiskt generera innehåll, men det kan fortfarande misstolka sammanhang, ge felaktiga förslag eller ge alltför säkra resultat utifrån begränsade data. Mänsklig övervakning säkerställer att sådana förslag granskas och korrigeras innan de någonsin når slutanvändaren. Om ett AI-verktyg till exempel föreslår en felaktig vridmomentspecifikation för ett underhållsförfarande kan en teknisk kommunikatör, som har kunskap om vad som kan vara rimligt, upptäcka och korrigera felet innan det blir en säkerhetsrisk.
Förklarbarhet
AI-system fungerar ofta som svarta lådor utan insyn. Men för att användarna ska kunna lita på dem och för att kommunikatörer ska kunna validera deras resultat behöver vi transparens. När människor och AI-verktyg arbetar tillsammans för att ta fram information fungerar kommunikatören som en översättare: Den omvandlar AI-genererad logik till dokumentation som är begriplig, spårbar och pålitlig.
Kort sagt är samarbete mellan människa och maskin en mekanism som gör AI-drivna system både säkra att använda och pålitliga.
Varför det även har betydelse för rättvisa och integritet
Mänskliga granskare upptäcker partiska formuleringar, kontrollerar att flerspråkigt innehåll har samma innebörd för alla målgrupper och ser till att inga personuppgifter hamnar i instruktioner (prompter) eller publicerade utdata.
Ramverk för styrning: SkapaR förutsättningar för ansvarsfull användning
.jpg)
Medan samarbete mellan människa och maskin gör det möjligt för AI-verktyg och människor att arbeta sida vid sida, säkerställer styrningen att hela systemet fungerar inom ansvarsfulla gränser. Den definierar vem som är ansvarig, hur tillsynen fungerar och var AI-verktyg får användas som hjälpmedel. Detta är grunden för en säker och etisk användning.
Styrning är särskilt viktigt för att förverkliga principerna om ansvarsskyldighet och robusthet.
Ansvarsskyldighet
Inom teknisk dokumentation fördelas beslut och åtgärder ofta mellan flera medskapare. Styrning säkerställer att även när ett AI-verktyg föreslår eller automatiserar något, ligger ansvaret fortfarande hos en tydligt identifierad person eller ett team.
Om ett AI-system till exempel kan rekommendera steg för en installationsprocedur, delas ansvaret mellan två viktiga organisationer: en som ansvarar för själva AI-verktyget och en annan för innehållet som det levererar.
Den organisation som utvecklar AI-systemet måste se till att systemet fungerar tillförlitligt och är anpassat till säkerhetskritiska användningsfall.
Samtidigt måste den organisation som ansvarar för innehållet tillhandahålla verifierat, uppdaterat källmaterial och fastställa kvalitetskrav.
Tillsammans måste de se till att AI-verktyget stöttar säkra och korrekta installationer. Det kan de göra genom samordnade tester, styrning och delat ansvar. Mänsklig granskning kan vara en del av processen, men organisationens ansvar börjar redan under planering, implementering och kvalitetssäkring.
Robusthet
Styrning ger ett skydd som säkerställer att AI-verktyg inte agerar utanför dess avsedda område. Detta inkluderar att sätta gränser för automatisering, definiera var mänsklig granskning krävs och skapa spårbarhet. Om en tekniker till exempel får AI-genererade felsökningssteg, hjälper styrningen till att säkerställa att stegen hämtats från verifierade källor och tillhandahållits av ett system som testats och kan utföra sådan uppgifter.
I slutänden bygger styrning förtroende för AI genom att säkerställa att det alltid finns en systemdriven process som människor känner till bakom varje del av innehållet.
Varför det även har betydelse för rättvisa och hållbarhet
Policybaserad övervakning förhindrar att AI missgynnar någon användargrupp och sätter energieffektivitetsmål, till exempel regelbunden omskolning av modeller istället för kontinuerlig databehandling.
Databeredskap: Bygger en stabil grund
Även de bästa AI-verktygen är bara så bra som den data de bygger på. Det är därför databeredskap är en så viktig faktor för ansvarsfull AI. Det säkerställer att information som matas in i ett AI-system är ren, strukturerad, relevant och komplett. Det i sin tur stöttar både systemets prestanda och förtroendet som människor har för det.
Två principer är särskilt beroende av pålitliga data: robusthet och förklarbarhet.
Robusthet
Inom teknisk dokumentation måste ett robust AI-system fungera tillförlitligt, oavsett om det gäller att hämta en serviceprocedur eller hjälpa till att identifiera rätt reservdel. Om underliggande data är fragmenterade, föråldrade eller dåligt strukturerade kan även den bästa AI-logiken ge missvisande eller ofullständiga resultat. Om reservdelsdata till exempel saknar tydliga kopplingar till specifika produktmodeller kan AI rekommendera fel komponent, vilket leder till slöseri med tid eller, ännu värre, en misslyckad reparation. Högkvalitativa data, strukturerade med tydliga metadata, hjälper till att förhindra den här sortens fel.
Förklarbarhet
Förklarbarhet är också beroende av datakvaliteten. AI-genererade rekommendationer är bara meningsfulla för användarna om de kan förstå varifrån de kommer och varför de är relevanta. Välorganiserat innehåll, taggat efter syfte, produkt eller sammanhang, hjälper AI-systemet att koppla sina svar till verklig, spårbar dokumentation. Om ett AI-verktyg till exempel föreslår en inställning för en maskin, bör det kunna säga ”Detta värde baseras på den officiella installationsguiden för din modell”. Det fungerar bara om systemet har tillgång till rätt information i rätt format.
Kort sagt, databeredskap går utöver att förbereda ditt innehåll för maskiner. Det handlar om att göra det möjligt för människor att samarbeta, validera och lita på AI-verktyg.
Varför det även har betydelse för integritet och hållbarhet
Rena, välklassificerade data gör att du kan ta bort identifierare före träning och ta bort dubbla datamängder, vilket minskar både risker och lagringskostnader.
Sammanfattning
Om de sex principerna för ansvarsfull AI beskriver varför, är dessa tre faktorer exempel på hur:
- Samarbetet mellan människa och maskin tar fram det bästa ur båda rollerna.
- Styrningsramverk skapar strukturen för att använda AI på ett klokt sätt.
- Databeredskap säkerställer att allt körs med korrekta, rättvisa och säkra indata.
När dessa implementeras tillsammans gör de det möjligt för AI-verktyg att fungera som en pålitlig partner inom teknisk dokumentation.
Kontakt
Intresserad av våra tjänster?
Elzbieta Wiltenburg
Information Architect
+46 739 66 75 89
- på https://form.apsis.one/UDEqxSGsXMid