Förstå ansvarsfull AI
På Microsoft vägleds AI-programutvecklingen av sex principer, som är utformade för att säkerställa att AI-program ger fantastiska lösningar på svåra problem utan oönskade negativa följder.
Rättvisa
AI-system ska behandla alla människor rättvist. Anta till exempel att du skapar en maskininlärningsmodell som stöd för ett program för lånegodkännande till en bank. Modellen bör förutsäga om lånet ska godkännas eller nekas utan bias. Denna bias kan baseras på kön, etnicitet eller andra faktorer som resulterar i en orättvis fördel eller nackdel för specifika grupper av sökande.
Azure Machine Learning innehåller funktioner för att tolka modeller och kvantifiera i vilken utsträckning varje egenskap i data påverkar modellens förutsägelse. De här funktionerna hjälper dataexperter och utvecklare att identifiera och minimera bias i modellen.
Ett annat exempel är Microsofts implementering av Ansvarsfull AI med ansiktstjänsten, som drar tillbaka funktioner för ansiktsigenkänning som kan användas för att försöka härleda känslotillstånd och identitetsattribut. Dessa funktioner, om de missbrukas, kan utsätta människor för stereotyper, diskriminering eller orättvis överbelastning av tjänster.
Mer information om överväganden gällande rättvisa finns i följande video.
Tillförlitlighet och säkerhet
AI-system bör fungera på ett tillförlitligt och säkert sätt. Fundera till exempel på ett AI-baserat programvarusystem för ett självkörande fordon, eller en maskininlärningsmodell som diagnostiserar patientsymtom och rekommenderar receptbelagda läkemedel. Otillförlitlighet i dessa typer av system kan leda till betydande risker för människors liv.
AI-baserad programutveckling måste genomgå rigorösa testnings- och distributionshanteringsprocesser för att säkerställa att den fungerar som förväntat innan den släpps.
Mer information om överväganden gällande tillförlitlighet och säkerhet finns i följande video.
Sekretess och säkerhet
AI-system ska vara säkra och respektera sekretess. De maskininlärningsmodeller som AI-system bygger på är beroende av stora datavolymer, som kan innehålla personuppgifter som måste förbli privata. Även när modellerna har tränats och systemet är i produktion måste sekretess och säkerhet beaktas. Eftersom systemet använder nya data för att göra förutsägelser eller vidta åtgärder kan både data och beslut som fattas från data omfattas av sekretess- eller säkerhetsproblem.
Mer information om överväganden gällande sekretess och säkerhet finns i följande video.
Inkludering
AI-system ska hjälpa alla och engagera människor. AI ska innebära fördelar för alla delar av samhället, oavsett fysisk förmåga, kön, sexuell orientering, etnicitet och andra faktorer.
Mer information om överväganden gällande inkludering finns i följande video.
Transparency
AI-system ska vara begripliga. Användarna ska vara helt medvetna om systemets syfte, hur det fungerar och vilka begränsningar som kan förväntas.
Mer information om överväganden gällande transparens finns i följande video.
Ansvar
Det ska finnas ansvariga personer för AI-system. Designers och utvecklare av AI-baserade lösningar bör arbeta inom ramen för styrnings- och organisationsprinciper som säkerställer att lösningen uppfyller etiska och juridiska standarder som är tydligt definierade.
Mer information om överväganden gällande ansvarstagande finns i följande video.
Principerna för ansvarsfull AI kan hjälpa dig att förstå några av utmaningarna för utvecklare när de försöker skapa etiska AI-lösningar.
Ytterligare resurser
Fler resurser som hjälper dig att följa principerna för ansvarsfull AI i praktiken finns i https://www.microsoft.com/ai/responsible-ai-resources.
Om du vill se dessa principer i praktiken kan du läsa om Microsofts ramverk för att skapa AI-system på ett ansvarsfullt sätt.