Sammanfatta detta blogginlägg med:
I takt med att AI-system blir alltmer vanliga ser vi också alltmer frekventa debatter kring farorna och de etiska frågor som artificiell intelligens-teknik medför. Dessa debatter, som är allestädes närvarande i tidningar, tidskrifter och TV-kanaler idag, riktar allmänhetens uppmärksamhet mot det breda spektrum av åsikter – från den ena extremen till den andra – som experter inom teknik, filosofi och samhällsvetenskap har om ämnet AI.
En forskning utfördes vid Georgia University som visade att AI-system uppvisade betydligt mer sämre prestanda när de konfronterades med "mörka" fotgängare, vilket skapade farhågor för en framtid där en värld full av autonoma bilar inte är lika säker för personer med mörk hudton som för ljushyade fotgängare.
I december 2019 stängde Facebook ner 600 konton, tillsammans med över 55 miljoner följare, som använde identiteter skapade av artificiell intelligens för att sprida pro-Trump-artiklar om en mängd olika ämnen relaterade till riksrätt och val.
Å andra sidan utropas AI redan som en messias för att effektivisera affärsverksamhet och användningsområden. Med tillämpningar som smarta bostäder, nästa generations bilar, personliga assistenter, offentlig övervakning, avancerad hälsovård, drönare inom logistik och bedrägeriförebyggande inom finans , växer tekniken redan i användning och acceptans.
Särskilt i dagens VUCA-värld är ett robust AI-ramverk nödvändigt för att hjälpa företag att fatta korrekta och snabba beslut och föregripa marknadsförhållanden för att avslöja dolda värdekedjor.
Med tanke på att artificiell intelligens är på väg att bli mer framträdande är det kanske dags att överväga etikfrågan inom AI, de akuta utmaningarna och hur vi kan säkerställa ett positivt resultat för mänskligheten genom att leverera en AI-modell med tillförsikt och på bästa möjliga sätt.
Idag använder artificiell intelligens-teknik baserad på neurala nätverk och djupinlärningsmodeller miljontals parametrar som skapar otroligt komplexa och mycket ickelinjära interna representationer av de bilder eller datamängder som matas till dem. Därför betraktas de som "svarta lådor"-system. Så den angelägna frågan nu är hur man ska uppnå transparens med denna " svarta låda "-AI?
AI visar sig verkligen vara ett tveeggat svärd med båda eggarna mycket vassare och mindre förstådda än med andra tekniker.
1. Ökande ojämlikhet - Många experter har uttryckt oro över hur robotarnas och intelligenta systems uppkomst kan leda till massiva arbetsförluster, eller hur de kan skapa förhållanden där kapital ackumuleras i händerna på ett fåtal. Automationsteknikens potential att ersätta dyrare mänsklig arbetskraft i arbetarklassjobb kan ge upphov till behovet av att omplacera eller omskola anställda för att behålla dem i andra roller. I framtiden kan vi komma att se fler debatter om de universella löneprogrammen för att säkerställa att ingen lämnas utanför denna framstegsmarsch.
2. Tänk om dess resultat inte är i linje med samhällets lagar? Detta dyker ofta upp i science fiction-filmer där ett oseriöst system bryter mot samhällets lagar för att uppnå sitt uttalade mål. En berömd händelse skildras väl i den populära TV-serien Rick & Morty, där ett intelligent system får i uppdrag av Rick att skydda Bert i hans frånvaro. I följande händelseutveckling dödar systemet en rånare, poliser och tar slutligen hela staden som gisslan eftersom det anser att dessa saker är ett hot mot Berts säkerhet. Även om man kan hävda att scenariot är långsökt, belyser det ett betydande problem - att det är omöjligt att kodifiera etiskt beteende.
3. Partiskhet som leder till felaktiga beslut – AI-system förväntas ha en låg felfrekvens. Vi förväntar oss trots allt inte att de ska påverkas av trötthet, tristess, förbittring eller mänskliga fördomar, eller hur? FEL. Det har funnits några mycket uppmärksammade fall där AI-systemet har introducerat partiskhet i systemet. Ett exempel här är när Amazons sofistikerade AI-drivna rekryteringssystem började visa en tendens att föredra manliga kandidater framför kvinnor. AI-system är benägna att ha partiskhet i sina data, algoritmer eller sin mänskliga utvecklare och kan utveckla fördomar mot ras, kön, religion eller etnicitet.
4. Hur ska man behandla AI? - Det kan finnas fler fall där AI-system har rätt till juridiska rättigheter? Till exempel fick Sophia medborgarskap i Saudiarabien. Även om det främst var ett PR-trick, öppnar det upp en oundviklig, angelägen fråga - vem kommer att vara ansvarig för AI-system om de begår en överträdelse? Om maskinerna och AI-systemen verkligen är "autonoma", kan de hållas ansvariga för eventuella felaktigheter? Bör robotar åtalas om de bryter mot ett trafikljus för att komma fram till en nödsituation i tid? Hur förföljer vi det? Om systemet kan göra uppgraderingar och förbättringar av sitt nätverk på egen hand, utan att ägaren behöver ingripa, varför ska det då inte erkännas och hållas ansvarigt för vad det gör? Hur avskräcker man ett sådant system? Det här är frågor som vi måste besvara för att säkerställa en framtid med ansvarsfull AI.
Som svar på den växande oron kring AI har Europeiska unionen beslutat att inrätta en särskild kommitté för artificiell intelligens i EU-parlamentet. Syftet med denna kommitté är att skapa en social, juridisk och etisk ram för att hantera de problem som den växande förekomsten av AI-teknik i mänskliga angelägenheter ger upphov till. Det syftar till att ge transparent tillgång till information så att ansvarsfull, noggrann och klok användning av AI kan uppmuntras. Utöver detta planerar kommittén också att genomföra kompetenshöjande och utbildningsprogram för att göra allmänheten medveten om teknikens olika aspekter.
När vi nu går in i en framtid där AI förväntas spela en roll i alla våra livsområden är det absolut nödvändigt att beakta den data vi har om hur den framtiden kommer att se ut. Etik inom AI kommer att ge ett skydd för meningsfull innovation och erbjuda ett kritiskt öga.
Bill Gates jämförde AI-tekniken vid en atombomb och betonade att utan lämplig kunskap skulle AI kunna bli överväldigande och farlig för samhället. För att debattera frågan om huruvida ett AI-system kan litas på för att fatta "etiska" beslut, kan vi behöva ompröva våra definitioner av "etiskt" beteende först. Har vi ett säkert sätt att definiera etik först? Hur bygger vi in ett etiskt resultat i logiken? Är vi villiga att lägga kraften i autonomi i system utan att först förstå dessa frågor?
Företag använder sofistikerade artificiella intelligenssystem som kan härma mänskliga kognitiva funktioner samt utföra omfattande analyser och automatiseringsfunktioner.
I takt med att AI-system blir smartare har de blivit dagens Pandoras ask, och legitima farhågor måste åtgärdas innan de skapar ett oönskat scenario.
För företag är de mest synliga utmaningarna med AI integritetsintrång, diskriminering och olyckor. Om dessa problem inte hanteras väl kan de orsaka djupa skador för organisationen, från anseende- och intäktsförluster till regulatoriska motreaktioner, brottsutredningar och minskat förtroende för allmänheten.
Organisationer kämpar med att besvara denna fråga – Hur kan de säkerställa att deras algoritmer agerar ansvarsfullt och etiskt?
För företag är behovet att bli väl medvetna om dessa faror innan de använder algoritmerna.
- Definiera riktlinjer och upprätta styrning av driften av deras AI-system
- Planera hur du ska omsätta dessa riktlinjer i praktiken
- Diskutera med ditt team och utbilda dem om vikten.
Plattformar som DataRobot har hjälpt organisationer att göra betydande framsteg i denna riktning, genom att ge transparens i hur AI-modellen har kommit fram till sina förutsägelser.
Modeller för artificiell intelligens kan ofta fungera som "svarta lådor"; därför finns det ett kritiskt behov av mer transparenta AI-modeller som ger insikter i data, beslutspunkter och tekniker som används för att ge en AI-rekommendation och blir allt viktigare. Förklarbar AI fokuserar mer på modelltolkningsbarhet som avgörande för att optimera AI och lösa problemet på bästa möjliga sätt.
Google har tagit ett viktigt steg i denna riktning genom att presentera Explainable AI – med funktioner som What If och attributionsmodellering för att hjälpa företag att implementera AI med tillförsikt och effektivisera modellstyrning.
Förklarbar AI, förkortat XAI, kommer att behöva ge svar på några heta frågor som:
1. Varför gav AI-systemet en specifik förutsägelse eller fattade ett specifikt beslut?
2. Varför valde den inte en annan handlingsplan?
3. När lyckades eller misslyckades AI-systemet?
4. När ger AI-system tillräckligt med förtroende för beslutet att man kan lita på det?
5. Hur kan AI-systemet korrigera sina fel?
Förklarbar AI, tillsammans med effektiv styrning, väl utarbetade policyer och utbildning kring etik inom AI, kommer att hjälpa oss som samhälle att hantera den växande oron kring AI. Detta är en viktig del av en strategi för att komma fram till en acceptabel och harmonisk lösning på de faror som artificiell intelligens utgör för samhället och företagen idag.