Olika former av inlärning inom maskininlärning

Fem centrala inlärningsformer

I en tidigare artikel tittade vi på hur text kan omvandlas till numeriska vektorer som modeller kan arbeta med. Men representationen är bara början. För att en modell ska bli användbar måste den också tränas och det kan ske på flera olika sätt. Den tidigare artikeln om hur text omvandlas till vektorer hittar du nedan.

Alla modeller lär sig inte på samma sätt. Valet av inlärningsmetod beror både på vilken data som finns tillgänglig och på vilket problem som ska lösas. Ibland tränas modellen med tydliga facit. Ibland söker den själv efter strukturer i datan. I andra fall lär den sig genom att fatta beslut och successivt förbättra sitt beteende utifrån återkoppling.

Det är just dessa skillnader som ligger bakom många av de viktigaste metoderna i modern maskininlärning. I den här artikeln går vi igenom fem centrala inlärningsformer och hur de skiljer sig från varandra.

Supervised Learning

Vid denna typ av inlärning får modellen tillgång till både data och facit. Tänk dig att du övar på gamla prov där facit redan finns. Modellen får då se en mängd data tillsammans med rätt svar. Uppgiften blir att hitta mönstret mellan indata och facit.

Den här typen av inlärning används ofta för två vanliga problem. Det ena är klassificering, där modellen ska avgöra vilken kategori något tillhör. Det kan till exempel vara att avgöra om ett mejl är skräppost eller inte. Det andra är regression, där modellen ska förutsäga ett numeriskt värde, som till exempel priset på en lägenhet.

För att modellen ska bli bättre måste den få veta hur bra eller dåligt den presterar. Därför använder man en förlustfunktion som mäter hur långt modellens gissning ligger från det riktiga svaret. Utifrån det justerar träningsalgoritmen modellens interna parametrar steg för steg så att felet minskar över tid. I kod blir detta en process där modellen tränas genom att gång på gång göra en gissning, mäta felet och uppdateras.

Det viktigaste är dock att modellen inte bara lär sig träningsdatan utantill. Om det händer får vi något som kallas överanpassning. Då fungerar modellen bra på exempel den redan har sett men sämre på ny data. Målet är i stället att modellen ska lära sig mer allmänna mönster som går att använda även på data den aldrig tidigare har mött. Därför delar man ofta upp datan i träningsdata och testdata. På så sätt kan man i slutet undersöka hur bra modellen fungerar på ett mer objektivt sätt.

Unsupervised Learning

Här finns inget facit att utgå ifrån. I stället matar vi in en stor mängd omärkt data och låter modellen försöka hitta mönster, grupperingar eller strukturer på egen hand. Skillnaden mot supervised learning är alltså att datan inte kommer med färdiga rätt svar. Det betyder dock inte att den mänskliga inblandningen försvinner helt, eftersom det behövs fortfarande någon som kan välja data och tolka resultatet.

Man kan tänka sig att du häller ut en stor låda med osorterade byggklossar på golvet. Ingen har berättat vad bitarna heter eller hur de ska grupperas. Ändå börjar du snart lägga liknande bitar tillsammans utifrån till exempel färg, form eller storlek. På liknande sätt försöker modellen upptäcka strukturer i datan utan att först ha fått rätt svar.

En vanlig uppgift inom unsupervised learning är klustring. Då försöker algoritmen hitta grupper av datapunkter som liknar varandra. En annan vanlig uppgift är dimensionsreduktion, där man försöker beskriva datan med färre dimensioner utan att tappa alltför mycket viktig information. Det kan göra komplex data lättare att analysera, visualisera och ibland även minska effekten av brus eller redundans.

När modellen har lärt sig hur datan brukar se ut kan den ibland också användas för att hitta ovanliga avvikelser. Det kan till exempel vara användbart för att upptäcka märkliga mönster i loggar, transaktioner eller sensordata. Samtidigt är utvärderingen ofta svårare än i supervised learning. Eftersom det inte finns något facit från början blir det mer utmanande att avgöra om de mönster modellen hittar faktiskt är meningsfulla och användbara.

Self Supervised Learning

Metoden har fått en mycket stor betydelse inom modern maskininlärning och är en viktig del bakom dagens språkmodeller. Här skapar datan sitt alldeles egna facit. Istället för att en människa manuellt märker upp informationen använder algoritmen rådatan precis som den är.

Tänk dig att du läser en spännande bok men någon har strukit över vart tionde ord med en tjock svart tuschpenna. För att förstå berättelsen måste du hela tiden gissa vilket ord som saknas baserat på sammanhanget runt omkring. Det är ungefär så här modellen ofta tränas. När det gäller text handlar det ofta om att förutsäga nästa ord eller nästa token i mycket stora mängder text.

Genom att lösa dessa uppgifter bygger algoritmen successivt upp en bred grund för att fånga mönster och samband i språk och annan data. Den allra största fördelen är den enorma skalbarheten. Eftersom vi slipper den dyra och extremt tidskrävande flaskhalsen med manuell uppmärkning kan vi träna systemet på mycket stora mängder data. Ibland använder algoritmen också arbetssätt där den jämför olika exempel för att avgöra om de bär på liknande innebörd eller inte.

När modellen väl har skaffat sig denna breda grund blir nästa steg väldigt smidigt. Vi kan då snabbt och effektivt anpassa den för mer specifika uppgifter med hjälp av en mindre mängd uppmärkt data.

Semi-supervised Learning

Detta är en användbar medelväg när vi har väldigt mycket rådata men begränsat med uppmärkt data. Metoden bygger på en smart kompromiss där vi blandar en liten mängd uppmärkt data med stora mängder osorterad information. Tänk dig att du har tiotusen osorterade foton i din telefon. Istället för att sitta i evigheter och namnge varje person sätter du bara namn på några få bilder av din bästa vän. Algoritmen studerar dessa få exempel och letar därefter igenom den stora högen för att försöka hitta och gruppera liknande ansikten.

Genom att titta på det stora havet av okänd data kan modellen först lära sig viktiga mönster och strukturer i informationen. Sedan använder den dina få uppmärkta bilder som ett ankare för att dra bättre gränser mellan olika kategorier. Detta kan spara mycket manuellt arbete.

I verkligheten används detta ofta i områden där uppmärkning är dyr eller tidskrävande t.ex. inom sjukvården. Ett sjukhus kan ha mycket stora mängder sparade röntgenbilder men läkarna har bara hunnit markera exakt var en skada sitter i en liten del av materialet. Då kan man låta algoritmen lära sig mönster från alla de omärkta bilderna och sedan använda den lilla mängden expertmärkt data för att förbättra modellen.

Reinforcement Learning

Här handlar det inte bara om att känna igen mönster utan också om att agera aktivt i en miljö. Tänk dig att du startar ett nytt videospel helt utan instruktionsbok. Du trycker på en knapp och din karaktär ramlar ner i ett hål vilket direkt ger minuspoäng. Du testar en annan knapp och plockar upp en stjärna som istället ger pluspoäng. Genom att ständigt pröva dig fram lär du dig gradvis en vinnande strategi för att klara banan. Det är ungefär så här algoritmen arbetar.

Modellen fungerar som en spelare som hela tiden läser av sin omgivning för att välja sitt allra nästa drag. Istället för ett färdigt facit styrs inlärningen av återkoppling i form av belöningar från miljön. Målet är att hitta en så bra övergripande handlingsplan som möjligt, vilket vi kallar för en policy. Denna policy talar om vad modellen bör göra i varje given situation för att maximera sin totala belöning över tid.

Den stora utmaningen ligger i att lära systemet att tänka långsiktigt. Ett drag som verkar meningslöst just nu kan visa sitt värde mycket senare, vilket gör problemet svårt. Reinforcement learning används därför i problem där modellen behöver fatta flera beslut i följd och där varje val påverkar framtida möjligheter.