Generative Adversarial Networks (GAN) – när två AI-modeller tävlar och båda blir bättre

Sustainability Circle's Lilla AI-skola om en av de mest kreativa idéerna inom modern artificiell intelligens.

Vi har tidigare tittat på tekniker som Transformers, Reinforcement Learning och Autoregression. Den här gången ska vi titta på en annan viktig milstolpe i AI-utvecklingen: Generative Adversarial Networks, oftast förkortat GAN.

Generative – modellen skapar nytt innehåll. Adversarial – två modeller tävlar mot varandra under träningen. Network – båda modellerna är neurala nätverk.

När Ian Goodfellow presenterade GAN år 2014 förändrades synen på vad AI kunde skapa. Plötsligt kunde en dator inte bara analysera bilder – den kunde också skapa helt nya bilder som såg verkliga ut. Det blev ett viktigt steg i utvecklingen mot dagens generativa AI.

GAN var den teknik som gjorde det möjligt att skapa de första verkligt realistiska AI-genererade bilderna. Idag används ofta diffusion-modeller för bildgenerering, men GAN är fortfarande viktig inom bland annat syntetisk data, bildförbättring och medicinsk bildanalys.

Två AI-modeller som tävlar mot varandra

Det geniala med GAN är att modellen egentligen består av två neurala nätverk. Båda tränas samtidigt, men med helt olika mål.

Det första kallas Generator.

Dess uppgift är att skapa nya data, till exempel bilder, ljud eller syntetiska mätvärden.

Det andra kallas Discriminator.

Dess uppgift är att avgöra om materialet är äkta eller om det har skapats av generatorn.

Man kan likna det vid en förfalskare och en konstexpert.

Förfalskaren försöker skapa en perfekt kopia.

Konstexperten försöker avslöja bluffen.

Varje gång någon av dem blir bättre tvingas den andra också utvecklas.

Det är just denna tävling som gör GAN så kraftfullt.

Hur lär sig modellen?

Generatorn börjar egentligen med slumpmässigt brus – data som inte betyder någonting, ofta kallat noise. Steg för steg försöker den omvandla bruset till något som liknar träningsdatan. Discriminatorn får samtidigt se både riktiga och skapade exempel och lär sig gradvis att skilja dem åt.

Efter varje omgång justeras båda modellerna genom backpropagation, den metod som neurala nätverk använder för att lära sig av sina misstag. Målet är att generatorn till slut ska skapa material som discriminatorn inte längre kan skilja från verkligheten.

I idealfallet hamnar discriminatorn runt 50 % träffsäkerhet – ungefär lika bra som att gissa. Då har generatorn lärt sig den bakomliggande sannolikhetsfördelningen i datan.

En elegant idé – men svår att träna

GAN är ett av AI-världens mest eleganta koncept. Samtidigt är det också ett av de mest svårtränade. Vanliga problem är:

-              modellen blir instabil

-              generatorn fastnar och producerar nästan samma resultat om och om igen (mode collapse)

-              gradienterna blir så små att inlärningen stannar av (vanishing gradients)

Under åren har många varianter utvecklats. Några av de mest kända är DCGAN, StyleGAN och CycleGAN. De löser olika problem, men grundidén är densamma – två neurala nätverk som tränar mot varandra.

Var används GAN idag?

Även om diffusion-modeller idag dominerar mycket av den kommersiella bildgenereringen används GAN fortfarande inom många områden.

Syntetisk data: En av de mest intressanta användningarna är att skapa syntetisk data.

Det betyder inte att datan blir helt anonym eller alltid fri från integritetsrisker, men den kan i många fall minska behovet av att använda verkliga personuppgifter.

Det gör GAN intressant inom exempelvis sjukvård, finans och industri.

Data Augmentation: GAN används också för att skapa fler träningsbilder.

Om ett företag bara har ett fåtal bilder på ovanliga fel kan modellen skapa fler realistiska exempel och därmed förbättra träningen.

Industri: Inom industrin kan GAN användas för att simulera ovanliga driftfall som extrema vibrationer, ovanliga kombinationer av sensorvärden eller sällsynta haverier.

Bildförbättring: GAN används fortfarande för: super resolution, brusreducering, restaurering av gamla bilder, medicinsk bildbehandling.

Finns det några risker?

Tyvärr ja.

Ju bättre GAN blev desto svårare blev det att avgöra vad som var äkta. Tekniken blev en viktig byggsten bakom de första riktigt övertygande deepfakes, vilket i sin tur har lett till utveckling av metoder för att upptäcka manipulerat material och ett ökat fokus på etik och ansvarsfull användning av AI.

GAN eller Diffusion?

Om du följer AI-utvecklingen idag kanske du undrar varför man oftare hör talas om Stable Diffusion eller Flux än om GAN. Svaret är enkelt.

GAN var det stora genombrottet under 2010-talet.

Diffusion-modeller har därefter visat sig vara enklare att träna och kan ofta skapa ännu högre bildkvalitet. Det är därför de idag används i många av de mest kända bildgeneratorerna, som Stable Diffusion och Flux.

Men utan GAN hade utvecklingen av dagens generativa AI sannolikt sett helt annorlunda ut. Precis som vi fortfarande behöver förstå beslutsträd trots att moderna modeller ofta är betydligt mer avancerade, är GAN fortfarande en viktig del av AI:s verktygslåda.

När ChatGPT kom började många förknippa generativ AI med språkmodeller och transformers. Men generativ AI är betydligt bredare än så. GAN visar att det finns flera sätt att skapa nytt innehåll. Där GPT bygger på autoregression och nästa-token-prediktion, bygger GAN på en tävling mellan två neurala nätverk. Idag används dessutom ofta diffusion-modeller för bildgenerering. Att förstå skillnaderna mellan dessa tekniker gör det lättare att välja rätt verktyg för rätt problem.

GAN visar att AI inte alltid blir bättre genom att en modell tränas ensam.

Ibland blir resultatet bättre när två modeller får tävla mot varandra.

Den ena försöker skapa.

Den andra försöker avslöja.

Genom denna intelligenta konkurrens utvecklas båda.

Det är en idé som har påverkat nästan hela utvecklingen av modern generativ AI och som fortfarande används inom allt från medicinsk bildanalys till syntetisk data och avancerad bildbehandling.

Vidare läsning:

Generative Adversarial Nets – originalartikeln där Ian Goodfellow introducerade GAN år 2014. → Länk

What are Generative Adversarial Networks (GANs)? – IBM:s introduktion till GAN och vanliga användningsområden. → Länk