Svenska:

00:00

Tyska:

00:00

Korrigerad text

I den här texten handlar det om en banbrytande metod som lett till helt nya perspektiv på artificiell intelligens användning i både vardagen och på jobbet med namnet RAG, eller hämtningsförstärkt generering. Dessutom ska vi fördjupa våra kunskaper inom områden AI i allmänhet och RAG i synnerhet. I det följande diskuteras tre huvudämnen. Först ska vi förklara principerna för neurala nätverk, sedan övergå till RAG-system och till slut spekulera lite om den framtid där liknande system ska driva inte bara vår arbets- och fritid utan också andra aspekter av livet, oavsett om vi vet om det eller inte.

Vad är neurala nätverk egentligen? Neurala nätverk utgör den tekniska grunden för moderna stora språkmodeller (LLM), kända för slutanvändare som ChatGPT, Gemini, Grok med flera. Med enkla ord fungerar de som sofistikerade system för mönsterigenkänning som bearbetar information genom att omvandla text till numeriska representationer och genomföra matematiska transformationer genom flera lager. Nätverken kan inte operera med textinnehållet, utan följer istället matematisk logik och kan jämföra vektorer och matriser som den ursprungliga texten har kodats till. Därför, efter att ha analyserat biljoner texter på nätet, är det möjligt att förutse vilka ord samt fraser som ska skrivas efter det som har angetts. Ett klassiskt exempel från artiklar om AI är en fortsättning av frasen “Huvudstaden i Frankrike är…” Nätverket kommer då att analysera vilka ord som står i närheten i redan skrivna meningar från alla epoker. Det blir “Paris” med störst sannolikhet, och systemet erbjuder detta ord att använda. Endast vektorvikten är avgörande, inte någon betydelse av den frasen eller dess sista ord. Å ena sidan leder denna logik till mer oberoende svar och mindre påverkad problemlösning, å andra sidan har man begränsade möjligheter att verifiera lösningar och saknar hävstänger för att ändra trenderna. Vi får se vart det kan föra oss i det näst sista avsnittet av den här uppsatsen.

Varje system har inte bara fördelar utan nackdelar också, och bland dessa nämns mestadels följande: hallucinationer, kunskapsstopp och domänblindhet. Den första är en situation när AI-modeller genererar information som låter rimlig men i själva verket är felaktig. Eftersom de opererar genom statistisk mönsterigenkänning snarare än faktauppslag, har de ingen mekanism för att skilja mellan vad de faktiskt “vet” och vad de fabricerar. Den andra, som nämnts kunskapsstopp, betyder begränsade data AI-modeller tränades på, vilken kan vara månader eller år gammal. Det tredje är saknade tillgång till proprietär information eller nischad expertis.

I enlighet med det sagda är RAG-principen vårt huvudämne för idag, och nedan ska det visas att denna har stor betydelse, eftersom den kan starkt förbättra systemen och eliminera ovannämnda nackdelar. Retrieval-Augmented Generation är en AI-arkitektur som ger stora språkmodeller tillgång till externa informationssystem för att de ska kunna hämta och citera kunskap utanför sin ursprungliga träningsdata. I korta drag är RAG baserad på tillgång till och omarbetning av ny information som AI-modellen inte kunde hitta under sin utveckling. Istället för att tvinga modellen att enbart svara utifrån sitt tränade minne (så kallat parametriskt minne), fungerar RAG som ett “prov med öppna böcker” där modellen slår upp relevant information i en extern dokumentsamling (icke-parametriskt minne) innan den svarar. Processen har några steg, och särskilt viktiga är följande. 1. Vektorisering: Användarens fråga omvandlas till en matematisk representation, en så kallad vektorinbäddning. 2. Sökning: Denna vektor används för att göra en semantisk sökning i en vektordatabas för att hitta de mest relevanta textstyckena (chunks). 3. Förstärkning: De mest relevanta textstyckena kombineras med den ursprungliga frågan till en utökad prompt. 4. Generering: Språkmodellen skapar ett svar baserat på både frågan och den medföljande kontexten, vilket resulterar i ett svar som är förankrat i faktiska källor. De främsta fördelarna med RAG är att det minskar risken för så kallade hallucinationer med 70–90 %. Det gör det också möjligt för organisationer att ge modellen tillgång till dagsfärsk information eller interna, skyddade dokument utan att behöva genomföra en kostsam omträning av hela modellen. Men vore det säkert och pålitligt att använda språkmodeller med RAG inom våra liv på ett obegränsat sätt? Om detta ska vi spekulera nedan.

Till att börja med är vårt framtida liv redan predeterminerat med stor användning av precis den här typen av LLM tills man producerar ett bättre alternativ. Grunden till det är lägre kostnader och högre stabilitet hos LLM-drivna tjänster i jämförelse med människobaserade online- och offlinetjänster. Dessutom, låt oss tänka på denna värld som en högst sannolik realitet. Medan hallucinationer hos tidiga modeller redan har lett till stora förödande konsekvenser på såväl digitala som infrastrukturstyrande nivåer — bland dessa finns kaos på flygplatser och bankkontoblockeringar för personer vars namn liknar välkända terroristers — kan RAG-utrustade modeller leda till katastrofer som ska uppfattas som mänskligt designade. Det är så eftersom RAG-modeller hittar aktuella data på nätet där så många av oss publicerar, för att uttrycka sig milt, nonsens, rykten och vetenskapligt ogrundade påståenden. Om man börjar filtrera majoriteten av data på nätet blir informationen föråldrad, liknande situationen för modeller innan RAG-metoderna. Likväl ska systemen styras och kontrolleras även om de kan bli avstängda på grund av falska rapporter eller irrelevanta varningar. I kontrast till enskilda människors ställningstaganden, som var fallet innan dess, kan falska LLM-meddelanden dyka upp i hundratusental, vilket ska leda till systemens överbelastning och regionala eller till och med kontinentala katastrofer. Den andra risken är informationsmanipulering från hackare och fientliga underrättelsetjänster. Konsekvenserna av deras cyberkrigande kan vara ännu mer oräkneliga.

Det centrala området i den här texten är framsteg inom stora språkmodeller, eller LLM. Automatiserad användning av alla data på nätet med målet att generera svar som ska bli såväl aktuella som representativa har stora fördelar men också allvarliga konsekvenser för hela mänskligheten på jorden. Kort sagt fungerar RAG-modeller på en princip som beskrivs i tekniska artiklar som “skräp in, skräp ut” : när modeller konsumerar all information som finns på nätet, kan den överväga strukturerade och verifierade källor som exempelvis vetenskapsmagasin eller tekniska läroböcker. Om man utvecklar ett kritiskt system ska man acceptera det faktum att en hög andel av den tillgängliga informationen är sörja (eller slop på engelska); detta ordet används för att beskriva falska fakta i flera vetenskapliga artiklar. Det kunde vara en bra metafor för vår RAG-LLM-drivna framtid. Det låter lite pessimistiskt men inte hopplöst.

1100 ord