Chalmers på Frihamnsdagarna:

Hur skapar vi AI-system som stärker demokratin?

AI kan användas för att skapa fejkade nyheter, men också för motvikten: att upprätthålla och stärka trovärdiga källor i samhället. Genom att kombinera ”modern” och ”traditionell” AI skulle vi kunna bygga system som ger helt nya möjligheter, för vem som helst, att hitta validerad information som idag ligger begravd under enorma datamängder.

Falska bilder, filmer och röster – så kallade djupförfalskningar/deepfakes – innebär numera ett påtagligt hot mot demokratin. Det går inte att förlita sig på tekniska verktyg för att avslöja förfalskningarna, utan det är gammal hederlig källkritik som gäller. Men vi har inte tid och möjlighet att ifrågasätta allt vi ser och hör i olika kanaler. Därför blir det allt viktigare med källtillit – att kunna ha en rimlig tillit till att det som sägs i vissa källor är sant. Det kräver att vi underhåller och utvecklar trovärdiga källor i samhället.

Här kan AI bidra som en positiv kraft för demokratin, genom sin förmåga att snabbt utvinna relevant information ur mycket stora datamängder. Det kan handla om juridik, politiska beslut och all offentlig dokumentation som gjorts längs vägen av olika aktörer i samhället. Rätt använt kan AI skapa helt nya möjligheter för vem som helst att hitta uppgifter som idag ligger begravda under enorma datamängder.

Men det räcker inte med den typ av AI som stått för de senaste årens genombrott med exempelvis Chat GPT – som bygger på så kallade svarta lådan/black box-metoder. De nya språkmodellerna håller sig som bekant inte till belagda fakta, utan hallucinerar friskt. Deras processer är också svåra att följa, eftersom vi bara ser informationen som vi stoppar in i ”lådan” och resultatet som kommer ut, men inte stegen däremellan.

Denna moderna AI behöver kombineras med en mer traditionell typ, som brukar kallas för symbolisk AI eller expertsystem. Sådana system är kopplade till databaser med validerad kunskap. De är kodade enligt en logisk steg för steg-modell, och det går att följa exakt hur och varför systemet har kommit fram till en viss slutsats.

Vad finns det idag för möjligheter att gifta ihop den användarvänliga och kraftfulla moderna AI:n med den pålitliga och transparenta traditionella AI:n? Detta har redan gjorts av många företag, och det vore fullt möjligt även för det offentliga samhället att utveckla liknande system – om vi väljer att lägga resurser på det.

Hur skulle det tekniskt kunna gå till? Och hur skulle en praktiskt framkomlig väg kunna se ut? Vilka samhällsaktörer skulle kunna vara lämpliga för att ta tag i frågan?

Medverkande:

• Moa Johansson, docent, datavetenskap och AI, Chalmers.
• Staffan Truvé, teknikchef och medgrundare, Recorded Future.
• Anders Sundell, docent, statsvetenskap, Göteborgs universitet
• Moderator: Fredrik Johansson, docent, datavetenskap och AI, samt forskningsrådgivare på Chair.

När: 30 augusti 15.00 – 15:40

Plats: Tältscen Ebbe, Bananpiren, Göteborg

Språk: Svenska

Mer information om Frihamnsdagarna 2024: https://frihamnsdagarna.se/