Vill se säker AI – nytt startupbolag i Umeå

Virginia Dignum, professor Umeå universitet.
Virginia Dignum, professor Umeå universitet. Foto: Wallenbergstiftelserna/Magnus Bergström

Under höstens första Teknikfrukost medverkade professor Virginia Dignum, en av världens främsta experter inom AI, verksam vid Umeå universitet. Hon talade om vikten av att utveckla AI på ett ansvarsfullt sätt. Tillsammans med andra internationellt baserade AI-forskare bildar hon nu ett startupbolag i Umeå.
 – Vi vill erbjuda utbildning och stöd till AI-intresserade organisationer och företag.

Se sändningen direkt
(Du behöver vara inloggad eller registrerad för att se sändningen).

AI, Artificiell intelligens finns runt omkring oss och ändrar sättet vi arbetar på, hur vi lever våra liv och löser alldagliga problem. Men det finns en oro. Hur säkrar vi att systemen är pålitliga, säkra och inte kränker mänskliga rättigheter?

Virginia Dignum är professor i artificiell intelligens med inriktning mot social och etisk AI vid Umeå universitet. Hon menar att AI ger stora möjligheter men också risker och att vi behöver ha instrument för att balansera detta.

 – När vi t ex använder ansiktsavkänning, hur väl stämmer detta överens med integriteten? Och när vi surfar, hur ska människor förstå att den de skriver med i chatten inte är en människa utan en robot? säger Virginia Dignum.


Ansvarsfull utveckling

Det här är problemställningar som leder tillbaka till hennes forskning kring ansvarsfull AI och behovet av att diskutera vad AI egentligen ska användas till och vem som ska bestämma det. Vidare, vilka värderingar tekniken ska bygga på.

– Det kommer att bli allt viktigare att säkerställa att AI-tekniken och systemen går i linje med lag och etik. Det måste också bygga på en robust teknik som går att lita på och som gör det tekniken är avsedd att göra – gagna oss människor. Etiska och sociala frågeställningar bör integrera detta resonemang i de autonoma systemens beteende, säger Virginia Dignum.


Nytt företag

Detta arbete måste genomföras på flera nivåer och tillsammans med forskare, utvecklare, kunder och användare i hela samhället. Tillsammans med Andreas Theodorou, forskare vid institutionen för datavetenskap i Umeå, och andra internationella AI-experter bildar nu Virginia Dignum VeRAI, ett startupbolag i syfte att erbjuda utbildning och stöd till AI-intresserade företag och organisationer.

– Vi har kunskap och erfarenhet av hur man tar fram tekniken och kan vara med såväl i utvecklingsfasen som i själva genomförandet. Vi kan också säkerställa att systemen kan kontrolleras, uppdateras och verifieras.

Om teknikfrukost
Teknikfrukost arrangeras av Uminova Innovation, Process IT Innovations och Umeå kommun.