När AI tar över allt mer av analysarbetet – vad blir egentligen controllerns uppgift? Och vem bär ansvaret när algoritmen räknar fel? Techprofilen Alexandra Serenhov uppmanar ekonomifunktionen att lyfta blicken och förklarar varför framtidens vassaste affärspartner kan vara mer humanist än siffergranskare.
Den 15 september leder Alexandra Serenhov ett rundabordssamtal på konferensen Verksamhetsstyrning, med målet att lyfta blicken från de tekniska detaljerna till de större samhällsfrågorna. Hon har en bakgrund som spänner från ekonomi och finans till filosofi och vetenskapsteori, och har under flera år lett Palantirs arbete i Sverige. I dag är hon verksam på AI-bolaget Terra Labs.
– Jag brinner för de större, vetenskapsteoretiska frågorna. Vad innebär ett så här stort paradigmskifte för oss som människor och samhälle? Det är en fin gräns mellan vad som är konkreta och viktiga resonemang och vad som bara blir navelskåderi. Det måste finnas en riktning i samtalet, säger Alexandra Serenhov.
Vi jämför AI med en illusion
När man pratar om AI-genererade beslutsunderlag hamnar fokus ofta på risken med att algoritmen har fel. Alexandra Serenhov menar dock att oron knappast är något nytt.
– Folk tenderar att benchmarka riskerna med AI med en slags perfekt mänsklig värld innan AI fanns, där man tänker sig att alla svar var väldigt väl researchade och att inga uppgifter var felaktiga. Men så var det inte. Risken att fatta beslut på felaktiga underlag har alltid funnits, säger Alexandra Serenhov.
Samtidigt understryker hon att bruset har ökat och att vi som mottagare måste bli bättre på att granska den information vi får.
– Grundbulten är densamma som alltid: vi måste fortsätta verifiera och säkerställa uppgifter. AI är ett kraftfullt verktyg, men ingen gratisbiljett till att inte jobba.
Ansvaret kan aldrig delegeras till en algoritm
Vad händer då med ansvaret? När tekniken i allt högre utsträckning presenterar färdiga analyser och rekommendationer – vem bär ansvaret när det blir fel?
Alexandra Serenhovs svar är filosofiskt grundat men glasklart: ett fungerande samhälle bygger på att ansvar kan utkrävas. Det är det som möjliggör tillit, mellan såväl människor och myndigheter som bolag och kunder. Den mekanismen rubbas inte av att en algoritm är inblandad i beslutskedjan.
– Man kan inte ta bort ansvaret bara för att AI tagit fram underlaget. I slutändan finns det alltid en människa som sätter beslutet i rörelse – och den personen äger konsekvenserna.
Från analytiker till ifrågasättare
För controllerfunktionen innebär AI-utvecklingen onekligen att yrkesrollen förändras. Alexandra ser tre lager i rollen: det reaktiva, det framåtblickande och det strategiska. AI kan effektivisera de två första radikalt. Det tredje – förmågan att avgöra om man ställer rätt frågor och om hela den övergripande riktningen är rätt – menar hon förblir en mänsklig förmåga.
– Rollen har gått från att ta fram och sammanställa information, till att vara den som vet vilka frågor som behöver ställas och som kan bedöma om svaren man får är rimliga. Det finns ingen playbook för det. Det handlar om att bygga erfarenhet och omdöme över tid, säger Alexandra Serenhov.
Skiftet kan också komma att förändra vad ekonomifunktioner behöver leta efter när de rekryterar.
– Den som inte bara tillhandahåller resultaten utan också kan ifrågasätta dem behöver kanske vara en lite annan typ av människa. Med lite mindre sifferfokus och en starkare förmåga att resonera och ifrågasätta. Och där tror jag att man inte ska underskatta värdet av historien och av att lära sig hur människor har resonerat och vilka misstag de har gjort i alla tider. Det är ett kunskapsförråd vi inte borde glömma bort, avslutar Alexandra Serenhov.
