De fleste virksomheder jeg taler med, har på et tidspunkt sat gang i et arbejde med AI-governance. Et udvalg, en politik, måske en ekstern rådgiver der er hyret til at sikre compliance med EU AI Act.
Det er sjældent placeret hos Enterprise Architecture.
Det er placeret hos jura. Hos compliance. Nogle gange hos en nyoprettet "AI-ansvarlig", der ikke havde den titel for seks måneder siden.
Og problemet er ikke, at de mennesker ikke er dygtige. Problemet er, at de sjældent har det fulde overblik over systemlandskabet, dataflowene og de tekniske afhængigheder, som en AI-løsning rent faktisk skal fungere inden i.
Så virksomheden ender med en politik for AI-governance, der er juridisk grundig og teknisk løsrevet fra virkeligheden. Eller en teknisk implementering der aldrig blev vurderet mod de risici, politikken faktisk skulle forhindre.
Spørgsmålene er ikke nye
Når jeg sidder med et AI-udvalg og hører, hvad de vil have styr på, er listen næsten altid den samme. Hvilke systemer har vi? Hvem ejer dataene? Hvad hænger sammen med hvad? Hvor galt kan det gå?
Det er de spørgsmål, en arkitekturfunktion har stillet i tyve år. Forskellen er bare, at de i mange virksomheder aldrig fik et svar, fordi EA blev betragtet som dokumentation frem for styring. Så når AI kommer, starter et nyt team forfra med et nyt navn på et gammelt arbejde.
Én ting er dog reelt ny. Et klassisk system gør det samme i morgen som i dag, indtil nogen ændrer det. En AI-model kan glide. Den trænes om, får nye data eller møder virkeligheden på en anden måde end i testen. Pludselig svarer den anderledes, uden at nogen har rørt en linje kode. En godkendelse ved go-live er derfor ikke nok. Nogen skal kigge med hele vejen. Det er de færreste governance-modeller bygget til. Heller ikke dem, arkitekterne har.
Tre fejl jeg ser gang på gang
Den første er to spor, der aldrig mødes. AI-udvalget holder møder hos jura. Arkitekterne holder møder hos IT. Ingen har skrevet ned, hvornår de to skal tale sammen. Resultatet er beslutninger, der enten ikke kan forsvares juridisk eller ikke kan gennemføres teknisk. Det opdager man typisk først, når det er blevet dyrt.
Den anden er rækkefølgen. Arkitektur har altid handlet om at vurdere, før man bygger. Med AI er det ofte omvendt. Nogen har allerede koblet en sprogmodel på kundeservice eller HR-systemet. Først derefter bliver der nedsat et udvalg. Så bliver governance oprydning i stedet for styring.
Den tredje er at tro, at datakvalitet er et nyt problem. Rodede stamdata og uklart dataejerskab har altid kostet penge. Forskellen er, at rodet tidligere kunne gemmes i et regneark, som nogen rettede i hånden hver måned. En AI-model gemmer ikke noget. Den giver rodet tilbage med stor selvsikkerhed og i et sprog, der lyder rigtigt.
Hvad det kræver at samle de to
Svaret er ikke et nyt udvalg. Det er at flytte AI-governance ind i den arkitekturstyring, der allerede findes. Og så give den det mandat, den aldrig fik.
I praksis betyder det tre ting. Én risikomodel for alle systemer, så AI ikke får sin egen skala. Ét sæt dataejere, så ansvaret ikke forsvinder, når data går fra et system til en model. Og en arkitekt, der må sige nej. Også til det initiativ, direktionen allerede har præsenteret for bestyrelsen.
Det sidste er sværest. Næsten alle har en arkitekturfunktion. Langt færre har givet den lov til at stoppe noget.
Hvad du kan gøre i denne uge
Du behøver ikke løse det hele på én gang. Start med at spørge, om jeres AI-initiativer overhovedet er synlige for EA-funktionen i dag. I mange virksomheder er svaret nej, fordi AI ofte kommer ind gennem SaaS-produkter, der aldrig passerer en arkitekturvurdering.
Dernæst: find ud af, hvem der reelt ejer risikovurderingen af et AI-projekt lige nu. Hvis svaret er "det gør vi sammen", er svaret i praksis "ingen".
Governance virker først, når nogen har både overblikket og mandatet til at bruge det.
Læs mere om emnet
AI-governance vs. EA-governance →
Brian P.N. Tofft
Managing Partner, We Lead Projects
Klarsynet er Brians månedlige nyhedsbrev om AI-governance, enterprise architecture og projektledelse. Skrevet ud fra det, han ser hos kunderne.