AI-agentene kommer, har industrien kontroll nok til å slippe dem inn?

Av Tonje Rønneberg Skei, CEO i Securenok 

‍

Kunstig intelligens utvikler seg raskere enn mange av oss hadde sett for oss. For få år siden handlet samtalen i stor grad om chatboter, automatisering av kontoroppgaver og effektivisering av administrative prosesser. Nå beveger vi oss raskt inn i en ny fase, hvor autonome AI-agenter som ikke bare analyserer og anbefaler, men som kan utføre oppgaver, ta beslutninger og samhandle direkte med digitale systemer på vegne av mennesker.

For industrien representerer dette et enormt potensial. AI kan bidra til mer effektiv drift, raskere feilsøking, bedre ressursutnyttelse, prediktivt vedlikehold og økt produksjonskapasitet. For mange virksomheter kan teknologien bli et viktig konkurransefortrinn, både i IT-miljøene og i de operasjonelle teknologimiljøene som holder produksjon, forsyning og kritiske tjenester i gang.

‍

Sett fra et sikkerhetsperspektiv mener vi det må stilles ett grunnleggende spørsmål før vi lar AI bevege seg dypere inn i industrielle miljøer:

Har vi god nok kontroll på systemene vi nå vurderer å gi AI tilgang til?

De fleste virksomheter er komfortable med at AI analyserer data, finner mønstre og foreslår tiltak. Det er nyttig, effektivt og ofte med relativt lav risiko. Å ta steget fra AI som rådgiver til AI som operatør er noe helt annet.  

I industrielle miljøer kan det bety at AI-agenter får tilgang til produksjonsdata, vedlikeholdssystemer, SCADA-løsninger, sensorer, industrielle kontrollsystemer og andre kritiske funksjoner. De kan identifisere avvik, foreslå korrigerende tiltak og i noen tilfeller gjennomføre tiltakene selv. Dette endrer risikobildet fullstendig.  

Et feil svar fra en chatbot på kontoret kan være irriterende. En feil beslutning i et industrielt kontrollsystem kan få helt andre konsekvenser, for eksempel produksjonsstans, kvalitetsavvik, miljøhendelser eller i verste fall påvirke sikkerheten til ansatte og samfunnskritiske tjenester.

Jo mer autonom teknologien blir, desto viktigere blir det å forstå hva som faktisk skjer i de underliggende OT-miljøene.

I vårt arbeid med virksomheter innen energi, vann og avløp, næringsmiddelindustri, datasentre og annen kritisk infrastruktur ser vi at en gjennomgående utfordring er mangel på full oversikt over sine egne industrielle nettverk. Ikke fordi de ikke tar sikkerhet på alvor. Det handler ofte om historikk, kompleksitet og tempo.

OT-miljøer har gjennom flere tiår blitt bygget ut, modernisert, integrert og koblet sammen med nye systemer. Resultatet er ofte komplekse miljøer med PLC-er, SCADA-systemer, sensorer, servere og nettverksutstyr fra mange ulike leverandører. Med en god blanding av gammelt, nytt, noe godt dokumentert, noe ikke i det hele tatt.  

Når AI-agenter skal operere i slike miljøer, holder det ikke å vite hva som burde skje. Man må vite hva som faktisk skjer, og kunne svare på spørsmål som:

‍

• Hvilke systemer har AI-agentene tilgang til?

• Hvilke handlinger utføres på vegne av mennesker?

• Hvilke endringer skjer i kontrollsystemene?

• Hvem, eller hva, kommuniserer med kritiske enheter?

• Oppstår det aktivitet som avviker fra normal drift?

‍

Uten denne innsikten blir det vanskelig å oppdage feil, misbruk eller kompromittering før konsekvensene allerede har oppstått.

AI blir også et verktøy for angripere

Samtidig som industrien tar i bruk AI, vil selvsagt trusselaktørene gjøre det samme.

Vi må forvente at kunstig intelligens vil brukes til å automatisere kartlegging, identifisere sårbarheter, utvikle mer målrettede angrep og tilpasse angrep underveis. Fremtidens cyberangrep vil trolig bli raskere, mer adaptive og bedre til å reagere på forsvarsmekanismer i sanntid. Det betyr at tradisjonelle sikkerhetstiltak alene ikke er nok.

Virksomheter trenger kontinuerlig innsikt i hva som skjer i sine industrielle miljøer, for å kunne oppdage avvik tidlig, forstå konsekvensene raskt og reagere før en sikkerhetshendelse utvikler seg til et driftsproblem.

I OT handler cybersikkerhet ikke bare om data, men om oppetid, produksjon, mennesker, miljø og samfunnskritiske funksjoner.

OT-overvåking er en forutsetning for trygg innovasjon

Vi opplever at de fleste diskusjoner rundt AI handler om teknologi, men vi mener de i like stor grad bør handle om kontroll.

Før virksomheter gir AI-agenter tilgang til kritiske prosesser, bør de etablere en tydelig situasjonsforståelse i sine OT-miljøer. De må vite hvilke enheter som finnes, hvordan de kommuniserer, hvilke risikoer som eksisterer, og hvordan avvik kan oppdages og håndteres.

Vi tror AI vil spille en sentral rolle i fremtidens industri, hvor teknologien kan gi store gevinster for virksomheter som klarer å bruke den riktig. Men for å ikke påta seg for stor risiko, bør sikkerhet, innsikt og kontroll bestemme tempoet på innovasjon, ikke omvendt.  

De virksomhetene som lykkes best de kommende årene, vil ikke nødvendigvis være de som implementerer mest AI raskest. Det vil være de som klarer å kombinere ny teknologi med robust sikkerhet, god synlighet og reell kontroll over systemene som holder driften i gang.

‍