Får 29 millioner for å gjøre roboter smartere

Mennesker er generelt flinke til å skjønne når noe er farlig. Dette har vært en fordel gjennom alle årene med evolusjon. Folk som ikke oppfatter fare, blir oftere luket ut av genpoolen i møte med livets utfordringer.

Roboter og selvstyrende (autonome) systemer er ikke like flinke som mennesker når det gjelder å forstå risiko og å samarbeide. Men de skal bli bedre. Dette er også en fordel for menneskene som skal overvåke dem eller føle seg trygge ombord i selvstyrte skip.

Det europeiske forskningsrådet (ERC) støtter NTNU-professor Ingrid Bouwer Utne og prosjektet BREACH med 29 millioner kroner. Støtten er et ERC Advanced Grant. Disse gir en stor pengepott til utvalgte forskere som har drevet med fremragende forskning i over ti år. BREACH står for “Breaching the boundaries of safety and intelligence in autonomous systems with risk-based rationality”.

Jobber med roboter og mennesker parallelt

– Å sanse fare er viktig, men å forstå situasjoner og ta beslutninger er ikke godt nok integrert hos roboter og autonome systemer. Noe av det nyskapende med prosjektet er at vi skal jobbe med risiko- og situasjonsforståelse for både roboter og menneskelige operatører parallelt. Robotene skal vurdere risiko, men disse vurderingene bør også være tilgjengelige for operatørene slik at de vet hva robotene "tenker", sier professor Bouwer Utne.

Professoren forsker og underviser på Institutt for marin teknikk. Hun tilhører forskningsgruppen marine energisystemer og autonomikk (MESA), som igjen tilhører Fjordlab-delen av Norsk havteknologisenter.

Øker sikkerheten på mange områder

Etter hvert som roboter og selvstyrende systemer tar over mer av den daglige driften på ulike områder, påvirker også dette de som skal operere og overvåke dem.

– Arbeidet vårt skal bidra til sikrere typer transport, mer avansert kartlegging, inspeksjon og overvåking av hav og land, og høyere tillit til autonome systemer i samfunnet, sier professoren.

Om maskiner skal bidra mer til forskjellige avgjørelser, utfordrer det også situasjonsforståelsen til de som skal operere og overvåke systemene.

– BREACH-prosjektet skal koble risikovurderinger til kontrollalgoritmer og kunstig intelligens. Dette skal støtte beslutningene som både autonome systemer og menneskelige operatører skal ta, sier professor Bouwer Utne.

Resultatene vil bidra til at autonome systemer selv i større grad kan vurdere risiko i samarbeid med de menneskelige operatørene.

Finansierer fremragende forskning

– Dette er en nyskapende og unik bruk av risikovitenskap som krever ny teori og metoder. Prosjektet er et resultat av flere års forskningsarbeid knyttet til Senter for fremragende forskning NTNU AMOS, sier professor Bouwer Utne.

AMOS som står for Autonome marine operasjoner og systemer, ble avsluttet i fjor. BREACH er tverrfaglig. Risikovitenskap står sentralt, men arbeidet omfatter problemstillinger knyttet til kybernetikk, kunstig intelligens og samhandling mellom mennesker og maskiner.

– Jeg er veldig glad og takknemlig for å ha fått prosjektet. ERC Advanced Grant henger veldig høyt, og søknadsprosessen har vært krevende. Tildelingen er en anerkjennelse av prosjektet og en tillitserklæring til meg som forsker og prosjektleder, sier professor Bouwer Utne.

Hun gleder seg til å komme i gang med arbeidet.

– På Institutt for marin teknikk er vi stolte av det Ingrid har fått til og anerkjennelsen som ligger i tildelingen fra ERC, men først og fremst er vi glade for muligheten det gir til å utvikle sikrere autonome marine og maritime systemer – til beste for samfunnet og europeisk industri, sier instituttleder Sverre Steen.

Pengene finansierer fire ph.d.-stillinger og to post doc-stillinger. Prosjektperioden går over fem år.