Jeg er bekymret for hvor langt teknologien vil utvikle seg, og i hvilken retning

EN FARE? Roboter kan brukes til helt uskyldige ting, som å rense et ventilasjonsrør. Men autonom teknologi kan i verste fall komme ut av menneskers kontroll og reprodusere seg selv, frykter Hans Christian Zeiner Thorbjørnsen.

EN FARE? Roboter kan brukes til helt uskyldige ting, som å rense et ventilasjonsrør. Men autonom teknologi kan i verste fall komme ut av menneskers kontroll og reprodusere seg selv, frykter Hans Christian Zeiner Thorbjørnsen. Foto:

Av
Artikkelen er over 1 år gammel

Det kanskje viktigste som ble sagt under hele Arendalsuka denne sensommeren var det Knut Arild Hareide fra Kristelig Folkeparti som sto for.

DEL

LeserbrevHan avsluttet partilederdebatten med følgende betraktning om temaet roboter og teknologi: Han sa: Teknologien og robotene kommer uansett. Men vi er nødt til å la etikken styre teknologien, og ikke la teknologien styre etikken.

Jeg er så enig!

Jeg er bekymret for hvor langt teknologien vil utvikle seg, og i hvilken retning. De ser ikke lenger ut til at vi har tro på Brorsons påstand i salmen fra 1734 om at selv ikke om alle jordens konger prøvde alt de kunne, så ville de ikke klare å sette det minste blad på en nelde.

Nå bør vi frykte at nettopp det kan skje; at noen lykkes i et slikt forsøk. Og frykten deler jeg med mange. Teknologien og den teknologiske utvikling må styres av etikken.

LES OGSÅ: Se hva Google har funnet på nå

Frykter for menneskeverdet

Hvordan menneskeverdet vil kunne bevares i framtiden er det store spørsmålet. Det er all grunn til bekymring. Sannsynligheten for et sorteringssamfunn er til stede.

Verden har kanskje aldri vært nærmere Brave New World (Aldous Huxley 1932) enn nå. I den vidunderlige nye verden blir mennesker konstruert etter hvilket formål de skal tjene i samfunnet. Fra Alpha + mennesker, lederne, til Epsilon – mennesker som knapt kan sies å ha menneskelige egenskaper, arbeidere på laveste nivå. Alle produsert på flasker.

LES OGSÅ: Torsdag skal den førerløse bussen ut i trafikken

Nå produserer Russland soldatroboter. Riktignok ikke på flasker, men i laboratorier og i verksteder og om ikke lenge i fabrikker. Og USA konstruerer sine kamproboter med kunstig intelligens som de sier vil gjøre det mulig for autonome (selvstyrende) systemer å bestemme og utføre kamphandlinger uten input fra mennesker. Altså at roboten eller systemene foretar selvstendige valg i en krigssituasjon. Man kan jo tenke seg hvilke verdier som legges inn i kamp/soldat-roboter for å fatte «riktige» beslutninger. De er neppe etisk høyverdige.

LES OGSÅ: Nå kan du få billigere bilforsikring hvis du kjører forsiktig – og lar deg overvåke

Reproduserer seg selv?

FN har derfor besluttet å opprette en internasjonal ekspertgruppe med regjeringsrepresentanter for å diskutere både de teknologiske, militære, juridiske og etiske implikasjonene ved å utvikle autonome våpen. De gir dessverre ikke mye lyd fra seg.

For hva blir det neste i den teknologiske utviklingen? Autonome maskiner som sjåfører, flygere, sykepleiere, lærere? Roboter med selvstendige valg og avgjørelser?

LES OGSÅ: GPS og demente

Finnes det grenser for hva vår kreativitet og skaperevne kan produsere av skapninger som blir uavhengig av påvirkning fra mennesker? Som i neste instans kanskje reproduserer seg selv? Som etter å ha blitt produsert og programmert beslutter og bestemmer sine egne handlinger, gjør sine egne valg som kosten gjør i diktet «Trollmannens læregutt».

I Goethes dikt fra 1797 setter trollmannen sin læregutt til å utføre et arbeid på en viss måte. Noe likt kamproboter eller droner gjør i dag. Læregutten finner denne måten lite hensiktsmessig, og overprøver trollmannens påbud ved å gjøre det på sin egen måte. Læregutten setter i sving krefter han ikke er i stand til å kontrollere, og resultatet er katastrofalt.

LES OGSÅ: Snart skal Bastøferjene styre seg selv over fjorden

Hos Goethe er konsekvensen selvsagt en flom. Hvis man i den pågående revolusjonen lar teknologien utvikle seg ukontrollert, er naturligvis konsekvensen en syndflod.

For nå er det ikke bare etikken som styringsredskap og veiviser for mennesket man må være oppmerksom på. Nå er det også overføring av etiske holdninger og handlinger til roboter som må diskuteres, og som det må tas beslutninger om.

LES OGSÅ: Her er appen som kan redde livet ditt

Hvordan styre robotene?

Hvordan få en robot til å handle etisk riktig i valgsituasjoner? For valg blir foretatt av robotene. Og hva er etisk riktige valg? Ved tidligere teknologiske revolusjoner er det det menneskelige muskelarbeid som er overtatt av maskiner. Men denne gangen kan det være den menneskelige hjerne; vår tenkemåte, vår moral, vårt verdisett, som skal programmeres inn i en maskin med kunstig intelligens. Og etter hvert vil vi få roboter som selv skaper roboter. Autonomt. Nærmere en ny skapelse har vi aldri vært. Nå skal robotens kropp og sjel utformes. Og robotene kan gjøre det selv.

For hva skal robotenes hjerner utstyres med, og hvem skal stå for programmeringen og algoritmene? Akkurat dette er tidens viktigste spørsmål. Vil det bli slik at hver nasjon vil lage sine egne program og dermed sine egne roboter? Hva vil dette si for Norge, for verden? For menneskeheten?

LES OGSÅ: Stor kontrakt til Kongsberg Maritime

Skal regjeringen, Stortinget, FN, kapitalen styre utviklingen? Vil det bli et marked for etiske roboter? For roboter med forskjellig verdisyn? Gode roboter? Onde roboter? Terrorroboter?

Hvilke ideologier skal programmeres inn i robotene? Hvilke religioner skal med? Skal menneskerettighetene inn, de ti bud, rettsstaten, velferdssamfunnet?

Vi må lytte til humanistene, de kritiske stemmene, og ta dem på alvor. Vi må kontrollere teknologifundamentalistene. Og vi må skynde oss før kunstig intelligens blir mer intelligent enn den menneskelige. På alle områder. 

Skriv ditt leserbrev her «

DELTA I DEBATTEN! Vi oppfordrer leserne til å bidra med sine meninger, både på nett og i papir

Artikkeltags