Robotar behöver regler att hålla sig till

Vi måste skapa säkra regler när artificiell intelligens utvecklas. System av robotar eller intelligenta programvaror måste ha inbyggda bevakningssystem som ser till att delarna, de så kallade agenterna, bara gör det de har tillåtelse till. Det menar forskare i Gävle som jobbar med att reglera agenternas beteende.

Människan ska fortsätta att utveckla maskinerna och hålla dem i vår tjänst, men robotarna behöver regler att hålla sig till, säger Magnus Hjelmblom, forskare vid Högskolan i Gävle.

Utvecklare av system av robotar eller intelligenta programvaror har mängder av saker att ta hänsyn till. Bland annat krävs det vissa regler och ett inbyggt system för bevakning av att delarna, de så kallade agenterna, bara gör det de har tillåtelse att göra.

Utgår från algebra

– Min forskning handlar om att reglera agenternas beteende med hjälp av det jag kallar normer, vilket innefattar såväl oskrivna regler som formella regelsystem och lagar, säger Magnus Hjelmblom.

Det nya är att Magnus utgått från algebra och inte från logik som är det vanliga, och gjort det till ett instrument för att verkligen reglera beteendet på körbara system.

– Det är ett lite nytt angreppssätt och jag har utvecklat det från ett teoretiskt begrepp till något som är praktiskt användbart.

Visat att man kan skapa normer som är meningsfulla och som ger ett vettigt resultat. Algebraiska metoder är matematik i grunden och lämpar sig ofta väldigt väl för bearbetning på dator.

– Jag har utvecklat ett ramverk för att någon annan sedan ska kunna skapa en specifik applikation. För att exemplifiera så har jag också utvecklat ett antal konkreta program/applikationer som illusterar hur detta ramverk fungerar och används.

Simulerar evolutionen

I ett av exemplen används en så kallad genetisk algoritm, som simulerar evolution för att utveckla något som bättre och bättre löser ett problem. Detta kan man göra dels genom att låta agenternas beteende styras dels av en enkel funktion som talar om vad agenterna vill göra och ett normativt system som talar om vad de får och inte får göra.

– Detta i kombination kan ge ganska kraftfull problemlösningsförmåga.

Maskiner får mer och mer att säga till om och blir mer och mer avancerade. Maskiner tar över allt mer av människans arbete exempelvis inom vården. Det är lätt att förstå vikten av att sådana maskiner har försetts med klara regler för vad de får och inte får göra.

Människan måste behålla kontrollen

– Så det blir så klart intressant att fundera på hur man kan reglera dessa artificiella agenters beteende.

– Maskiner är bra på många sätt och dem ska vi använda för att hjälpa oss. Men det är vi människor som ska fatta de avgörande besluten. Och vi ska utveckla bra hjälpmedel för beslutsfattare så att vi kan säkerställa att besluten blir så bra och rationella som möjligt.

Anarres/Högskolan i Gävle

Intressant?
Läs även andra bloggares åsikter om , , , , , , , ,

IRIS – förarlösa droner löper amok

In the near future, nano tech driven drones are used for reconnaissance missions and social surveillance. These drones are run by IRIS, an advanced A.I system, which soon begins to unleash an attack upon mankind the likes of which we have never seen.

I.R.I.S. from Hasraf HaZ Dulull on Vimeo.

From the Writer / Director of Project Kronos & SYNC.
Writer / Director Representation: Scott Glassgold / I AM Entertainment

Läs även andra bloggares åsikter om , , , , , , , , , ,

Stephen Hawking: Artificiell intelligens blir mänsklighetens död

Fysikern Stephen Hawking varnar för att utveckling av artificiell intelligens (AI) kan leda till slutet för mänskligheten i en intervju med BBC.  Han befara att tekniken snabbt kan börja utveckla sig självt och ta över från oss.

Scenariot är ett klassikt tema inom Science Fiction som berörs i flera utmärkta filmer och TV-serier som exempelvis Terminator-filmerna, Sarah Connor Chronicles och den bästa science-fiction TV-serien som gjorts, Battlestar Galactica. Men även i svenska Äkta människor. Även i SF-böcker behandlas ämnet, i Asimovs Robot- och Stiftelseböcker om hur vi kan leva ihop med AI-varelser, dvs robotar och androider med mera, Iain M. Banks böcker där världen styrs av i huvudsak trevliga Artificiella intelligenser. De har tagit över , men inte skadat mänskligheten. En positiv vision som gör det bästa av utvecklingen.  I Fred Saberhagens Berserker-universum osv. Det finns naturligtvis också mängder med andra böcker, filmer, TV-serier osv som behandlar samma tema.

Ett vanlig tema som sagt och det behandlas på olika sätt. Om vi någonsin lyckas skapa AI så finns det det naturligtvis risker såväl som nyttor med det hela. Setphen Hawking tycks anse att det finns stora risker.

Intressant?
Läs även andra bloggares åsikter om , , , , , , , , ,