Robotar behöver regler att hålla sig till

Vi måste skapa säkra regler när artificiell intelligens utvecklas. System av robotar eller intelligenta programvaror måste ha inbyggda bevakningssystem som ser till att delarna, de så kallade agenterna, bara gör det de har tillåtelse till. Det menar forskare i Gävle som jobbar med att reglera agenternas beteende.

Människan ska fortsätta att utveckla maskinerna och hålla dem i vår tjänst, men robotarna behöver regler att hålla sig till, säger Magnus Hjelmblom, forskare vid Högskolan i Gävle.

Utvecklare av system av robotar eller intelligenta programvaror har mängder av saker att ta hänsyn till. Bland annat krävs det vissa regler och ett inbyggt system för bevakning av att delarna, de så kallade agenterna, bara gör det de har tillåtelse att göra.

Utgår från algebra

– Min forskning handlar om att reglera agenternas beteende med hjälp av det jag kallar normer, vilket innefattar såväl oskrivna regler som formella regelsystem och lagar, säger Magnus Hjelmblom.

Det nya är att Magnus utgått från algebra och inte från logik som är det vanliga, och gjort det till ett instrument för att verkligen reglera beteendet på körbara system.

– Det är ett lite nytt angreppssätt och jag har utvecklat det från ett teoretiskt begrepp till något som är praktiskt användbart.

Visat att man kan skapa normer som är meningsfulla och som ger ett vettigt resultat. Algebraiska metoder är matematik i grunden och lämpar sig ofta väldigt väl för bearbetning på dator.

– Jag har utvecklat ett ramverk för att någon annan sedan ska kunna skapa en specifik applikation. För att exemplifiera så har jag också utvecklat ett antal konkreta program/applikationer som illusterar hur detta ramverk fungerar och används.

Simulerar evolutionen

I ett av exemplen används en så kallad genetisk algoritm, som simulerar evolution för att utveckla något som bättre och bättre löser ett problem. Detta kan man göra dels genom att låta agenternas beteende styras dels av en enkel funktion som talar om vad agenterna vill göra och ett normativt system som talar om vad de får och inte får göra.

– Detta i kombination kan ge ganska kraftfull problemlösningsförmåga.

Maskiner får mer och mer att säga till om och blir mer och mer avancerade. Maskiner tar över allt mer av människans arbete exempelvis inom vården. Det är lätt att förstå vikten av att sådana maskiner har försetts med klara regler för vad de får och inte får göra.

Människan måste behålla kontrollen

– Så det blir så klart intressant att fundera på hur man kan reglera dessa artificiella agenters beteende.

– Maskiner är bra på många sätt och dem ska vi använda för att hjälpa oss. Men det är vi människor som ska fatta de avgörande besluten. Och vi ska utveckla bra hjälpmedel för beslutsfattare så att vi kan säkerställa att besluten blir så bra och rationella som möjligt.

Anarres/Högskolan i Gävle

Intressant?
Läs även andra bloggares åsikter om , , , , , , , ,

Äkta robotar

I år efter år har robotar varit våra slavarbetare och utfört tunga och monotona arbetsuppgifter inom industrin. Tysta, medgörliga slavar, som arbetar dygnet runt utan att ställa krav. Men är det en bild av oss själva vi ser, när vi tittar på dessa konstgjorda slavar? Väcker synen av den tysta, icke-organiska slaven några känslor inom oss, och påverkas i så fall dessa känslor av robotens utseende? Förändras vår moral i takt med robotarnas utbredning? Vems moraliska ansvar är det när en självständigt tänkade drönare dödar fienden i krig?

Robotarna, våra konstgjorda slavar, de drömmer inte om frihet och självständighet – de drömmer inte om något alls. Det är därför de är så exemplariska slavar. De kan varken lida eller ha någon egen vilja, och ingen moralisk skugga kan därmed falla över ”slavägaren” eftersom en robot inte kan berövas något i mänsklig mening. När nu mänskligheten går framåt, blir mer moralisk, mer civiliserad, allt fler får det bättre ekonomiskt, och mänskliga rättigheter sprids över världen, så kommer ingen människa mer att förslavas. Vi har ju robotarna, som aldrig kommer att klaga, eller kräva frihet och självständighet i något som helst avseende. Eller?

Äkta robotarÄkta robotar är en bok av Linda Johansson som kommer ut denna månad. Den behandlar delvis samma saker som hennes avhandling. Dvs filosofiska spörsmål och ansvarsfrågor kring robotar och drönare, kring intelligenta robotar och självständiga robotar. Titeln anspelar förstås på TV-serien Äkta människor där det finns självständigt tänkande och agerande robotar med mänskligt utseende.

Den här typen av frågeställningar har förstås behandlats i en mängd SF-berättelser som spänner från utopier till skräckberättelser och dystopier. Några av De bästa SF-böcker som finns behandlar ämnet, då talar jag om Iain M. Banks böcker om The Culture. Det är en positiv bild av framtidens samhälle med intelligenta maskiner av allehanda slag inklusive drönare och jättelika rymdskepp. I motsatta änden av spektrat från utopi till dystopi har vi Terminator-filmerna där intelligent maskiner gjort uppror och försöker utrota människan som art. En som utgår från att det senare scenariot är det mest troliga är Stephen Hawking.

I senaste numret av Forskning och Framsteg är det en kort intervju med Linda Johansson, Författaren till Äkta robotar. Rubriken på den intervjun är en fråga om vem som tar ansvar för robotens mord. Detta är något som utforskats i Isaac Asimovs robottrilogi och alla de andra böcker som utspelar sig i samma universa men skrivna av en lång rad olika författare. Till sin hjälp konstruerade Asimov tre lagar, senare fyra lagar, som programmeras in i robotar för att styra deras agerande gentemot människor. Något sådant finns inte i verkligheten och redan idag dödas många människor av drönare, en slags robotar som dock är styrda av människor. Den typen av handlingar skulle Asimovs robotar inte kunna utföra.

Drönare är också centrala i resonemangen i Linda Johanssons avhandling från 2013Autonomous Systems in Society and War – Philosophical Inquiries. Idag arbetar Linda Johansson på Försvarshögskolan.

Intressant?
Mer: Robotnyheter, Ny Teknik,
Läs även andra bloggares åsikter om , , , , , , , , , , ,

Intressant om robotar och framtidens samhälle i ETC

Senaste ETC-Helg har en rad artiklar om robotar och framtidens samhälle. De som finns på nätet är alla mycket intressanta. Det handlar om feminism, teknik och robotar, en Robyn-robot och mycket annat. En artikel av Johan Ehrenberg menar att robotisering kräver ett annat samhälle. Socialism.

Även om Johan Ehrenberg överdriver i vissa hänseenden har han säkert rätt när han påstår att ett robotiserat samhälle kräver socialism och att klassklyftor motverkar utvecklingen:

Nu kommer robotrevolutionen. Den beror på teknisk mognad, den digitala tekniken gör smarta maskiner möjliga. Ny nanoteknologi gör produktionsprocesserna annorlunda, plötsligt kan maskiner växa och förändras, intelligenta datorer gör att de kan lära sig nytt och det är inte långt borta tills robotar gör barn, det vill säga nya robotar och programmerar om sig själva.

Människan får snart en ny vän, en ny varelse att umgås med, gräla på och utvecklas med.

Våra barnbarn kommer dansa med robotar och självklart kan intelligenta varelser lära sig att älska varandra. Men inte under nuvarande ekonomiska ordning. Robotarna är nämligen ett hot så länge vi har en värld där några få äger, där inkomstklyftorna ökar och där fattigdom handlar om att man inte får vara med som kreativ kraft i samhället. Robotar och arbetslöshet kan inte gå hand i hand. Då slås samhället sönder. Och för den delen robotarna.
[…]
De ekonomiska konsekvenserna av ett verkligt robotsamhälle är enorma. Så länge roboten kör din bil eller rensar ditt avlopp eller lagar din mat är det nog inget problem. Men när roboten tar ditt jobb krävs en samhällsförändring. För att inte ekonomin ska självdö i lånebubblor till konsumenter som inte får jobba, eller dö i en hysterisk klassklyfta mellan de som äger och de som inte ens längre har jobb, måste hela samhällets ägande förändras. Det går inte att utveckla robotsamhället utan någon typ av socialism. Alla måste ha samma rätt att leva, utvecklas, upptäcka och känna trygghet. Och i takt med att robotarna utvecklas kommer dessutom ägandet minska som makt över produktionsmedlen.
[…]
De stora tekniksprången i människans historia kommer från stora gemensamma investeringar. Offentlig sektor (antingen militär eller civil) är grunden för den mesta grundforskning och ny teknik. Datorer, internet, robotar… allt föds ut skattemedel från början. Lönekampen tvingar samtidigt kapitalägarna att effektivisera produktionen. Ny teknik hoppade från flygplanet Drakens radarsystem, och blev mobiler som blev del i ett giganät och nu sitter du i soffan och streamar fotbollsmatchen från andra sidan jorden och du kanske tror att det är privat entreprenörskap som ligger bakom vardagens förändring. Jag påstår att det kommer från människans skaparkraft och att ägandeformen idag hindrar mer än den befriar. För när roboten befriar människor från jobb de inte vill ha kommer den självklart också ta bort ägarens jobb.

Så vad återstår för dig att göra? Leva livet kanske? Tanken att meningen med livet skulle vara försörjning via jobb är ju absurd, meningen är gemenskap, att lära nytt, att älska nyfikenhet och förändring. Men varför skulle vi behöva organisera det som jobb? Det återstår bara ett stort problem med robotsamhället, ett problem som vi inte löst och faktiskt nästan aldrig diskuterat. Vad gör vi när robotarna inte längre vill jobba? Intelligenta maskiner kommer ju inte nöja sig med att sköta tvätten. De vill lära, diskutera och tänka som vi. Intelligens i maskiner gör dem till varelser vi kommer få samma problem med som med oss själva.

Precis som Johan Ehrenberg är jag inte oroad av en sådan utveckling. Den dagen vi inte längre behöver arbeta för vår försörjning utan kan låta maskiner arbeta är en bra dag. Mer Iain Banks än Terminator helt klart.  Men en sådan utveckling kräver ett annat samhälle. Ett samhälle utan klassklyftor.

Intressant?
Läs även andra bloggares åsikter om , , , , , , ,

Naasirka

NaasirkaEn av de ursprungliga shangarim (byråerna) i Vilani-imperiet i Traveller-universat. Växte fram ur shugilii-kasten som sysslade med livsmedelsproduktion, jordbruk etc. Om det nuvarande bolaget som bär samma namn faktiskt är sprunget ur den gamla Vilani-byrån är det dock ingen som egentligen vet.

Naasirka är idag Imperiets största tillverkare av robotar och en stor tillverkare av cybernetiska produkter, men ägnar sig fortfarande i stor utsträckning åt livsmedel, såväl produktion som distribution. Dessutom är företaget en stor producent av kommunikationsutrustning och annan elektronik inklusive datorer samt såväl mjukvara som hårdvara till dessa. Huvudkonkurrenter vad det gäller robottillverkning är Ling Standard Products (LSP) och Makhidkarun.

Igsiirdi-famljen är största ägare i företaget tillsammans med Hortalez & Cie. De äger 13 respektive 12% av företaget aktier. Regentfamiljen i imperiet äger 5% och andra adliga familjer 23% tillsammans. Investmentfonder och stiftelser äger 24%, andra storbolag 14% (varav Sternmetal Horizons LIC 6 %, Ling Standard Products 4 %, och General Products LIC 3 %) och resten av aktierna är spridda på ett stort antal privata ägare. Naasirka är själv en stor ägare i Hortalez & Cie med 7% av aktierna. Huvudkontoret finns på Tauri i Vland-subsektorn.

Intressant?
Läs även andra bloggares åsikter om , , , , , , , , , ,

Coola robotar

Darpa Robotics Challenge (DRC) är en tekniktävling där det gäller att konstruera den bästa roboten avsedd för att kunna hjälpa eller ersätta människor i krissituationer som naturkatastrofer eller mycket allvarliga olyckor. Till tävlingen har 17 olika lag med olika varianter på robotar anmält sig. Den ena roboten coolare, fräckare, än den andra.

De 17 lagen är indelade i tre grupper:

Grupp A består av DRC Hubo (Drexel University, DRC Hubo), RoboSimian (NASA Jet Propulsion Labs), SCHAFT (Schaft Inc, HRP-2), Tartan Rescue (Carnegie Mellon University-NREC, CHIMP), Team NASA JSC (NASA Johnson Space Center, Valkyrie) och Team THOR (Virginia Tech, THOR-OP).

Grupp B som alla till grund för arbetet använder samma robot är: IHMC Robotics (FIHMC, Atlas-Ian), MIT DRC Team (MIT, Helios), Team HKU (Hong Kong University, Atlas), Team TRACLabs (TracLabs, Atlas), Team Trooper (Lockheed-Martin, Atlas), Team ViGir (VIGIR, Florian) och WRECS (WPI-CMU, Warner)

Slutligen, grupp C: Chiron (Kairos Autonomi, Chiron), Intelligent Pioneer (IP-Robot), Team KAIST (Rainbow Robot, DRC-HUBO), Team Mojavaton (Mojavaton, Buddy).

Darpa (som då hette Arpa) var förresten en institution som starkt bidrog till konstruktionen av och grunderna till det som blivit internet liksom grunderna till alla moderna operativsystem för datorer.

Några av dem skulle väl kanske kunna platsa i Battlestar Galactica, men andra definitivt inte. Intressant är också att flera team tycks använda hubot som beteckning istället för robot. Undra om de har kännedom om den svenska TV-serien Äkta människor eller om det bara är en förkortning av humanoid robot? Sannolikt är det väl det senare misstänker jag. En del ser dock mer ut som Space Mariens från Warhammer 40 K medan Valkyrie ser ut som en Storm Trooper från Star Wars.

Intressant?
Media: Ny Teknik1, 2, 3, 4, 5, 6, 7BBC, Robotnyheter1, 2, 3, Wired,
Läs även andra bloggares åsikter om , , , , , , , , , , , , , , , , , , , , , , , , , , , ,

DRC Hubo

DRC Hubo

Schaft

HRP-2

Tartan Rescue

CHIMP

NASA JSC

Valkyrie

Team THOR

THOR-OP

Atlas

Atlas

NASA Jet Propulsion Labs

RoboSimian

Chiron

Chiron

Mojavaton

Buddy

IP-Robot

IP-Robot

DRC-HUBO

DRC-HUBO