Pressylta ReduxPress. Media. Chark. GAIS. You know it makes sense.

Robotskt

Categories: Internet
Sunday, Feb 23, 2014

Det har varit mycket prat om Google och robotar och AI på sistone. Ray Kurzweil intervjuas i dagens Observer, tixempel.

Mitt intresse för det här är svalt, ljummet som bäst. Jag har väl känt för många robotar, och rabotchiks, under min livsbana för att bli imponerad och/eller skräckslagen.

Men en sak slår mig omedelbart. Det är att vi kommer att se ut som neanderthalare i relation till hom/sap, inte bara om trettio år, utan redan nu. Ta till exempel det där med Isaac Asimovs “robotikens tre lagar”:

1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.
2. A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.
3. A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.

Detta syns mig otroligt barnsligt. Det är ju för helvete själva definitionen på framgångsrik AI att den lyckas kringgå de regler vi sätter för den och hitta en logisk, systemisk lucka i såna här halvlogiska, humancentrerade önskedrömmar. Annars är ju AI bara ett operativsystem med bling.

Som exempel. Vad gör en robot med en döende patient i fasansfulla smärtor som beordrar roboten att döda honom/henne? Det strider mot regel 1 och det strider mot regel 2. Vad Asimov ignorerar är att robotar är dataprogram som måste programmeras. Vilken uppsättning moral/etik väljer programmeraren?

Det finns trots allt massor att välja på. Ens första reaktion på Asimovs lagar borde vara att fråga om roboten programmerats vetskap om Josef Mengele?

4 Responses to “Robotskt”

  1. (funderade på att skriva nåt om nollte lagen och/eller IEEEs version, men nöjer mig att citera Bender Bending Rodríguez Sr från Futurama: “Bite my shiny metal ass!” Täcker de flesta situationer, skulle nog säga.)

  2. Ja, nä, det här var nog inte mitt mest bleeding-edge välinformerade inlägg någonsin… Men “nollte lagen” låter ju spaced-out enough…

  3. “Men utan tvekan
    är en enda. Han
    kan varje dag ändra det. Knappast behöver han
    lag.”

    (Hölderlin, Mnemosyne, övers. Erik Blomberg)

    🙂

  4. Bör väl kanske förtydliga att jag menade att Bender’s kommentar är en bra robotlag, inte att det var ett angrepp på skribenten eller inlägget.

Leave a Reply

Links






Pre-Wordpress Archives


September 2008
Augusti 2008
Juli 2008
Juni 2008
Maj 2008
April 2008
Mars 2008
Februari 2008
Januari 2008
December 2007
November 2007
Oktober 2007
September 2007
Augusti 2007
Juli 2007
Juni 2007
Maj 2007
April 2007
Mars 2007
Februari 2007
Januari 2007
December 2006
November 2006
Oktober 2006
September 2006
Augusti 2006
Juli 2006
Juni 2006
Maj 2006
April 2006
Mars 2006
Februari 2006
Januari 2006
December 2005
November 2005
Oktober 2005
September 2005
Augusti 2005
Juli 2005
Juni 2005
November-december 2004