About

Posts by :

Istället för Turingtestet…

De senaste dagarnas diskussioner om Turingtestet har varit ganska uppfriskande. Inte minst eftersom jag tror att det är viktigt för alla vetenskaper att ha olika sorters fokusproblem. AI har under ganska lång tid kämpat med vad John McCarthy kallade “Ma, look what I can do”-problem som egentligen bara handlar om att återskapa eller imitera olika mänskliga förmågor. Kan datorer spela schack? Kan de spela go? Kan de måla tavlor? Komponera musik? Imitera mänsklig dialog? En efter en har så dessa olika frågor besvarats jakande på olika sätt, och de har alltid utmanats. När Kasparov slogs av datorer var det många som mumlade att det inte var rättvist, och att det minsann inte kunde gått rätt till och att människor trots allt nog är bättre än datorer på schack. I stället för att bara rycka på axlarna och säga att, jaha, intressant – hur kan vi utveckla nya typer av intelligens i stället för att hålla upp det mänskliga intellektet som en sorts idealtyp mot vilken vi alla borde sträva i vår forskning? Och den lika naturlig följdfrågan blir då om det skulle vara möjligt att utforma andra sorters test för utommänsklig intelligens – test som inte handlar om att bara försöka imitera oss? Och hur skulle då dessa se ut? Det är lätt att tänka siog alternativa imitationsspel – som ett där vi bedömer olika deltagares frågor i stället för deras svar, eller där vi bedömer ett nätverk av olika aktörer för att se om det består till huvudsak av människor eller till huvudsak av mjukvara. Vi skulle också kunna säga att en dator måste kunna laga mat, ha tråkigt eller vara bekymrad över en viss given existentiell fråga för att vara intelligent i någon mänsklig mening. Men hur skulle vi kunna testa för alternativa intelligenser? Där är det inte lika lätt att se hur ett fokusproblem skulle kunna arbetas fram, men det vore värdefullt för diskussionen att fundera kring detta, tror jag.

Kanske finns det här ett gränsproblem, det som antyddes av Wittgenstein i den kryptiska kommentaren om lejonens språk. Om ett lejon kunde tala, skrev Wittgenstein, skulle vi inte förstå det. Kanske kan vi inte känna igen eller identifiera en intelligens som inte är mänsklig – annat än ana att det finns något där? Och kanske är universum fyllt av intelligens som vi helt enkelt inte förmår identifiera på grund av våra egna biologiska begränsningar? Skulle detta då ens vara intelligens? Här fingret på en öm punkt – vi har ingen riktigt bra definition på det vi söker här. Det rör sig om något vagt som kretsar mellan begreppen själ-medvetande-intelligens-tanke-upplevelse och som inte riktigt låter sig testas för.

Eller så är det som den gamla berättelsen om domaren och obscentiteten – “I know it when I see it” – en sorts attitydkriterium av det slag som Wittgenstein föreslog. Det är en annan möjlighet. Det finns en mängd intressanta problem här, som det gamla automatproblemet. Hur vet jag att mina medmänniskor inte är maskiner utan medvetande? Turing konstaterar att i den riktningen ligger solipsismens ödemarker. Och i dem kan vi inte testa något alls (men jag har hört att sällskapet är enastående).

 

Turingtestet – en uppföljning

Som jag postade i en kommentar till streckaren i går förväntade jag mig att det skulle gå fort för nyheten om turingtestet att bli kontroversiell. Idag har jag fått en mängd brev om understreckaren, flera positiva och några negativa. De negativa menar att jag “gått på en mediegroda” eller “inte källgranskat mina påståenden”. Förmodligen menar de då att jag felaktigt säger att Turingtestet nu klarats av, och sannolikt menar de själva att så inte är fallet. Det är intressant av en mängd skäl.

För det första har de tydligen inte läst artikeln, eftersom jag medger att det är lätt att vara skeptisk, och att det finns gott om invändningar. Faktum är att nästan hela artikeln handlar om dessa invändningar och hur Turingtestet själv försökte bemöta dem. Och att testet kanske borde överges.

För det andra är det intressant att se att folk blir så upprörda över att någon påstår att Turingtestet nu kan klaras av. Det kan läsas som en sorts nervositet (någon tweetade på skoj att nu är minsann Skynet nära) eller som en grav överskattning av Turingtestet. Och det är nästan ännu mer intressant. Turings test är ett imitationsspel och inte något annat. Datorer av olika slag har klarat av det massor av gånger under olika villkor, redan med mjukvarupsykologen Eliza agerade patienter som om de kunde anförtro den imiterade psykologen sina hemligheter och efter det finns det massor av exempel på program som klarat av Turingtestet under vissa omständigheter. Som jag skriver i artikeln kan vi välja att ändra parametrarna tid och procentandelen som tar mjukvaran för mänskliga, men det ändrar inte sakförhållandena. Turingtestet är ett test på ett programs förmåga att imitera människor. Det gör de tillräckligt bra idag för att vi skall kunna säga att det nu kan läggas till handlingarna – och utan att några särskilda slutsatser kan dras om datorers intelligens, egentligen.

För det tredje finns det en oroväckande slapphet i den källkritiska granskningen. Många har bara skickat länken till en artikel som hävdar att Turingtestet inte passerats utan att läsa denna artikel. Artikeln baserar sig på ad hominem -angrepp på någon som jag är ganska säker på att mejlförfattarna inte tagit sig tid att granska (det står ju på internet att han är en knäppskalle!). Vad vi ser här är framväxten av en klicktivistisk mediekritik, en där det räcker att hitta en artikel som motsäger en annan för att man skall stolt säga att man vederlagt något. Så funkar det förstås inte. Om man hittar två varandra motsägande artiklar får man fundera själv: och det var därför jag skrev mer än tre fjärdedelar av artikeln om just skepsis och invändningar. Det är förfärande hur många som med en länk och litet handviftande tror att de bedrivit källkritik.

För det tredje är det intressant att de flesta inte tycks ha läst artikeln till slut. Min huvudpoäng har varit, och är, att Turingtestet inte är ett intressant test längre. Imiterandes av mänsklig intelligens begränsar forskningen i artificiell intelligens på ett olyckligt sätt och bör upphöra. Vilket jag skriver tydligt i artikelns sista stycke.

Nå, hur är det då? Anser jag att Turingtestet klarats av? Ja, det gör jag faktiskt – ur båda de dimensioner som jag nämner: programvara kan imitera människor tillräckligt bra för att lura en del av oss viss tid och testet har spelat ut sin roll som milstolpe i den artificiella intelligensforskningen. Kvar ligger gåtan om medvetandet, frågor om hur vi interagerar med artificiell intelligens och vilka andra milstolpar vi bör sätta upp.

Nu ska jag fundera på om man inte skall skriva en artikel om debunking som nytt källkritiskt problem: det okritiska accepterandet av motfakta baserat på endast existensen av dessa motfakta, och den obehagliga viljan till förenkling. Intressant, eller hur?

Go-spel, biologiskt avgränsad spelkomplexitet och evolutionär mönsterigenkänning

Varför är det så svårt att lära datorer spela det kinesiska spelet Go? I “The Mystery of Go” i Wired  (14:e maj 2014) skriver Alan Levinovitz om hur arbetet med att försöka skriva bra goprogram har utvecklats de senaste årtiondena. Det är en tankeväckande artikel av flera skäl. För det första snuddar den vid det intressanta begreppet spelkomplexitet, och konstaterar att Go är närmast obegripligt mycket mer komplext än schack, med ett antal olika mått. För det andra väcker artikeln den intressanta frågan – även om den aldrig går på djupet med den – om vad det är som människor gör som vi har svårt att fånga i mjukvara. Levinovitz skriver:

The trouble is that identifying Go moves that deserve attention is often a mysterious process. “You’ll be looking at the board and just know,” Redmond told me, as we stood in front of the projector screen watching Crazy Stone take back Nomitan’s initial lead. “It’s something subconscious, that you train through years and years of playing. I’ll see a move and be sure it’s the right one, but won’t be able to tell you exactly how I know. I just see it.”

Och senare i en studie av Go-mästare noterar han att man funnit något märkligt:

“A lot of people peak out at a certain level of amateur and never get any stronger,” David Fotland explains. Fotland, an early computer Go innovator, also worked as chief engineer of Hewlett Packard’s PA-RISC processor in the 70s, and tested the system with his Go program. “There’s some kind of mental leap that has to happen to get you past that block, and the programs ran into the same issue. The issue is being able to look at the whole board, not the just the local fights.”

Och:

According to University of Sydney cognitive scientist and complex systems theorist Michael Harré, professional Go players behave in ways that are incredibly hard to predict. In a recent study, Harré analyzed Go players of various strengths, focusing on the predictability of their moves given a specific local configuration of stones. “The result was totally unexpected,” he says. “Moves became steadily more predictable until players reached near-professional level. But at that point, moves started getting less predictable, and we don’t know why. Our best guess is that information from the rest of the board started influencing decision-making in a unique way.”

Samma återkommande tema: man bara ser, det är unikt, någon sorts mental hopp…det korta svaret är helt enkelt att vi inte vet. Och detta är spännande. Det finns alldeles tydligt något som en liten delmängd människor kan göra (det finns inte många Go-experter) som vi ännu inte lyckats fånga i mjukvara. Vad kan det vara?

Låt oss fundera på de möjliga hypoteserna.

I: Om vi ser på hur Go-program blivit bättre och utvecklats de senaste åren så har det handlat om avancerad statistisk analys av olika slag (Monte Carlo Tree Search) och en gissning skulle kunna vara att duktiga Go-spelare helt enkelt är bättre än datorer på att intuitivt göra sådana analyser. Det är en intressant möjlighet, och skulle betyda att hjärnan på någon nivå kan köra väldigt avancerade algoritmer snabbare och bättre än dagens bästa datorer. Motargumentet skulle kunna vara att om man frågade de flesta gomästare så skulle de inte kunna genomföra beräkningarna som krävs eller ens förklara vad Monte Carlo-analys är. Men det är förstås möjligt att det sker på en sorts undermedveten nivå, och att vi alla är mycket bättre på matematik undermedvetet än vi inser.

II: Människor gör något annat, har tillgång till en särskild förmåga som förmår, med träning, identifiera möjligheter i mycket stora spelrum snabbare än någon känd algoritm. Låt oss kalla denna förmåga (detta mentala hopp) för ett särskilt spelsinne som vi utvecklat över tid, som evolverat eftersom de som haft detta sinne haft bättre överlevnadschanser än de som inte kunnat snabbt hitta bra drag i det komplexa överlevnadsspelet. Här känns det som om vi gör oss skyldiga till en sorts deus ex machina förklaring, vi hittar på ett nytt sinne, eller pekar på teorin om intuitionen, och säger att det är en svart låda som vi inte kan reducera eller förklara ytterligare. Som förklaring är det egentligen inte mycket att hurra över.

III: En tredje möjlighet är att det finns något i spelets utformning som gör det möjligt för oss att reducera det enorma spelrummet till ett annat mycket mindre spelrum. Låt oss se hur det skulle kunna vara möjligt. Vi vet att om vi bara analyserar spelrummet på basis av antalet möjliga drag så är Go extremt komplext – och när vi ser komplexitetsmåtten är det faktiskt rimligt att fråga hur människor alls kan spela Go – men ändå tycks människor kunna spela spelet mycket bra. Tänk om det är så att människor de facto spelar ett annat spel? För att kunna utveckla denna tanke måste vi skissa förutsättningarna för den. Antag att vi som biologiska varelser har ett visst mönsterigenkänningsrum – vi har utvecklats så att vi kan se vissa typer av mönster och tillskriva dem mening. Antag nu att detta mönsterigenkänningsrum M appliceras på universumet av möjliga Go-spel och att det inom ramen för dessa mönster finns ett mycket mindre spelrum av biologiskt meningsfulla/möjliga gopartier. När vi studerar Go studerar vi abstraktionen, men spelet är egentligen baserat på en uppsättning biologiska analogier – stenar är levande eller döda, de kan andas eller inte andas. Tänk om det är så att människor spelar Go(biologiskt avgränsat spelrum) och datorer tvingas spela Go(universellt spelrum)? En hypotes som denna tar inte sin utgångspunkt i spelets matematiska egenskaper, utan i de biologiska egenskaperna hos spelets upphovsman och hur dessa grundläggande egenskaper präglar spelets utformning. Go är ytterst ett spel skapat av människor, och därmed har det ett dolt biologiskt designarv. Det “unika som människor gör” ligger i att i Go är det fördelaktigt att söka drag i mönster som vi av evolutionen lärt oss att fästa särskild vikt vid – vårt spelrum är begränsat av vår biologiska natur, men mjukvarans möjliga spelrum är inte begränsat alls.

Jag är mest intresserad av hypotes III, eftersom jag tror att det finns anleding att fundera kring vilken roll den som skapar ett spel har. Det är en wittgensteinsk kommentar, förstås, och den har att göra med den ofta citerade kommentaren som Wittgenstein fäller om lejon. Om lejon kunde tala, säger han, så skulle vi inte förstå dem. Lejonens unika natur – deras biologiska grund eller deras unika vara om vi inte vill riskerar att bli anklagade för biologism – skulle skapa ett unikt språk. Tanken som underbygger III är att spel är en sorts språk, och att upphovsmannens natur speglas i dem på ett sätt som gör dem enklare för upphovsmannen att spela. Vi skulle kunna parafrasera och säga “Om lejon spelade lejonspel, skulle de slå oss” – eller om människor utformar ett spel så kan datorer inte slå dem.

Uppenbarligen gäller detta bara en mindre klass spel – det finns många spel där datorer kan slå oss med lätthet – men det ger oss en aning om hur det kommer sig att vi som människor kan något som datorer finner det svårt att göra: vi har utvecklat en serie mönsterigenkänningsalgoritmer över lång tid som när de reflekteras i ett spel ger oss ett distinkt övertag över ett system som inte på förhand vet hur det skall söka genom det totala spelrummet, snarare än det biologiskt meningsfulla spelrummet.

Invändningar saknas inte: en kritiker skulle med rätta kunna säga att vad jag gjort här är bara att jag klätt upp intuitionen i litet wittgensteinska citat och evolutionär biologi, och att jag fortfarande inte gett några ledtrådar om hur vi skulle kunna skapa bättre go-program. Det kan stämma. Det kan också vara så att vi skulle kunna vinna på att träna datorer på mönsterigenkänning i naturen och använda dessa domänspecifika mönsterigenkänningsverktyg för att analysera problem, snarare än att starta i det matematiskt möjliga.

 

Kolumn i SvD om nyföretagande och jobb, samt en runda andra texter

Bloggen har varit tyst ett tag, och det är alltid något som irriterar mig. Att skriva är att tänka och när jag inte hittar tid att skriva så betyder det förmodligen att jag inte hinner tänka efter tillräckligt. Nåväl, här är en runda texter som jag skrivit på senaste tiden på andra ställen:

Sådär. Nu ska vi se om vi kan hitta tillbaka till en normal inläggsrytm här också.

Uppdaterat: 28.5 med rätt länk till strategikrönikan.

Anteckningar från Vevey

Genévesjön är majestätisk och strandpromenaden i Vevey var fylld av fiskare, flanörer och fotografer i dag. Stora stim av silvrig fisk syntes utanför den murade kajen. Vi promenerade ned till det gamla torget, åt en enkel lunch på en pizzeria (vi satt på uteserveringen i solskenet), drack Pellegrino och betraktade arbetet på Grand Place, och de människor som skyndade förbi. Det är en märklig stad, en sömnig småstad samtidigt som ett av världens största företag har sitt huvudkvarter här, ett företag spårar sitt ursprung tillbaka till 1866.

Det enklaste sättet att ta sig hit är med tåg, man passerar Lausanne, och sedan hoppar man av på den lilla tågstationen. Det känns verkligen att staden har högst 16000 innevånare, och samtidigt är gatorna fulla – turister, men också affärsresenärer, gott om dem. Det slår mig att Vevey har ganska mycket gemensamt med Västerås; samma maktcentrum för ett stort europeiskt företag, samma småstadskaraktär.

I Gamla Staden är byggnaderna robust alplika, och de små gränderna precis på rätt sida pittoreska. Rousseau lär ha ätit nere vid strandpromenaden, och mjölkchokladen uppfanns i den här lilla staden — i alla fall om man får tro medborgarna. Lunchsolen övergick sedan i regn, därefter i ett lättare åskväder men precis till kvällen bröt det upp och vi hittade en liten restaurang efter dagens arbete. En entrecote, ett glas vin och en lugn promenad hem i den långsamt fallande natten.

Jag trodde nog aldrig att jag skulle besöka Vevey. Jag vet inte om jag kommer tillbaka. Det ligger något förunderligt i den tanken.

Att framföra sin moral

Studiet av beslut utgår ofta från föreställningen att de är diskreta, att de sker i ögonblicket, momentant. Den synen på beslut ligger till exempel till grund för mycket av den teoretiska analysen av beteende i ekonomivetenskaperna. Experimentell ekonomi ger vid handen att de modeller som bygger på denna föreställning om beslutet eller analyser av kostnader/intäkter inte alltid ger en rättvisande bild av verkligheten (tänk Kahnemann, Ariely). En tanke som därvid infinner sig är ju att beslut inte fattas utan sammanhang, utan att de är delar av ett mönster, bestämda av hela den väv de ingår i och att den fria vilja vi besitter – den nivå på vilken vi kan forma oss själva – i själva verket är beteendemönstrets snarare än den enskilda handlingens. Så återvänder vi till Aristoteles som menade att dygden var en vana vi måste öva in, och att när vi ställs inför moraliska frågor och beslut så handlar det litet om hur mycket tid vi ägnat åt att öva rätt beteende (en buddhistkoppling finns också här). Varje utmaning i livet är en liten konsert som vi framför av det stycke moralitet som vi övat på och resultatet speglar hur mycket tid vi investerat i att bli duktiga på moral. Här – som annars – spelar träning in. Och helgonen? Kanske är de de människor som ägnat de ikoniska 10 000 timmarna åt att öva moral…

Böcker, resor och funderngar

Resande och läsande går ihop. De senaste dagarna har jag haft möjlighet att plöja en hel del böcker, av olika sorter. En sorts sammanfattning:
* Keplerdeckare – jag läste Hypnotisören och Sandmannen med stor behållning. Ett skickligt hantverk och i många avseenden väl sammanvävt. Man måste beundra sättet på vilket författarpseudonymen knyter samman historierna, men samtidigt blir den typen av “twists” ibland litet tvungna. Det är dock en kritik som är genrefrämmande – som att förvänta sig lyricismer från elektronisk industrimusik.
* Alain de Bottons Religion för Ateister. Här en spännande författare som säkerligen befinner sig i den krets i helvetet som akademiska filosofer reserverat för populärvetenskap och författare som söker en publik. de Botton är dock läsvärd, tänkvärd och intressant att ta del av. Hans senaste om nyheter blev ett riktigt bra RSA-samtal.
* Michio Kaku, Future of the Mind. Hjärnan och dess framtid kommer vi att se en miljard böcker om i framtiden, det ligger en neurorevolution i bubblans startgropar, tror jag. Och det gör inget så länge vi lyckas demontera myten om att intelligens är statisk, att den avtar över åren och att den inte kan utvecklas på bredden. Hjärnan är den kanske mest underutnyttjade resurs som mänskligheten har tillgång till. Och jag menar inte det som en sarkasm.
Just tillbaka från en trevlig resa till ett Paris och Bryssel som våren intagit med stormsteg. Paris är verkligen en makalöst vacker stad. Bryssel en makalöst intressant stad. Google anordade ett samtal med Nick Boström i Bryssel som var ett av de mest stimulerande lunchseminarier jag haft förmånen att vara på på ett tag, det påminner mig om hur viktigt det är att försöka finna nya uttryck för tankar, hitta analogier, gissningar och försöka formulera lagar om utveckling och framtid. Och hur svårt det är att göra det. Ett exempel handlade om “The technology completion conjecture” som i princip säger att allt som kan uppfinnas kommer att uppfinnas – och om det är sant bör vår politiska dialog handla om den ordning i vilket det uppfinns. En provocerande tanke, men också en hoppfull idé.

Ovidius Metamorfoser i pocket!

Noterar att Ovidius Metamorfoser kommit ut i pocketupplaga. En kulturgärning.

Hur förvandlingar skett i vår värld, hur kroppar förändrats,
det vill min bok tala om. O gudar, förvandlingars upphov,
tänk i er nåd på mitt verk och led dess trådar från världens
gryning till senaste tid, den tid, som jag nämner min egen.

Annars läser jag just nu Sloterdijk, kortbloggar på Hypomnemata och önskar mig mer snö, riktigt mycket snö – kaosmycket.