Dagsnotering

Quote looking for source

So this is alternatively sourced to Marcus Aurelius and Oswald Spengler “The secret of victory lies in the organization of the non-obvious”. I would love to know the source, mostly because I would like to read what comes next. I really think that there is a profound truth to be explored along those lines, one that would resonate with Lidell-Hart as well as with Borges. And what a tag line…”The organization of the non-obvious”. I will use that from here on on.

“Don’t tell me” – 30 years later

In 1984 – a glorious year for music generally – a small group called Blancmange released the amazing album “Mange tout”. It is in many ways one of the best albums of the time, and it has receded far too fast into oblivion. Here is the lead single, “Don’t tell me”:

It is a brilliant piece of music, and the lyrics are just as good. Pure pleasure. But the best is yet to come. Their following album was released in 1985, and contains some of the most sublime music of that age – and for that reason it never was a hit. In -85 the world had moved on. Sadly.

The end of Solvay?

I remember first reading about quantum physics with a sense of relief and liberation: the world was not a humean table of billiards, but a probabilistic chaos of possibilities. Now, since I have come to be much less convinced that probabilistic chaos is more free than deterministic order, but at some less reflective level I have always felt that if chance is at the root of things that would be, well, a good thing. Determinism always seemed a dreary proposition. It now turns out that this may have been a temptation shared by the Solvay-conferences dominant flank when they sketched out their view of what the world is based on quantum physics. Einstein famously objected that he felt uncomfortable with the randomness of it all in his comment “God does not play dice” – but Bohr dismissed that with asking that Einstein not tell God what to do. In a new article in Wired we can now read about deterministic accounts of quantum physics, and maybe, just maybe, we learn again that betting against the smartest person in the room is never a good thing to do. We also, however, are back at the drawing table from a philosophical viewpoint: if the world is deterministic – does it matter what we do? Were we determined to ask that question and to then act in a certain way in answering it and drawing our conclusions from it? Is there any space for meaning in an oil-droplet universe? Answers range from Chalmer’s notion of consciousness as a basic force in the universe to an in-depth study of the language games we are playing and how they are related – and why no single one has precedence over any other. A longer discussion. But one that suddenly became more interesting again – as the philosophical ramifications of the deterministic worldview in physics have remained largely unexplored since Solvay.

Notes from Brussels on Plato and Aristotle

I arrived in Brussels a few days ago, and am traveling back tonight. The city is in full summer dress, and as I was running through one of the parks I ran past beautiful roses and other flowers, their scent almost creating a separate section of time and space. There is something about scents, about the way in which they catch you off guard. I am here working, but will not bore you with details. It is a formative period in the history of the European Union, a new commission, a new parliament — Europe chooses what it wants to be. It is also a formative time in many member states, where the sorting through the consequences of the European elections in quite a few cases is now shading over into national elections. I follow the reports from friends and others in Almedalen and see that Sweden is in the midst of this transition – the discussions about welfare, tax, xenophobia, immigration, education and health care both intense and wide-ranging. With the events in the Ukraine, defense also finds itself on the agenda, much to the surprise of many who would have expected that this issue would never figure on the national scene in Sweden.

I sat yesterday looking at the view from the terrace at the Sofitel, following the skyline of Brussels, the strange mix of small, old houses and new, very 70s modern architectures melding into one single skyline, interrupted by the occasional church or highrise. There is something about cities, there is something about that way of organizing ourselves that really appeals to me. I am reading a monograph on Aristotle and Plato, and right now the author is discussing their views of politics – the utopian Platonist view (that led to so many disasters when implemented in reality) and the Aristotelian view that starts from the bottom and reasons from the individual. Aristotle, then, is usually thought to be the father of the modern democracy, indeed of modern statecraft and a science of the state. His work on collecting constitutions – pure comparative political science – is one example. And Plato in the meantime has been derided as the philosopher of dictators and monarchs – and indeed that is how he has been used. But it strikes me that there is something both magnificient and tragic in Plato’s view of politics. His visions, myths and ideal models in The Republic and Laws or the Stateman are all societies that start from the assumption of the good man, they all start from this notion that virtue is knowledge. The socratic analysis. Virtue is knowledge, and hence if we build a society that creates knowledge – we will get virtue. When we give up on Plato, we give up on the possibility of creating (through external means) the virtuous man.

And, sure, we may be better off without that idea, without that illusion. But that does not mean that the question Plato forced us to ask was wrong. Plato’s assumption then – read one way – is that if we do not assume virtuous men and women, well, then what we do in politics will always be mitigation and probably useless at that. His quip, that good men do not need good laws, and bad men will ignore good law, is a reductio ad absurdum of the view that we can hope for laws to underpin any ideal society. The battle between Plato and Aristotle, then, becomes not so much the battle between utopianism and democratic realism as it becomes a a battle between the hope for a virtuous man and the fear that virtue is unattainable. We are, thus, perhaps, better off with Aristotle, but that sets a series of important boundary conditions for all political systems and asks that we base them on the assumption of scarcity of virtue.

I think that in one sense that was why Aristotle had to also attack the issue of virtue in the Nicomachean ethics. He needed to find a concept of virtue that was not impossible, but real. The very idea of virtue as the mean is powerful not least because the existence of the extremes prove that there is a virtue, it is real, it is realizable. And then we can build our society on that, not on the ideal man, but on the mean, and – again reading the ethics – on friendship as a fundamental social mechanism.

Then the question becomes: what is the maximum size of social organism that can be constructed with virtue as a mean and friendship as the constituent mechanisms? The city?

 

Memetics and free speech – a note in the margin

What are your views on spreading viruses? Do you believe that spreading viruses is a good thing because it increases the collective immune response of the species, or are you more of the conviction that spreading viruses is malicious and should be, in specific cases, even criminalized as a kind of abuse? Most of us likely end up in the second camp, and I know that I have secretly hoped there is a special circle in hell for those that go back to quickly to school/work/kitchen when they have suffered a bout of winter vomiting disease or the calici-virus.

So, why ask this? Well, I just finished looking at a very old TED-video (you know, the sometimes derided fast food for the mind that can give you world-shaking insights in a few minutes) that really set me thinking. It was a video with one of my all-time favorite philosophers, the unimaginably smart professor Daniel Dennett. His talk was about parasites. He told a story about a parasite that attacks ants, gets them to climb grass in the hope that they will be eaten by cows and there, in the nice and comfy heat of the cow stomach, the parasite can reach its next life stage (career growth!).

The parasite hijacks the ant’s brain and bypasses all genetic imperatives that normally govern how an ant behaves, and turns the ant into a vehicle for its own advancement.

This, Dennett said, is exactly what happens with some ideas as well — ideas that he, following Richard Dawkins, calls memes. These memes are mental parasites that proliferate through human communication and colonize the brains of humans in order to survive. Ideas evolve, survive and die out. Dennett had another interesting example: quakers. Quakers, he said, is a religion that preaches celibacy. For everyone. Not a great evolutionary strategy, one may note. But quakers could recruit enough orphans and outcasts in society to survive – until the modern welfare state put them out of business: not enough misery, and so not enough recruits, and hence they died out. Quakers had – Dennett implies – a mental meme parasite that hijacked them and counteracted all genetic imperatives.

And then he turned to more serious examples: fundamentalist religion being the perhaps most important one. There, more than in any other case, the imperatives of genetic evolution are effectively eliminated and young people willingly die for the sake of an idea. There are many such memes, Dennett noted, a great multitude of ideas to die for.

Slightly worrying.

But so what do we do? Let us assume that the memetic hypothesis – it is not more than that I think – is right. What does memetics then teach us about how we constitutionally should design societies and legal systems?

What about, say, free speech?

Free speech is very much like a right to freely spread viruses, if the memetics hypothesis holds. Anyone can spread any idea, and if that idea takes hold it is fine to let it do so. If we believe that ideas are memes and act like parasites or viruses – do we then believe in free speech?

It is not an easy question. We can imagine a number of different answers that will put us in different kinds of dilemmas.

First, we could argue that we need inoculation to ideas that want us to die for them. The only inoculation that would work, we could say, is education. Education, then, is the key to allowing free speech. Only the educated are allowed to hear free speech, because they have the vaccine of knowledge that allows them not to be smitten by fundamentalism, nationalism or any other ism that wants to kill them. But what levels of education do we need, and how do we proceed with the many billions that have not yet had those levels of education? Should we revoke their right to listen as they are far to easily infected with murderous ideas? And how do you do that, but still educate them?

Second, if we assume this is true and revise our hate speech thinking to actually reflect a ban on ideas that wish that we die for them, ideas that are positively designed to circumvent the evolutionary genetic imperatives or procreation and evolution, what do we then do with non-violent versions of these ideas? The wish to join a monastery circumvents genetic imperatives, but is it harmful? Is it only ideas that want us to die for them that we need to stop? What about patriotism? Altruism? Do we object to ideas of sacrifice if they don’t make evolutionary or genetic sense? “It is logical to sacrifice yourself for two siblings and four cousins…” as someone supposedly said.

Thirdly, if we say memetics has no bearing on free expression, that there simply is no analogy there that is meaningful to explore – then do we really believe in the memetics hypothesis? If we indeed think we are sometimes victims to ideas that infect us, we should probably design our society to give us as good a chance as possible to fight them, should we not?

All this leads me to think that an exploration of a theory of free speech in memetics would be an interesting undertaking, and one that would allow us to cut the many challenges in free speech and free expression in a new way, even if it ends up discarding the analogy because of mismatches and glitches in the metaphors employed. Just a thought. Now, back to what you were doing.

 

Edit 24.7 2014: One reader was nice enough to point out to me that it was the shakers not quakers that had a prohibition on reproduction.

Turingtestet – en uppföljning

Som jag postade i en kommentar till streckaren i går förväntade jag mig att det skulle gå fort för nyheten om turingtestet att bli kontroversiell. Idag har jag fått en mängd brev om understreckaren, flera positiva och några negativa. De negativa menar att jag “gått på en mediegroda” eller “inte källgranskat mina påståenden”. Förmodligen menar de då att jag felaktigt säger att Turingtestet nu klarats av, och sannolikt menar de själva att så inte är fallet. Det är intressant av en mängd skäl.

För det första har de tydligen inte läst artikeln, eftersom jag medger att det är lätt att vara skeptisk, och att det finns gott om invändningar. Faktum är att nästan hela artikeln handlar om dessa invändningar och hur Turingtestet själv försökte bemöta dem. Och att testet kanske borde överges.

För det andra är det intressant att se att folk blir så upprörda över att någon påstår att Turingtestet nu kan klaras av. Det kan läsas som en sorts nervositet (någon tweetade på skoj att nu är minsann Skynet nära) eller som en grav överskattning av Turingtestet. Och det är nästan ännu mer intressant. Turings test är ett imitationsspel och inte något annat. Datorer av olika slag har klarat av det massor av gånger under olika villkor, redan med mjukvarupsykologen Eliza agerade patienter som om de kunde anförtro den imiterade psykologen sina hemligheter och efter det finns det massor av exempel på program som klarat av Turingtestet under vissa omständigheter. Som jag skriver i artikeln kan vi välja att ändra parametrarna tid och procentandelen som tar mjukvaran för mänskliga, men det ändrar inte sakförhållandena. Turingtestet är ett test på ett programs förmåga att imitera människor. Det gör de tillräckligt bra idag för att vi skall kunna säga att det nu kan läggas till handlingarna – och utan att några särskilda slutsatser kan dras om datorers intelligens, egentligen.

För det tredje finns det en oroväckande slapphet i den källkritiska granskningen. Många har bara skickat länken till en artikel som hävdar att Turingtestet inte passerats utan att läsa denna artikel. Artikeln baserar sig på ad hominem -angrepp på någon som jag är ganska säker på att mejlförfattarna inte tagit sig tid att granska (det står ju på internet att han är en knäppskalle!). Vad vi ser här är framväxten av en klicktivistisk mediekritik, en där det räcker att hitta en artikel som motsäger en annan för att man skall stolt säga att man vederlagt något. Så funkar det förstås inte. Om man hittar två varandra motsägande artiklar får man fundera själv: och det var därför jag skrev mer än tre fjärdedelar av artikeln om just skepsis och invändningar. Det är förfärande hur många som med en länk och litet handviftande tror att de bedrivit källkritik.

För det tredje är det intressant att de flesta inte tycks ha läst artikeln till slut. Min huvudpoäng har varit, och är, att Turingtestet inte är ett intressant test längre. Imiterandes av mänsklig intelligens begränsar forskningen i artificiell intelligens på ett olyckligt sätt och bör upphöra. Vilket jag skriver tydligt i artikelns sista stycke.

Nå, hur är det då? Anser jag att Turingtestet klarats av? Ja, det gör jag faktiskt – ur båda de dimensioner som jag nämner: programvara kan imitera människor tillräckligt bra för att lura en del av oss viss tid och testet har spelat ut sin roll som milstolpe i den artificiella intelligensforskningen. Kvar ligger gåtan om medvetandet, frågor om hur vi interagerar med artificiell intelligens och vilka andra milstolpar vi bör sätta upp.

Nu ska jag fundera på om man inte skall skriva en artikel om debunking som nytt källkritiskt problem: det okritiska accepterandet av motfakta baserat på endast existensen av dessa motfakta, och den obehagliga viljan till förenkling. Intressant, eller hur?

Go-spel, biologiskt avgränsad spelkomplexitet och evolutionär mönsterigenkänning

Varför är det så svårt att lära datorer spela det kinesiska spelet Go? I “The Mystery of Go” i Wired  (14:e maj 2014) skriver Alan Levinovitz om hur arbetet med att försöka skriva bra goprogram har utvecklats de senaste årtiondena. Det är en tankeväckande artikel av flera skäl. För det första snuddar den vid det intressanta begreppet spelkomplexitet, och konstaterar att Go är närmast obegripligt mycket mer komplext än schack, med ett antal olika mått. För det andra väcker artikeln den intressanta frågan – även om den aldrig går på djupet med den – om vad det är som människor gör som vi har svårt att fånga i mjukvara. Levinovitz skriver:

The trouble is that identifying Go moves that deserve attention is often a mysterious process. “You’ll be looking at the board and just know,” Redmond told me, as we stood in front of the projector screen watching Crazy Stone take back Nomitan’s initial lead. “It’s something subconscious, that you train through years and years of playing. I’ll see a move and be sure it’s the right one, but won’t be able to tell you exactly how I know. I just see it.”

Och senare i en studie av Go-mästare noterar han att man funnit något märkligt:

“A lot of people peak out at a certain level of amateur and never get any stronger,” David Fotland explains. Fotland, an early computer Go innovator, also worked as chief engineer of Hewlett Packard’s PA-RISC processor in the 70s, and tested the system with his Go program. “There’s some kind of mental leap that has to happen to get you past that block, and the programs ran into the same issue. The issue is being able to look at the whole board, not the just the local fights.”

Och:

According to University of Sydney cognitive scientist and complex systems theorist Michael Harré, professional Go players behave in ways that are incredibly hard to predict. In a recent study, Harré analyzed Go players of various strengths, focusing on the predictability of their moves given a specific local configuration of stones. “The result was totally unexpected,” he says. “Moves became steadily more predictable until players reached near-professional level. But at that point, moves started getting less predictable, and we don’t know why. Our best guess is that information from the rest of the board started influencing decision-making in a unique way.”

Samma återkommande tema: man bara ser, det är unikt, någon sorts mental hopp…det korta svaret är helt enkelt att vi inte vet. Och detta är spännande. Det finns alldeles tydligt något som en liten delmängd människor kan göra (det finns inte många Go-experter) som vi ännu inte lyckats fånga i mjukvara. Vad kan det vara?

Låt oss fundera på de möjliga hypoteserna.

I: Om vi ser på hur Go-program blivit bättre och utvecklats de senaste åren så har det handlat om avancerad statistisk analys av olika slag (Monte Carlo Tree Search) och en gissning skulle kunna vara att duktiga Go-spelare helt enkelt är bättre än datorer på att intuitivt göra sådana analyser. Det är en intressant möjlighet, och skulle betyda att hjärnan på någon nivå kan köra väldigt avancerade algoritmer snabbare och bättre än dagens bästa datorer. Motargumentet skulle kunna vara att om man frågade de flesta gomästare så skulle de inte kunna genomföra beräkningarna som krävs eller ens förklara vad Monte Carlo-analys är. Men det är förstås möjligt att det sker på en sorts undermedveten nivå, och att vi alla är mycket bättre på matematik undermedvetet än vi inser.

II: Människor gör något annat, har tillgång till en särskild förmåga som förmår, med träning, identifiera möjligheter i mycket stora spelrum snabbare än någon känd algoritm. Låt oss kalla denna förmåga (detta mentala hopp) för ett särskilt spelsinne som vi utvecklat över tid, som evolverat eftersom de som haft detta sinne haft bättre överlevnadschanser än de som inte kunnat snabbt hitta bra drag i det komplexa överlevnadsspelet. Här känns det som om vi gör oss skyldiga till en sorts deus ex machina förklaring, vi hittar på ett nytt sinne, eller pekar på teorin om intuitionen, och säger att det är en svart låda som vi inte kan reducera eller förklara ytterligare. Som förklaring är det egentligen inte mycket att hurra över.

III: En tredje möjlighet är att det finns något i spelets utformning som gör det möjligt för oss att reducera det enorma spelrummet till ett annat mycket mindre spelrum. Låt oss se hur det skulle kunna vara möjligt. Vi vet att om vi bara analyserar spelrummet på basis av antalet möjliga drag så är Go extremt komplext – och när vi ser komplexitetsmåtten är det faktiskt rimligt att fråga hur människor alls kan spela Go – men ändå tycks människor kunna spela spelet mycket bra. Tänk om det är så att människor de facto spelar ett annat spel? För att kunna utveckla denna tanke måste vi skissa förutsättningarna för den. Antag att vi som biologiska varelser har ett visst mönsterigenkänningsrum – vi har utvecklats så att vi kan se vissa typer av mönster och tillskriva dem mening. Antag nu att detta mönsterigenkänningsrum M appliceras på universumet av möjliga Go-spel och att det inom ramen för dessa mönster finns ett mycket mindre spelrum av biologiskt meningsfulla/möjliga gopartier. När vi studerar Go studerar vi abstraktionen, men spelet är egentligen baserat på en uppsättning biologiska analogier – stenar är levande eller döda, de kan andas eller inte andas. Tänk om det är så att människor spelar Go(biologiskt avgränsat spelrum) och datorer tvingas spela Go(universellt spelrum)? En hypotes som denna tar inte sin utgångspunkt i spelets matematiska egenskaper, utan i de biologiska egenskaperna hos spelets upphovsman och hur dessa grundläggande egenskaper präglar spelets utformning. Go är ytterst ett spel skapat av människor, och därmed har det ett dolt biologiskt designarv. Det “unika som människor gör” ligger i att i Go är det fördelaktigt att söka drag i mönster som vi av evolutionen lärt oss att fästa särskild vikt vid – vårt spelrum är begränsat av vår biologiska natur, men mjukvarans möjliga spelrum är inte begränsat alls.

Jag är mest intresserad av hypotes III, eftersom jag tror att det finns anleding att fundera kring vilken roll den som skapar ett spel har. Det är en wittgensteinsk kommentar, förstås, och den har att göra med den ofta citerade kommentaren som Wittgenstein fäller om lejon. Om lejon kunde tala, säger han, så skulle vi inte förstå dem. Lejonens unika natur – deras biologiska grund eller deras unika vara om vi inte vill riskerar att bli anklagade för biologism – skulle skapa ett unikt språk. Tanken som underbygger III är att spel är en sorts språk, och att upphovsmannens natur speglas i dem på ett sätt som gör dem enklare för upphovsmannen att spela. Vi skulle kunna parafrasera och säga “Om lejon spelade lejonspel, skulle de slå oss” – eller om människor utformar ett spel så kan datorer inte slå dem.

Uppenbarligen gäller detta bara en mindre klass spel – det finns många spel där datorer kan slå oss med lätthet – men det ger oss en aning om hur det kommer sig att vi som människor kan något som datorer finner det svårt att göra: vi har utvecklat en serie mönsterigenkänningsalgoritmer över lång tid som när de reflekteras i ett spel ger oss ett distinkt övertag över ett system som inte på förhand vet hur det skall söka genom det totala spelrummet, snarare än det biologiskt meningsfulla spelrummet.

Invändningar saknas inte: en kritiker skulle med rätta kunna säga att vad jag gjort här är bara att jag klätt upp intuitionen i litet wittgensteinska citat och evolutionär biologi, och att jag fortfarande inte gett några ledtrådar om hur vi skulle kunna skapa bättre go-program. Det kan stämma. Det kan också vara så att vi skulle kunna vinna på att träna datorer på mönsterigenkänning i naturen och använda dessa domänspecifika mönsterigenkänningsverktyg för att analysera problem, snarare än att starta i det matematiskt möjliga.

 

Kolumn i SvD om nyföretagande och jobb, samt en runda andra texter

Bloggen har varit tyst ett tag, och det är alltid något som irriterar mig. Att skriva är att tänka och när jag inte hittar tid att skriva så betyder det förmodligen att jag inte hinner tänka efter tillräckligt. Nåväl, här är en runda texter som jag skrivit på senaste tiden på andra ställen:

Sådär. Nu ska vi se om vi kan hitta tillbaka till en normal inläggsrytm här också.

Uppdaterat: 28.5 med rätt länk till strategikrönikan.