Blake Lemoine jobbade med att utveckla språkdatabaser som skickligt och flödande kan svara på frågor i jag-form, det vi ibland kallar artificiell intelligens.
Men han hoppade av. Djupt illa berörd.
Han ställde nämligen frågor till datorn, som svarade på ett sätt som Blake Lemoine uppfattade som mänskligt.
Problemet ligger, som så ofta, i språket.
Lemoine skulle säkert ha känt annorlunda om AI:n hade talat i tredje person. Det vill säga: inte sagt ”jag”.
Just nu famlar lagstiftare över hela världen efter sätt att bromsa, äga, kontrollera och reglera artificiella intelligenser.
Mitt första förslag är radikalt: att ingen AI får kommunicera i jag-form. Och idén fick jag från en barnbokshjälte.
Astronauten Len Renberg gjorde stort intryck på mig som barn. Len Renberg levde i en framtida Vintergatan som blivit näst intill obeboelig, inte främst på grund av miljöförstöring, utan på grund av samhällets trasighet. Övervakning, genomkommersialisering, hänsynslöshet.
Det som gjorde författaren George Johanssons rymdpentalogi ”Universums öde” så drabbande för ungar i mellanstadiet var alltså inte hur oigenkännlig framtiden var – utan i stället att det gick att förstå utvecklingen precis. Man kunde ana hur lätt vi, helt vanliga människor, skulle kunna hamna i Len Renbergs värld.
Till slut bestämmer sig Len Renberg för att fly, tillsammans med sin flickvän, dataanalytikern Amalthea. Det får man egentligen inte, men han gör det – han fintar bort rymdpolisen och kör sitt lastskepp Morning Star till en annan galax. Len och Amalthea vet att de aldrig kan återvända.
Ombord på Morning Star finns förstås en stor dator. Med den kan man konversera ganska bra, ge instruktioner, ställa frågor och få svar. Men den har en egenhet: Den säger inte ”God morgon, Len” trots att den enkelt skulle kunna det. I stället säger den ”God morgn, Len”. Den har ett litet talfel.
Detta talfel har Len Renberg programmerat in.
Han gjorde det som en påminnelse åt sig själv: Den här maskinen är inte mänsklig. Den är inte ett sällskap.
Redan nu finns utomordentliga automatiska röstassistenter, Google ligger i framkant även här, och röstassistenten kan utan problem boka bord hos frisör och på restaurang och med flödande elegans svara på följdfrågor. Den till och med hummar lite tvekande, för att låta mer mänsklig, vilket jag för min del anser är oetiskt. I stället borde förstås roboten alltid, obligatoriskt, inleda med att introducera sig som en röstassistent, som ringer på uppdrag av en namngiven person.
Varför? Eftersom ingen dator är ett jag.
Gästskribent: Andreas Ekström
Andreas Ekström
Andreas är bokad för talaruppdrag i till exempel Washington DC, Los Angeles, Madrid, Oslo – och Hudiksvall. Han kommer gärna till er också, men boka med framförhållning!
Andreas pratar huvudsakligen om den digital revolutionen. Man kan säga att han ständigt letar efter avgörande skärningspunkter – maskin och människa, nu och sedan – för att hjälpa den som menar allvar med sitt lärande
Trygghetsgaranti