Så ska vi undvika ett Terminator-scenario

av Leif Bergström Forum 2016-01, sida 26-27, 28.01.2016

FLL BE BACK. Det som ännu utgjorde scifi år 1984 kan bli en mardrömsliknande verklighet inom en snar framtid, omm vi ska tro den vetenskapliga och teknologiska eliten. Botermedlet heter öppen artificiell intelligens.

Teknikentreprenörer och -investerare satsar en miljard dollar i projekt för altruistisk artificiell intelligens med öppen källkod, till gagn “för hela mänskligheten”.

LEIF BERGSTRÖM NEW YORK X Allt mer i vårt samhälle styrs av artificiell intelligens (AT): mobiltelefoner, krigsdrönare, bilar och nyhetsflöden. Men AI kan bli ett existentiellt hot för mänskligheten om den byggs på fel sätt; i värsta fall står en kärnvapen- eller robotapokalyps inför dörren.

”AI-vapen kommer vara morgondagens Kalashnikovs”, skrev bland annat Bill Gates, Stephen Hawking och Steve Wozniak i ett öppet brev i fjol somras, och menade att vi måste lägga band på ett globalt vapenrace styrt av autonoma system.

Varningen från den vetenskapliga och teknologiska eliten fick flera av Kaliforniens mest framgångsrika entreprenörer och tek FORUM FÖR EKONOMI OCH TEKNIK NR 1201 nikinvesterare att lystra till. Hotet kan kontrolleras om avancerad artificiell intelligens blir tillgänglig för alla, menar en grupp investerare som satsar ”åtminstone en miljard dollar” på ett nytt forskningsinstitut avsett att leda utvecklingen av AI med öppen källkod.

Herren på täppan. Affisehnamnet bakom institutet OpenAI är Elon Musk, grundare av elbilstillverkaren Tesla Motors och det privata rymdföretaget SpaceX.

Medan Teslas bilar idag är kända för att använda den kanske mest avancerade AI på vägarna, konstaterade Musk 2014 i ett tal till studenter vid Massachusetts Institute of Technology ”Om jag tvingas gissa vad vårt största existentiella hot är, skulle jag nog gissa på Al ”Mänsklighetens ställning på vår planet är beroende av vår intelligens, så om vår intelligens kan överträffas är det osanmolikt att vikan fortsätta vara i kontroll över planeten”, sade Musk i fjol till CNN.

När planerna på OpenAl offentliggjordes i december, förklarade han att en del av risken ligger i att tekniska framsteg kan kontrolleras av enskilda makthavare eller företag - även kallblodiga diktatorer eller ambitiösa bolag som Google. Botemedlet är enligt Musk och hans kumpaner att göra artificiell intelligens allmänt tillgänglig, för icke-vinstdrivande syften.

Nästa vattendelare. Google är långt ifrån det enda företaget som hårdsatsar på AI. Facebook, Apple, Amazon, Tesla, Microsoft och IBM (minns schackmästaren Deep Blue, och Watson som vann Jeopardy) tillhör teknikeliten som ser AI som nästa kommersiella slagfält.

Att utveckla tekniken med öppen källkod är inte heller unikt för Open AI. Under hösten förklarade såväl Google som Facebook att man ämnar göra sina deep learning enginestillgängliga som open source (öppen källkod). Detta ger programmerare möjlighet att använda verktygen för nya applikationer.

För Googles del handlar det om delar av koden till maskininlärningsplattformen Tensorflow (men inte hårdvaran), för Facebooks del om ritningarna till den specialbyggda hårdvaruplattformen Big Sur, som i sin tur via en (fortsatt) hemlig algoritm tuggar sigigenom oceaner av material som publiceras på Facebook. För Google innebär det en kovändning, då man tidigare noga patenterat och slagit vakt om tekniska framsteg för att garantera sitt tekniska och kommersiella försprång.

Men för båda företagen är också besluten att öppna källkoderna kommersiellt motiverade. De vill locka andra programmerare och företag att komma med nya lösningar och försnabba utvecklingen. Nya genombrott som görs i företagen kan fortfarande skyddas av skaparnas immateriella rättigheter.

Idealism, För OpenAI är öppenheten däremot själva grundidén. I programförklaringen beskrivs det som ”ett icke- vinstdrivande artificiellt intelligens-företag” ”Vårt mål är att främja utvecklingen av digital intelligens på ett sätt som har störst sannolikhet att främja mänskligheten, utan de begränsningar som följer med behovet att uppvisa ekonomiska resultat”

Google, Facebook, Apple, och andra företag har dammsugit akademiska forskningscentra på många av branschens främsta talanger och kan locka med betydligt mer lönsamma kontrakt än universiteten (se förra Forum). Men enligt OpenAI kan spetsforskare också lockas av företagets idealistiska programförklaring.

Sam Altman, som leder riskkapitalbolaget Y Combinator och delar ordförandeskapet i OpenAI med Musk, förklarar att OpenAls första grupp anställda lockas just av de filosofiska målsättningarna, trots att de kundetjänat större pengar hos ett vinstmotiverat bolag. Forskningsdirektör är Ilya Sutskever, som plockats från Googles Brain Team, chief technology officer är Greg Brockman, som hade samma titel i nätbaserade betalsystemet Stripe.

Bland investerarna märks, förutom Musk och Altman, Musks medgrundare av Paypal Peter Thiel, Linkedins medgrundare Reid Hoffman, och Y Combinators Jessica Livingstone, Amazons Web Services och den indiska teknikkonsulten Infosys.

Grundplåten för företaget har av media rapporterats som en miljard dollar, men

Musk har förklarat att investerarna inte satt någon bortre gräns för sitt stöd. OpenAI har förklarat att man de första åren bara avser att använda en bråkdel av anslagen.

Framåt med språng. Utvecklingen av artificiell intelligens har nått stora genombrott de senaste åren. Både Google och Facebook har program som kan känna igen ett ansikte, och sortera fram alla bilder av den personen. Apples iPhone har den digitala assistenten Siri som svarar på användarens muntliga frågor. Googles Android liksom Microsoft har konkurrerande röstigenkännande program. Flera skilda produkter kan prestera (åtminstone ibland användbara) översättningar.

I den tidiga utvecklingen av AI gällde det mest att öka datorns kapacitet. Deep Blue unde slå Garri Kasparov i schack genom att se längre fram i tiden och analysera möjligheterna av varje alternativt drag. Det gällde datorns råstyrka.

Nu används vad som kallas deep learning (djup maskininlärning) algoritmer som verar på hög abstraktionsnivå. Datorn serveras med tillräckligt många bilder av ett objekt för att ”lära” sig att identifiera även nya objekt inom samma kategori. Eller med tillräckligt många ord och meningar för att kunna föra något som kan likna en konversation.

Faust. Med deep learning tävlar nu bland andra Google och Facebook om vem som kan bli först att slå stormästarna i det asiatiska spelet Go.

Medan det i schack i genomsnitt finns 35 möjliga drag av välja, finns det i Go 250. Det är fortfarande omöjligt att kalkylera följderna av ett drag flera drag framåt och stormästarna använder till stor del intuition. En av Googles tekniker har förklarat att företaget inom kort kan presentera en stor överraskning gällande arbetet med Go.

Google köpte 2014 det brittiska AI-företaget Deep Mind, ett bolag som Elon Musk var en tidig investerare i. Han har senare förklarat att den investeringen syftade till att hålla ett öga på dem.

Den nya valutan i Kiseldalen heter AI. Som OpenaAl säger i sin programförklaring ”Det är svårt att bedöma hur mycket AI påen mänsklig nivå kan gagna samhället, och det är lika svårt att föreställa sig hur mycket det kan skada samhället om det utvecklas och används felaktigt.”

AKTUELLT I FÖRENINGARN tf fi

Tekniska Föreningen Driftingenjörsförbundet i Finland iFinland Banvaktsgatan 2 A, Banvaktsgatan 2 A 00520 Helsingfors 00520 Helsingfors tfn: 040 585 258 e-post: kansliotfif.f tfn: 040-585 0972 e-post: kanslidiff. 29.1 Sommarjobbskväll i Åb 2.2 Skapa ditt personliga varumärke, Helsingfor 3.2 Sommarjobbskväll i Otnä 3-2 Ingenjören i kläm mellan Lenin och Stalin, Helsingfors 5.2 Alumnkväll i Vasa med Kinatem 5.2 Teater i Vasa: Tre systrar och en berättels 9.2 Solveig Lehrer - Vett och etikett i arbetslivet, Vasa 18.2 Teater i Helsingfors: Faster och ja 19.3 TFiF:s och DIFF:s traditionella barnfest, Helsingfors 20.3 DIFF ÖBs skidresa till Hemavan

Se även www.tfif.fi eller www.diff.fi.

NIORD

Ekonomföreningen Niordr.f. Banvaktsgatan 2, 00520 Helsingfors

Cati Lilja, 0400-13 18.2 Teater: Faster och ja 8.3 Sommarstugbokningen börjar 15.3 Smyckeskur 16.3 Matlagningskur 31.3 Årsmöte

Se även Niordbladet och www.niord.fi.

EKF

Ekonomiekandidatföreningen r.f. Kontaktperson: Anders Nordlund, 040-1949 49 e-post: arnordlundÖgmail.com

Baraviföreningen rf

Kontaktperson: Torvald Lindberg, tfn: 045-1015 414 e-post: torvald.lindberg&kolumbus fi

FORUM FÖR EKONOMI OCH TEKNIK NR 12016