Datamaskiner og kunstig intelligens.

Utdrag fra kapittel 11 av boka: Matematisk kulturhistorie, (Steinar Thorvaldsen, Eureka forlag 2002).

Forfatteren arbeider ved informatikk, HiTø og IMS, UiTø.

Innledning

Ettersom utviklingen av datamaskinene har gått framover, har det oppstått ulike og motstridende holdninger om hva datamaskinen skulle kunne brukes til. En holdning går ut på at datamaskiner er og blir dumme, lite fleksible og avhengige av mange eksperter for å fungere tilfredsstillende. Det henvises gjerne til maskinenes velfylte "tabbekvote" og alle programsystemer som har "ligget nede" og til slutt måttet trekkes tilbake for kortere eller lengre periode. Andre hevder at maskinens evne til å lære, tenke og skape kommer til å øke raskt slik at de i framtiden vil kunne behandle de samme problemer som mennesket, med samme grad av sikkerhet. Få sider av menneskets intellekt vil dermed kunne holdes utenfor datamaskinenes rekkevidde. Christopher Evans sier i en av sine mest provoserende uttalelser (Evans 1982, s.187):

Mennesket som lenge var den eneste og udiskutable herre på kloden, vil ikke lenger behøve å stå alene overfor universet. Andre intelligenser, som først var sammenliknbare, senere langt overlegne, vil stå ved menneskets side.

Mot dette kan vi stille K.A. Olsen og H.R. Jervels uttalelse (Jervel & Olsen 1984, s.101):

Uansett blir påstandene om at maskinene skal erstatte alle menneskers gjøremål i organisasjoner stående igjen som helt urealistisk. Ikke engang de beste AI-systemene (kunstig intelligens) har oppnådd noen særlig suksess. Ikke engang på delvis lukkede problemområder, som er forferdelig enkle i forhold til de en møter på mange andre områder.

Denne artikkelen er laget for å trenge dypere inn i hva datamaskinen kan og hva den ikke kan. Å fokusere på dette mener jeg blir det viktigste når vi spør om hva IKT vil kunne overta for oss mennesker. Uten en realistisk og faglig holdning til datamaskinens egenart og potensiale, vil debatten om IKT's rolle i framtidens samfunn, sysselsetting, styring, arbeidsmiljø og undervisning bli både ullen og forfeilet.  

Fem begrensninger for datateknologien

I litteraturen har jeg funnet fem barrierer som IKT stadig arbeider innenfor. Disse begrensningene ser ikke ut til å være gitt en gang for alle, men er heller grensefelter som teknologien og programutviklingen stadig flytter eller kan flytte. Men grensene er der og definerer hva som på et gitt tidspunkt ligger innenfor og hva som er utenfor datamaskinens domene. La oss se på hvert av disse grensefeltene:

Tekniske begrensninger.

De første datamaskinene var teknisk usikre og hadde liten lagerkapasitet og opptok stor fysisk plass. De tekniske problemene har siden den tid gjennomgått en rivende utvikling, og de ulike "brikkene" har blitt stadig mindre.

De grensene teknikken setter flyttes altså med stormskritt. Dog måtte en datamaskin som skulle kunne lagre alle forskjellige spill i sjakk, lagre et uendelig antall muligheter. Til sammenlikning er antall atomer i det kjente univers et tall med 80 siffer (ca. 10⁸⁰) , så selv om hvert atom kunne gjøres om til en lagercelle monnet det lite. Dette viser hvor krevende et virkelig problem kan være. En prinsipielt uslåelig sjakkmaskin synes altså umulig også av tekniske grunner (Jervel & Olsen 1984, s.137). Så har da intet menneske heller fått betegnelsen "prinsipielt uslåelig". Men virkelige problemer er ofte så krevende at det er naivt å tro at de lar seg løse ved bare å pøse på med mer datakraft.

Denne effekten kalles gjerne "kombinasjonseksplosjonen". Sjakkspillet er bestemt av enkle regler. For hvert mulige trekk av f.eks. 30 er det i neste omgang omtrent like mange nye mulige trekk, tilsammen 900 kombinasjoner. Økningen er eksplosiv, og selv de kraftigste datamaskiner kan bare regne noen få trekk framover, dersom alle muligheter skal tas i betraktning. I det virkelige liv er antall mulige kombinasjoner drastisk mye større. For å hjelpe maskinen må man da innføre prinsipper som skal "sile ut" meningsløse trekk, eller supplere med alternative strategier og kunnskaper.

Økonomiske begrensninger.

Det var militær forskning som finansierte de første datamaskinene. De første produktene var da også dyre. En rapport fra 1954 viste et behov på ca. 50 maskiner for hele USA. Men etter at datamaskinen ble et kommersielt produkt, har finansieringen av nye, bedre og billigere utstyr gått upåklagelig. Prisene er nå så lave at maskinene er i bruk overalt i samfunnet. I våre samfunn er dataindustrien nå på vei til å bli en av de største og mest ekspansive virksomheter.

Logiske begrensninger.

For å kunne bruke datamaskinen i en bestemt sammenheng, må vi først lage en strukturert oppskrift (algoritme) for denne bruken. Slik kan en datamaskin bare brukes til oppgaver og aktiviteter som er formaliserbare. I boka "Hva datamaskiner ikke kan", deler forfatterne naturlige problemer og oppgaver inn i en ÅPEN og en LUKKET del (Jervel & Olsen 1984, s.48ff). Bare den lukkede delen vil kunne struktureres til en formell beskrivelse.

Et problem består ofte av både en åpen og en lukket del.

I våre samfunn er mange aktiviteter blitt formalisert lenge før datamaskinen ble oppfunnet. Vi kan tenke på regnskapsførsel, arkivering og tekstbehandling. Her har IKT kommet til ferdigdekket bord, og anvendelsene har da også kommet raskt.

Hvor skillet mellom det åpne og det lukkede skal legges, er langt fra klart. Her er det en flytende grense. Men datamaskinen programmeres i og krever et lukket og presist språk. Slik får vi en grov prinsipiell grense for hva datamaskinen kan overta. Å prøve å behandle en åpen situasjon med IKT alene, har vi ingen mulighet til å lykkes med. Det blir som å tre en tvangstrøye over seg. Derimot kan det være av nytte å behandle en lukket delmengde av hele situasjonen.

Ettersom kunnskapene øker og formaliseringen av samfunnsoppgavene blir sterkere, skulle man tro at mer og mer ville ligge til rette for bruk av IKT. Rasjonalisering vil ofte kreve formalisering. Dette er nok også riktig.

Men på dette området eksisterer det en logisk grense. Denne ble formulert av logikeren Kurt Gödels allerede i 1931, og går nå under navnet Gödels ufullstendighetsteorem. Allan Turing refererer denne i sin berømte artikkel Computer Machinery and Intelligence (1950 s.444-445):

I et tilstrekkelig omfattende logisk system så finnes det alltid utsagn (dvs. relevante påstander) som verken kan bevises eller motbevises innenfor systemets ramme.

Turing har selv tilpasset dette resultatet til å gjelde maskiner. Dermed står vi igjen med at uansett hvor stor kapasitet en datamaskin har, vil det alltid finnes visse oppgaver den ikke kan løse. Formaliseringen vil aldri dekke et helt fagområde komplett. I praksis er det nok vanskelig å påpeke mangler ved maskiner som skyldes Gödels setning, men resultatet står der som en teoretisk grense.

Men er ikke den menneskelige hjerne også et "formelt logisk system" og dermed underlagt de samme logiske begrensninger som en datamaskin? Dette vet vi vel ennå ikke særlig mye om, men sikkert er det at menneskets kreativitet, intuisjon og språk er noe som forundrer oss til stadighet.

Programmeringsmessige begrensninger.

Selv om maskinvaren er meget komplisert, så er det programvaren som er mest kompleks og koster mest å utvikle. Det legges da også ned enorm arbeidsinnsats fra store programmeringsteam i å utvikle god og effektiv programvare til å takle formaliserte oppgaver. Store programsystemer er noe av det mest kompliserte mennesker har laget. Det er også lagt ned mye arbeid i å framskaffe gode kompilatorer. Her er ADA, Prolog og Java blant verktøyene for bruk på store programmer.

Utviklingskostnadene til et programprodukt er sterkt økende med programmets kompleksitet. Et stort system (100 000 programlinjer) kan være nærmere 100 ganger så dyrt som et lite system (10 000 programlinjer). (Jervel & Olsen 1984, s.146). Når virkelig store programsystemer skal utvikles, må vi være klar over denne eksplosjonsartede økning av arbeidstimer.

Brukere av IKT kjenner også godt til at praktisk talt alle programsystemer i bruk har sine feil og mangler. Når et system er kommet i så mange versjoner at det er feilfritt, er det ofte allerede foreldet.

I 1970-årene brukte amerikanerne mer enn 1 milliard dollar på et system, WIMEX, som skulle gi advarsel om militære angrep og koordinere og kontrollere all amerikansk militær aktivitet. Men WIMEX har vist seg å svikte i kritiske situasjoner. I 1979 skal det visstnok ha vært seks minutters varsel om "kjernefysisk krig" pga. feil i WIMEX (Jervel & Olsen 1984, s.151). Systemet har ikke gitt de forventede resultater.

Etiske avgrensninger.

Orwells bok 1984 er blant de bøker som har satt spor i folks bevissthet. Forestillingen om det datakontrollerte samfunn hvor maskinen Storebror alltid kunne se deg, er noe de fleste av oss rygger tilbake for. I Norge har vi da også vært tidlig ute med lover for å sikre personvernet. Det er f.eks. begrensninger på bruk av personnummeret. Dette betyr at det som teknisk sett er mulig allikevel ikke realiseres ut fra en etisk vurdering. Vi ønsker å ta vare på våre rettigheter som mennesker. Selv om IKT kan gjøre noe, så følger det ikke dermed at den bør brukes til dette. Bør vi utvikle IKT-systemer som f.eks. kan fungere som psykologer og dommere?

Fra Cronberg 1982

Store programsystemer kan dessuten føre til en sentralisering av nøkkelmakt og dermed gi noen få ("eliten") muligheter for manipulering. Slik makt til noen få vil være uønsket i demokratiske samfunn.

Kunstig intelligens?

På 1960-tallet arbeidet E. Gelernter med å utvikle programmer som skulle finne beviser for geometriske setninger. Geometrien som vitenskap ble formalisert for over 2000 år siden. En dag frambrakte programmet et elegant bevis som programmereren ikke kjente til fra før!

Setningen som skulle bevises var om likebeinte trekanter, og det gjaldt å vise at vinklene ved grunnlinja var like store. Programmet betraktet trekanten ABC og dens speilbilde BAC som to forskjellige trekanter. Men disse er kongruente (tre sider parvis like). Dermed er også vinklene like. Beviset er enkelt og samtidig forskjellig fra det vi kan finne i skolebøkene.

Ser man nøyere etter i Gelernters geometriprogram, finner man at selve teknikken som frambrakte beviset ligger temmelig klart formulert i programmet fra forfatterens hånd (Hofstadter 1979, s.606). Senere har det også vist seg at den gamle matematiker Pappus fra Aleksandria (ca. 300 e. Kr.) brukte samme bevis. Hadde Gelernters program stadig fortsatt å frambringe geniale beviser, måtte det betraktes som en genistrek. Men så skjedde ikke.

Dette betyr ikke at datamaskinen er et uaktuelt hjelpemiddel i matematikken. De som har lært integralregning vet at å integrere funksjoner kan være litt av en kunst. Men det er nå utviklet gode program som utfører symbolsk integrasjon (finner ubestemte integraler). Disse regnes stort sett for å være overlegent raskere enn å gjøre jobben for hånd. De mest kjente programmene som brukes innen matematikk er Excel, Mathematica, Maple og MatLab. Bruk av datamaskiner har ført til en dramatisk økning av de vitenskapelige og teknologiske muligheter til å ta i bruk matematiske modeller. Datamodeller og numeriske eksperimenter har i en viss grad kunnet erstatte tidkrevende og dyre laboratorieeksperimenter (Langtangen & Tveito 2001).

Det mest kjente matematiske problem som ble løst ved bruk av datamaskin er det såkalte firefarge problemet. Det går ut på å vise at fire farger er nok når man skal fargelegge et kart slik at to land med felles grenselinje (det er altså ikke nok med bare et grensepunkt) skal ha forskjellig farge på kartet. Beviset ble først gjennomført i 1976 av Appel og Haken på deres datamaskin.

Vil framtidens datamaskiner kunne tenke? Får vi snart maskiner med "menneskets fornuft" som bl.a. er i stand til å lære?

Blant forskerne, også de innenfor kunstig intelligens (AI), mener de fleste nei. Begrunnelsene kan variere. En del forskere innen feltet mener problemene lar seg løse, men med den teknologi vi i dag ser for oss, kommer vi ikke i nærheten av intelligens. Etter manges skjønn må det grunnleggende nye oppdagelser til for å løse problemet. I dag snakkes det derfor mer om kunnskapsprosessering, kunnskapsbehandling, agenter, adaptiv programvare og nevrale nett enn om AI.

AI har de siste årene nærmest fungert som et slags moteord som skulle beskrive framtidens universalhjelpemiddel og bringe nye landevinninger til de fleste fagfelter. Mange mener nå at ordbruken har vært et salgstriks uten reelt innhold. Ved enkelte amerikanske universiteter kan et kurs i Artificial Intelligence være det samme som et videregående kurs i programmering.

AI-programmeringen konsentrerer seg om å bygge opp avanserte søkealgoritmer som ved skrittvis og langvarig prøving og feiling bygger opp en løsning. Tilgjengelige kunnskaper om problemområdet representeres som data til programmet i form av regler og rammebetingelser. Der det er umulig å finne sikre (perfekte) løsninger på problemet, benyttes usikkerhetsfaktorer. Disse antyder den mest brukbare løsning.

Dette er ting som tradisjonell programmering har arbeidet med lenge. En datamaskin kan kun kjøre regelbaserte programmer. Selvfølgelig kreves det betydelig intelligens å utvikle programmene. Dette har alltid vært et minimumskrav til alle forskere og oppdagere. Senere kreves det jo heldigvis ikke samme intelligens for å bruke resultatet. Slik sett er det misvisende å knytte ordet intelligens til disse programmene.

Sjakkmesteren Deep Blue

I tiden mellom 3. og 11. mai 1997 spilte sjakkmesteren Gary Kasparov en serie på 6 kamper mot et dataprogram kalt Deep Blue. Møtet mellom de to året før hadde endt med 2-4 i Kasparovs favør. Men denne gangen spilte datamaskinen bedre. Deep Blue vant den siste kampen og resultatet ble sammenlagt 3,5-2,5. Dermed gikk meldingen ut i verden om at menneskets sjakkmester nå var slått av en datamaskin. Kanskje var det bare et tidsspørsmål før maskinene ville bli mennesket helt overlegen?

Spill er nå en stor og velutviklet industri på datamaskiner, og det er mye å velge imellom. Men ingen av disse spillene har så stor interesse som sjakk ut fra et forskersynspunkt. Det gamle sjakkspillet har fascinert datavitenskapen helt siden 1950-tallet. Sjakk krever en kombinasjon av matematikk og mønstergjenkjenning (pattern recognition) i forening med mindre presise ting som intuisjon og dømmekraft. Med sine 64 ruter og begrensede bevegelsesmønster er ikke sjakkspillet spesielt vanskelig fra et teoretisk synspunkt. En datamaskins evne til å gjøre beregninger gjør det ganske overkommelig å skrive et dataprogram som er i stand til å spille etter disse reglene. Det finnes da også en stor mengde slike spill, og de fleste av dem er i stand til å slå de fleste av oss, siden vi ofte overser ting eller gjør en feil underveis.

Men spill på stormesternivå er en helt annen utfordring og har en helt annen interesse for programmererne. Programmet Deep Blue altså kommet så langt at kun et fåtall sjakkspillere kan by på seriøse problemer. Av disse er Kasparov den fremste.

En forskergruppe i IBM begynte utviklingen av Deep Blue i 1989. Prosjektet går ut på finne mer ut om et klassisk problem innen dataforskningen, nemlig å bruke parallelle prosesser for å løse kompliserte problemer på kort tid. Deep Blue teamet ved IBM, består av Feng- Hsuing Hsu, Murray Campbell, A. Joseph Hoane, Jr., Gershon Brody, og Chung-Jen Tan. Den versjonen av deres spesialkonstruerte datamaskin som ble brukt i 1997 besto av totalt 256 prosessorer hvorav 8 var dedikerte sjakk prosessorer. Selve dataprogrammet Deep Blue er skrevet i programmeringsspråket C og kjører på UNIX operativsystem. Systemet er i stand til å beregne 50 til 100 milliarder posisjoner på 3 minutter - den tiden en spiller har til disposisjon for hvert trekk i et klassisk sjakkspill.

Deep Blue vil derfor aldri gjøre taktiske feil på kort sikt. Hvis det gjør en feil i det hele tatt, er det noe som først blir klart senere i kampen.

Et menneske er kun i stand til å søke igjennom 1-2 trekk pr. sekund, selv om menneskets valg av alternativer er mye mer selektiv bygd på intuisjon, erfaring og mønstre. I motsetning til dette søker Deep Blue igjennom hundrevis av millioner posisjoner pr sekund basert på en mye enklere utvalgsmetode.

For å gi Deep Blue ennå større dybde, har det til disposisjon en database med spill av stormestere fra de siste 100 år. Det har også en egen avslutningsdatabase tilgjengelig, og denne trer i kraft nå bare 5 sjakkbrikker er igjen på brettet. Denne databasen inneholder milliarder av sluttscenarier.

Bruker så Deep Blue kunstig intelligens? Svaret på dette er nei. Tidligere sjakkprogrammer prøvde å etterlikne menneskets tenkning, men ble aldri gode til dette. Det eksisterer fortsatt ingen formel for intuisjon, og det er umulig å lage en maskin som skal etterlikne en prosess som vi i utgangspunktet ikke har særlig god forståelse for.

Hvordan mennesket tenker er fortsatt et spørsmål uten svar. De som har designet Deep Blue har derfor valgt å stole på datateknologiens rå regnekraft kombinert med databasen som "kloner" de største sjakkamper menneskene har utkjempet de siste 100 år. Programmets styrke er og blir styrken til en maskin. Når det gjelder å behandle så store mengder informasjon er systemet imponerende. Men det "lærer" ikke noe om sin motspiller mens det spiller.

Deep Blue fungerer som et ekspertsystem som utnytter sin enorme mengde av lagret informasjon. Det tenker ikke, det reagerer. Deep Blue er ikke reduksjonistisk i sin natur. Og Kasparov spiller ikke bare mot en datamaskin. Han spiller også mot en samlet "hær" av gamle sjakkmestere. Deep Blue organiserer denne kunnskapsbasen og anvender den i sann tid på sjakkbrettets stadig endrende mønster.

Sjakkspillet er et lukket og komplekst problem. Grunnet kompleksiteten har man i programmet Deep Blue måttet velge å kombinere datamaskinens beregningskraft med teknologier kjent fra design av ekspertsystemer. Deep Blue gir oss derfor bare mulighet til å sammenlikne datateknologien med våre egne evner og muligheter innen komplekse, men lukkede problemområder. Innen åpne problemstillinger kan datamaskinene ikke anvendes alene. Mennesket kan altså fremdeles hevde at dets kreativitet, intuisjon og dømmekraft fortsatt vil triumfere over silisiumbrikkene, selv om spillet sjakk nå er på vei inn i ”silisiumtiden”.

Konklusjon

Vi har sett at datamaskinen har et stort potensiale som informasjons- og kommunikasjonsbehandler. Virkelige problemer har oftest både en formaliserbar (lukket) og en ikke-formalisert (åpen) side. Innen formaliserbare sammenhenger vil IKT kunne anvendes både til arkivering, begrensede ekspertsystemer og robotstyring. Det ikke-formaliserbare må fortsatt tas hånd om av mennesker. Mennesket krever mindre formaliseringsgrad enn datamaskinen. Slik sett vil datamaskinen bli en nyttig "arbeidshest" og ikke noe som "overtar". Kunsten er å finne de rette jobbene til den.

Mange programsystemer er under utvikling med sikte på å ta seg av de lukkede deler av diverse oppgaver. Et problem her er at systemene blir enormt store. Man mister rett og slett oversikten. Det kan tenkes at å utvikle de virkelig store systemer blir like vanskelig og ressurskrevende for oss som å reise i verdensrommet.

Den elektroniske datamaskin har neppe sporen i seg til å kunne "tenke". Maskinen følger visse regler for behandling av data. Den har en beregnende fornuft, og beregningene skjer hurtig. Et menneske arbeider også slik under innlæring av nytt stoff. Men når vår bevissthet fungerer i all sin prakt, arbeider den intuitivt og "gjennomtrenger" problemet som er for hånden (Roszaah 1986, s.46). Menneskets bevissthet har også spesielt evnen til å tenke i bilder, analogier og se helheter. En sammenlikning av den menneskeskapte informasjonsteknologi og den biologiske "teknologi" kommer altså ut med visse avgjørende fordeler til sistnevnte.

En teknologisk fristelse vi kanskje vil møte i framtida, er å presse områder som egentlig er åpne inn i en lukket ramme, for dermed å kunne sette et datasystem over saken. Slik brukt blir IKT en tvangstrøye. Mennesket kan bli innsnevret til å "tenke som maskiner".

Uten et realistisk syn på den nye teknologien, kan f.eks. skolene lett komme til å kaste penger ut av vinduet. Vi må kjenne både muligheter og begrensninger. Albert Einstein sa en gang: "Min blyant er flinkere enn meg" (Popper & Eccles 1977, s.208). Med dette ville han vel si at med blyant og papir er vi betydelig flinkere enn uten dette verktøy. Bevæpnet med datautstyr vil vi da i denne sammenhengen kunne bli ennå noen hakk flinkere enn med blyanten og papiret.