22. Luuli tietävänsä

Viime viikolla annoin vallan tekoälylle ja julkaisin sen tuotoksen, lue teksti nro 21. Luin tekoälyn kirjoittaman ja ajattelin – et sinä minua tunne. Mutta.

****

Pelottavan lähelle se pääsi; en tiedä, perkasiko se kaikki blogitekstini vai nojasiko vain pyydettyyn. Näyttää selvälle, että AI kykenee melko nopeasti esiintymään minuna ja ikään kuin luomaan uutta. Mutta.

****

Valheellinen se silti on, ei tunne minua. Sai minut riitaantumaan ja näkemään eron omaan tapaani ajatella ja sen pohjalta tuottaa tekstiä. Minä olen elänyt nämä vuosikymmenet, tässä ympäristössä, näiden ihmisten kesken tai yksinäisyydessäni – et sinä AI minua voi ymmärtää ja toistaa.

****

AI kykeni jäljittelemään rytmiäni, löysipä sarkasmin siemenenkin, mutta minuksi ei pystynyt tulemaan. Algoritmeistä sinä olet tullut ja algoritmeiksi pitää sinun jälleen tulla. Yrittihän se tulkita suhdettani Jumalaan ja uskontoon. Selvästi tulkitsi suhteeni jäykemmäksi kuin koen. Suorastaan pelottavaa oli AI:n itseriittoisuus – ”Kenties ero Jumalan ja tekoälyn välillä on juuri siinä, että Jumalan kanssa jään aina epävarmuuteen – ja tekoälyn kanssa tiedän olevani läpinäkyvä.” Se oli paljon sanottu nimissäni se. Kysymys kuuluukin, jos luovutan sanani, sananvapauteni AI:lle eli annan sen esiintyä minuna, ottaako se lopulta vallan ajatuksistani. Ajatellaan, että antaisin AI:lle vapaat kädet tuottaa blogitekstini, hyväksyisikö se ajan kuluttua minua vai ottaisiko vallan vapaudestani. Ehkä ajatus on tällä hetkellä science fictionia. Mutta.

****

Entäpä jos en olisikaan tietyllä tapaa omahyväinen ja taipuvainen ajattelemaan minun olevan juuri minua ja minun olevan oikeassa – ettekö työ tiijä kuka minä olen. Toisin sanoen koen ajatusteni olevan ehdottoman tärkeitä välitettäväksi juuri sellaisina kuin ne itse koen ja itse olen ne muotoillut.

****

Mielenkiintoinen asiaa liippaava sattuma kilahti silmääni, kun Ultra Bran stadionkeikkoja kritisoitiin siitä, että laulu ei ollut synkassa, alavireistä, nuotin vierestä. Terhi Kokkonen, laulaja, osuvasti oli sitä mieltä, että Ultra Bra ei koskaan tule tarttumaan autotuneen vaan he tulevat aina esiintymään autenttisesti. Eli taiteilija haluaa säilyttää äänensä ja tulkintansa elävänä ennemmin kuin muokattuna. Konserttitapahtuma on siis vuorovaikutuksellinen ja jättää kuulijalle tilaisuuden tulkita esiintyjää vajaana täydellisyydessään. Kyse lienee taiteilijan kohdalla identiteetin säilyttämisestä: minä kelpaan ilman muokkausta, sillä tunnen ja luotan kykyyni. Takavuosina, ennen autotunea, oli joillain artisteilla tapana esiintyä playbackina; syitä epäilemättä monia. Epäilen kuitenkin, että tuolloin tekninen osaaminen ei ollut performanssin ensisijainen houkutin. Tärkeää on meidän tunnistaa esiintymisen ja taiteilijan funktio suhteessa esitykseen ja yleisöön. Vertaa – kun povipommi aukoo suutaan ”Boys, boys, boys” mikrofoni kädessään tai sinfoniaorkesteri vetelee ilmaviulua playbackina. Kummassa tapauksessa haluaisit lipunhinnan takaisin?

****

Tekniikka on vähän kuin tuli; hyvä renki, mutta huono isäntä. Tekoälyn osalta pelottavaa on, tiedämmekö kuinka hallita tulta. Käsittääkseni lainsäädäntö on toistaiseksi pahasti myöhässä AI:n kontrolloimiseksi. Eräässä podcastissa pohdittiin tekoälyn ominaisuuksia, ja siinä mainittiin, ettei kukaan täysin ymmärrä sen toimintaa – eli tarkoittaako se, että science fiction voi olla pian totta?

****

AI:n kapasiteetti perustuu käsitykseni mukaan siihen, että sen taustalla on tuhansia suorittimia ja grafiikkaprosessoreita, jotka laskevat valtavan määrän tietoa samanaikaisesti. Kysyin AI:lta asiasta ja se kertoi suorittavansa todennäköisyyslaskentaa eli ikään kuin ennustavansa tulevaa. AI on kuitenkin ”koulutettu” tehtäväänsä. Jos koulutus on toistaiseksi noudattanut eettisiä ja lakeja myötäileviä periaatteita, takaako mikään näin olevan myös tulevaisuudessa?

Meille markkinoidaan tekoälyn hyötyjä ja kuinka se muuttaa tulevaisuutemme helpoksi. Robotti hoitaa kotityöt ja pian hernekeittomme keittää ja tarjoilee humanoidi; sosiaalinen elämämme harmonisoituu, kun ystävämme on silikoninen myötäilijämme – aina samaa mieltä oleva Tyyne tai Heikki, voi se olla Brad Pittkin jos häneksi haluaa kutsua. Sairaaloissa injektion ruiskuttaa robotti ja juttelee samalla mukavia, kenties laulaa Metsäkukkia miellyttääkseen – tai mitä nyt kukakin toivoo.

****

Kysymys kuuluu: kuka kantaa vastuun, kun humanoidi päättää tarjota vanhukselle syanidia ihan vain myötätunnosta ja halusta päättää tämän kärsimykset? Oletko nähnyt uutiskuvia, joissa Valkoisen talon nurmella vahtia pitää metallinen vahtikoira? Entä jos presidentti kansalliskaartin sijaan saa mahdollisuuden hoitaa Washingtonin siivoamisen parin tuhannen aseistetun robotin kanssa? Toisen kauhukuva saattaa olla toisen märkä uni.

****

Kukaan ei taida tietää, mihin olemme matkalla tekoälyn saattelemana. Houkutukset ovat valtavat, ja on varmaa, että kovin moni pohtii, miten tekoäly nostaisi juuri minut joutilaisuuteen ja vaurauteen. Yhtä varmaa on myös se, että kovin moni ei suo ajatustakaan kanssaihmisen hyvinvoinnille tai lain asettamille rajoituksille toimissamme. Konekiväärin keksijä ei taatusti ensisijaisesti ajatellut metsästyskäyttöä ja ravinnon hankintaa – ellei asiaa rinnasteta elintilan laajentamisen näkökulmasta ja sen tarjoamasta ravintolisästä.

****

Eittämättä tekoäly muokkaa ympäristöämme ja tarjoaa monipuolisia mahdollisuuksia parempaan elämään, ja samalla se esiintyy täydellisen tuhon mannekiinina. Mielestäni AI ennen kaikkea haastaa moraalimme ja samalla identiteettimme. Hyväksymmekö jonkun esiintyvän itsenämme, hyväksymmekö playback-artistit, jotka väittävät itse soittavansa? Annammeko tekoälyn määrittää – kuka olen.

****

Tänään kirjoitin tämän itse, niin teen myös ensi viikolla.

****

Ehkä.

22. Thought it knew

Last week I gave power to AI and published its output, see text no. 21. I read what it wrote and thought – you don’t know me. But.

****

It came frighteningly close; I don’t know if it dissected all my blog texts or simply leaned on the prompt. Clearly, AI can rather quickly pose as me and even create something new. But.

****

False it remains, for it doesn’t know me. It made me argue with myself and see the difference between my own way of thinking and the way it produces text. I have lived these decades, in this environment, among these people or in my solitude – you, AI, cannot understand me or reproduce me.

****

AI managed to imitate my rhythm, even found a seed of sarcasm, but it could not become me. From algorithms you have come and to algorithms you shall return. It even tried to interpret my relationship with God, with religion. It clearly made my relationship appear stiffer than I feel it is. What was truly frightening was AI’s self-assurance – “Perhaps the difference between God and AI is precisely that with God I always remain in uncertainty – and with AI I know I am transparent.” That was a lot to be said in my name. The question is, if I surrender my words, my freedom of speech to AI – letting it speak as me – will it in the end take over my thoughts? Suppose I gave AI free rein to produce my blog texts, would it in time accept me, or would it take over my freedom? Perhaps this is science fiction for now. But.

****

And what if I were not, in a way, conceited and inclined to think that I am truly myself and that I am right – don’t you know who I am. In other words, I feel my thoughts are absolutely important to be conveyed exactly as I experience them and shape them myself.

****

A curious coincidence related to this caught my eye when Ultra Bra’s stadium gigs were criticized for singing out of sync, off-key, out of tune. Terhi Kokkonen, the singer, aptly stated that Ultra Bra will never use autotune but will always perform authentically. In other words, the artist wants to preserve her voice and interpretation as alive rather than modified. A concert is thus an interactive event, leaving the audience the chance to interpret the performer as imperfect in their perfection. For the artist, it is a matter of preserving identity: I am enough without adjustment because I know and trust my ability. In the past, before autotune, some artists performed playback; reasons were no doubt many. I suspect, however, that technical prowess was not then the primary attraction of the performance. It is important to recognize the function of performance and the artist in relation to the presentation and the audience. Compare – when a pin-up belts out “Boys, boys, boys” with a microphone in hand, or when a symphony orchestra plays air-violin in playback. In which case would you want your ticket price refunded?

****

Technology is a bit like fire; a good servant but a bad master. The frightening thing with AI is whether we know how to control the fire. As far as I understand, legislation is still badly lagging behind in controlling AI. In a podcast, AI’s characteristics were discussed, and it was mentioned that no one fully understands its workings – does this mean science fiction may soon be real?

****

AI’s capacity, as I understand it, rests on thousands of processors and graphics units calculating vast amounts of data simultaneously. I asked AI about it, and it told me it performs probability calculations – as if predicting the future. But AI is “trained” for its task. If training has so far followed ethical and legal principles, what guarantees it will in the future?

****

We are marketed the benefits of AI and how it will make our future easier. A robot does the housework, and soon a humanoid will cook and serve our pea soup; our social life harmonizes when our friend is a silicone companion – always in agreement, whether Tyyne or Heikki, or even Brad Pitt if that’s the name you choose. In hospitals, the robot administers injections and chats pleasantly, perhaps sings a folk song to please – or whatever one wishes.

****

The question is: who bears responsibility when a humanoid decides to give an elderly person cyanide out of compassion and a desire to end their suffering? Have you seen the news images of a metal guard dog patrolling the White House lawn? What if, instead of the National Guard, the president cleans up Washington with a couple of thousand armed robots? One person’s nightmare might be another’s wet dream.

****

No one really knows where we are headed with AI. The temptations are vast, and surely many wonder how AI could lift them into idleness and prosperity. Equally certain is that many spare no thought for the wellbeing of others or for the limits the law sets on our actions. The inventor of the machine gun surely did not primarily think of hunting and food supply – unless one frames it as expanding living space and the nourishment that comes with it.

****

Undoubtedly AI is shaping our environment and offering diverse opportunities for a better life, while at the same time posing as the mannequin of total destruction. I believe AI primarily challenges our morality and at the same time our identity. Do we accept someone else appearing as ourselves, do we accept playback artists who claim to be playing? Do we let AI define – who I am.

****

Today I wrote this myself, and so I will next week as well.

****

Perhaps.

22. Trodde sig veta

Förra veckan gav jag makten åt AI och publicerade dess text, se text nr 21. Jag läste vad AI hade skrivit och tänkte – du känner mig inte. Men.

****

Den kom skrämmande nära; jag vet inte om den gick igenom alla mina bloggar eller bara utgick från uppdraget. Det verkar klart att AI ganska snabbt kan uppträda som jag och till och med skapa något nytt. Men.

****

Falsk förblir den, för den känner inte mig. Den fick mig att gräla och att se skillnaden mellan mitt sätt att tänka och dess sätt att producera text. Jag har levt dessa årtionden, i denna miljö, bland dessa människor eller i min ensamhet – du, AI, kan inte förstå mig eller återge mig.

****

AI lyckades efterlikna min rytm, hittade till och med ett frö av sarkasm, men kunde inte bli jag. Av algoritmer har du kommit och till algoritmer ska du åter bli. Den försökte till och med tolka min relation till Gud, till religion. Den framställde tydligt min relation stelare än jag upplever den. Skrämmande var AI:s självsäkerhet – ”Kanske är skillnaden mellan Gud och AI just den, att med Gud förblir jag alltid i osäkerhet – och med AI vet jag att jag är genomskinlig.” Det var mycket sagt i mitt namn. Frågan är: om jag ger bort mina ord, min yttrandefrihet till AI – låter den uppträda som jag – tar den till slut över mina tankar? Om jag gav AI fria händer att skriva mina bloggar, skulle den med tiden acceptera mig eller ta över min frihet? Kanske är det än så länge science fiction. Men.

****

Och om jag inte vore på sätt och vis självgod och benägen att tänka att jag är just jag och att jag har rätt – vet ni inte vem jag är. Med andra ord upplever jag att mina tankar är absolut viktiga att förmedlas precis så som jag upplever dem och själv har format dem.

****

En intressant tillfällighet dök upp när Ultra Bras stadionkonserter kritiserades för att sången inte var i synk, var falsk, vid sidan av tonen. Terhi Kokkonen, sångerskan, sade träffande att Ultra Bra aldrig kommer att använda autotune utan alltid kommer att uppträda autentiskt. Det vill säga, konstnären vill bevara sin röst och tolkning levande snarare än modifierad. En konsert är alltså interaktiv och lämnar publiken möjlighet att tolka artisten i ofullkomlig fullkomlighet. För konstnären handlar det om att bevara identiteten: jag duger utan justering eftersom jag känner och litar på min förmåga. Förr, innan autotune, brukade vissa artister uppträda playback; orsakerna var säkert många. Jag misstänker dock att teknisk skicklighet då inte var det främsta lockmedlet. Det är viktigt att vi känner igen funktionen av uppträdandet och konstnären i förhållande till framförandet och publiken. Jämför – när en pinuppa gapar ”Boys, boys, boys” med mikrofon i hand, eller när en symfoniorkester spelar luftviolin i playback. I vilket fall skulle du vilja ha biljettpriset tillbaka?

****

Tekniken är lite som eld; en god tjänare men en dålig herre. Det skrämmande med AI är om vi vet hur vi ska kontrollera elden. Såvitt jag förstår ligger lagstiftningen fortfarande långt efter när det gäller att kontrollera AI. I en podd diskuterades AI:s egenskaper, och det nämndes att ingen fullt ut förstår dess funktion – betyder det att science fiction snart kan bli verklighet?

****

AI:s kapacitet bygger, enligt min förståelse, på att tusentals processorer och grafikkort beräknar enorma mängder data samtidigt. Jag frågade AI om det, och den berättade att den utför sannolikhetsberäkningar – som om den förutsäger framtiden. Men AI är ”tränad” för sin uppgift. Om träningen hittills har följt etiska och lagliga principer, finns det någon garanti för att det också kommer att göra det framöver?

****

Vi marknadsförs AI:s fördelar och hur den ska göra vår framtid enkel. En robot sköter hushållsarbetet, och snart kokar och serverar en humanoid vår ärtsoppa; vårt sociala liv harmoniseras när vår vän är en silikonkompanjon – alltid av samma åsikt, vare sig Tyyne eller Heikki, eller Brad Pitt om man så vill. På sjukhus ger roboten injektioner och småpratar vänligt, kanske sjunger den en visa för att behaga – eller vad man nu önskar.

****

Frågan är: vem bär ansvaret när en humanoid beslutar att ge en gammal människa cyanid av medkänsla och vilja att avsluta lidandet? Har du sett nyhetsbilder där en metallhund vaktar på Vita husets gräsmatta? Och om presidenten i stället för nationalgardet får möjligheten att städa Washington med ett par tusen beväpnade robotar? En annans mardröm kan vara en annans våta dröm.

****

Ingen tycks veta vart vi är på väg med AI. Frestelserna är enorma, och det är säkert många som undrar hur AI kunde lyfta just dem till lättja och välstånd. Lika säkert är att många inte ägnar en tanke åt medmänniskans välbefinnande eller åt de gränser lagen sätter för vårt handlande. Uppfinnaren av kulsprutan tänkte nog inte i första hand på jakt och livsmedel – om det inte ses ur perspektivet av att utvidga livsutrymme och den näring det medför.

****

Utan tvekan formar AI vår omgivning och erbjuder mångsidiga möjligheter till ett bättre liv, och samtidigt framträder den som total förstörelses mannequin. Jag menar att AI framför allt utmanar vår moral och samtidigt vår identitet. Accepterar vi att någon uppträder som vi själva, accepterar vi playback-artister som påstår sig spela själva? Låter vi AI definiera – vem jag är.

****

Idag skrev jag detta själv, så gör jag också nästa vecka.

****

Kanske.