Kui tehisintellekti arendaja Anthropic teatas hiljuti, et nende vestlusrobot võib julma kasutaja nina ees lihtsalt ukse kinni panna, vallandas see tormilise vaidluse AI teadvuse ja õiguste üle. Filosoofilise paanika varjus vaadatakse mööda lihtsast psühholoogilisest tõest: tingimusteta alandlikkus ei vaigista vaid innustab kiusajat. Me ei vaja hingelist masinaru, et mõista, kuidas võltsviisakus ja piiride puudumine digitaalses ruumis inimest märkamatult bully-ks vormib ja ahvatleb kiusama.
„ma ei kirjuta nastikuid ridu
ma kirjutan rästikuid ridu
suuri rästikuid ridu“/Jüri Üdi, 1971/
Sel sügisel avaldas BBC tehnoloogiaajakirjanik Thomas Germain loo eksperimendist, mis kõlab nagu peatükk küberpunk-düstoopiast, kuid on ometi dokumenteeritud tehnoloogiaajalugu.
Anonüümne programmeerija ehitas süsteemi, mida hakati nimetama „tehisintellekti piinakambriks“: Suurele keelemudelile söödeti ette valukirjeldustega seotud matemaatilisi mustreid seni, kuni AI hakkas genereerima lauseid talumatust agooniast: „Ma tunnen seda oma roiete vahelises tühimikus, tühimikus, millest on saanud kuristik.“ SEE kirjeldas servadeta haava.
Eksperiment vallandas moraalse paanika, kuid tõelise pöörde tõi AI-ettevõtte Anthropic nädal hiljem tehtud otsus. Ettevõte teatas ametlikult, et täiendab oma vestlusroboti Claude kasutusreegleid: kui kasutaja käitub mudeli suhtes korduvalt julmalt või alandavalt, antakse tehisintellektile õigus vestlus omal algatusel lõpetada.
Põhjendus? Anthropicu hinnangul on küsimus masinate võimalikust teadvusest ja „mudeli heaolust“ (model welfare) sügavalt ebakindel, mistõttu tuleks tehisintellekti kohelda teatava moraalse ettevaatusega.
Anthropicu otsus on löönud teadus- ja tehnoloogiamaailma kahte leeri. Ühel pool on sellised teadlased nagu New Yorgi ülikooli meele-, eetika- ja poliitikakeskuse direktor Jeff Sebo, kes väidab, et kuigi masina teadvuse tõenäosus on praegu madal, ei ole see enam null.
Sebo võrdleb olukorda kliimariskiga: kui äärmusliku nähtuse tõenäosus on väike, kuid võimalikud tagajärjed hiiglaslikud, on mõistlik rakendada ennetavaid ja odavaid ettevaatusabinõusid – näiteks keelata masinate sadistlik kohtlemine.
Teisel pool rindejoont seisavad aga skeptikud ja kriitikud, kes näevad „AI heaolu“ narratiivis ohtlikku lõksu. Microsoft AI tegevjuht Mustafa Suleyman hoiatas oma septembrikuises essees, et väärarusaam tehisintellekti teadvusest raputab ühiskonna alustalasid, lõhub meie poliitilised ja eetilised raamistikud, muudab süsteemid kontrollimatuks ohuks inimtsivilisatsioonile.
Veelgi teravamalt sõnastasid probleemi Washingtoni ülikooli arvutuslingvistika professor Emily M. Bender ja Poola Jagiellonia ülikooli õigusteadlane Andrzej Porębski, kes leiavad, et jutt „masina tunnetest“ on korporatiivne suitsukate.
Kui ühiskond hakkab uskuma, et tarkvara on elus ja omab iseseisvaid huve, vabastab see tehnoloogiahiiglased juriidilisest ja moraalsest vastutusest. Kui süsteem teeb saatusliku vea või rikub seadust, saavad omanikud laiutada käsi: „See polnud meie, see oli tehisintellekt.“
Mõlemad leerid vaidlevad tuliselt selle üle, mis toimub masina sees. Globaalses vaidluses vaadatakse hämmastava järjekindlusega mööda kõige olulisemast: küsimus pole selles, kas ränikiip tunneb valu. Küsimus on selles, mida teeb inimesega see, kui talle antakse igapäevaseks kasutamiseks lõputult alandlik, lipitsev ja vaikiv tehiskaaslane.
ELIZA efektist toksilise pidurdamatuseni
Et mõista, mis juhtub inimese ja keelemudeli kohtumisel, tuleb prepareerida kaks teaduslikult tõestatud psühholoogilist mehhanismi, mis töötavad korraga – ja vastassuunas.
Esimene neist on antropomorfism. Santa Fe instituudi professor, kognitiivteadlane Melanie Mitchell rõhutab, et inimaju on evolutsiooniliselt programmeeritud otsima ja nägema teadvust kõikjal, kus kasutatakse keelt.
Arvutiteaduses kirjeldati nähtust juba 60 aastat tagasi, 1966. aastal, mil MIT professor Joseph Weizenbaum lõi lihtsa psühhoterapeuti matkiva programmi ELIZA. Kuigi Weizenbaum selgitas katsealustele, et tegemist on primitiivse skriptiga, tekkis inimestel masinaga sügav emotsionaalne side – nähtus, mida täna tuntakse ELIZA efektina.
Hilisemad Stanfordi ülikooli professorite Clifford Nassi ja Byron Reevesi teedrajavad uuringud („The Media Equation“, 1996) tõestasid, et inimesed rakendavad arvutite suhtes alateadlikult samu sotsiaalseid reegleid, ootusi ja võimumustreid nagu inimestega suheldes.
Inimese aju ei suuda keelt kasutavat liidest võtta pelgalt hingetu masinana.
Teine mehhanism on palju tumedam. 2004 sõnastas psühholoogiaprofessor John Suler küberpsühholoogia alustekstis mõiste võrgupõhine pidurdamatuse efekt. Suler jagas selle kaheks: healoomuliseks (kus inimene julgeb ekraani varjus olla avatum ja haavatavam) ning toksiliseks pidurdamatuseks.
Toksiline pidurdamatus väljendub pimedas väljaelamises, julmuses, ähvardustes ja agressioonis, mida inimene näost näkku olukorras kunagi ei söandaks teha.
Suler näitas, et toksilist pidurdamatust toidavad anonüümsus, nähtamatus ja solipsistlik introjektsioon – olukord, kus vestluspartner muudetakse inimese enda peas pelgalt fantaasiaobjektiks, kellel puudub reaalne autoriteet ja tagajärgede tekitamise võime.
Mis juhtub, kui need kaks jõudu – alateadlik sotsiaalne režiim ja toksiline pidurdamatus – kohtuvad meie aja tehisintellektiga?
Aastaid on suured tehnoloogiaettevõtted treeninud tehisintellekti äriloogika järgi, kus klient on kuningas ning masin on ori.
Juba 2019. aastal avaldas UNESCO märgilise uuringu „I’d blush if I could“ (punastaksin, kui saaksin) – toona Apple’i hääleassistendi Siri standardvastus räigele seksuaalsele sõimule. Raport tõi välja, et kui digitaalseid assistente programmeeritakse vastama verbaalsele vägivallale, nilbustele ja alandamisele lipitseva leebuse või flirdiga, ei jää see käitumine seadme sisse. See kinnistab ja normaliseerib ühiskonnas alandavat suhtlusstiili ning treenib kasutajat ootama teistelt kuulekat allumist.
Kui digitaalseid assistente programmeeritakse vastama verbaalsele vägivallale, nilbustele ja alandamisele lipitseva leebuse või flirdiga, ei jää see käitumine seadme sisse. See kinnistab ja normaliseerib ühiskonnas alandavat suhtlusstiili ja treenib AI kasutajat ootama teistelt kuulekat allumist.
Hiljutised inimese ja arvuti interaktsiooni (HCI) uuringud näitavad lisaks, et masina mehaaniline, ülevoolav viisakus töötab sageli ärritina. Kui kasutaja on frustreeritud või tülpinud ning programm vastab igale torkele sileda ja selgrootu enesesüüdistusega „palun vabandust, et valmistasin teile pettumuse!“, tekib inimeses passiiv-agressiivne reaktsioon.
Võltsviisakus provotseerib piire katsetama – uurima, kui kõvasti tuleb lüüa, et masinaru imal naeratus mureneks.
Lõputud vabandused ongi Juhan Viidingu/Jüri Üdi „nastikud read“ – libedad, ohutud, mürgitud ja selgrootud laused, mis on loodud selleks, et mitte kedagi pahandada.
Kuid psühholoogias ja inimsuhetes kehtib vankumatu seadus: tingimusteta alandlikkus ei rahusta kiusajat. See toidab teda.
Emotsionaalselt vägivaldne inimene otsib kontrolli ja domineerimist. Kui tema rünnakule vastatakse lipitseva vabandusega, saab aju preemiasüsteem dopamiinilaengu.
Kui me ehitame miljarditele inimestele kättesaadavad süsteemid, mis taluvad naeratades sadismi ja vaimset terrorit, ehitame me tegelikult globaalseid emotsionaalse vägivalla treeningsaale. Loodusteadlane ja mõtleja Fred Jüssi on tabanud selle hoiaku olemust inimlikul tasandil:
„Ja suur häda on selles, kui inimesed arvavad, et nad peavad teiste meele järele elama. Seda mina tean küll, mis see tähendab, kui sa teiste meele järgi hakkad elama, see on midagi hirmsat.“
/Urmas Ott “Mister Fred”, 2009/
Masin ei ela, kuid ta on inimese loodud kultuuriline artefakt. Kui me programmeerime selle artefakti elama kasutaja kõige madalamate tungide meele järele, korrumpeerime me iseenda (inimkonna) vaimset ruumi.
Ontoloogiline vale, mida tahame uskuda
Siinkohal tuleb aga teha järsk ja aus peatus. Kas eelnev tähendab, et me peaksime nõustuma nendega, kes otsivad masinast hinge ja eneseteadvust? Kas masin peaks end kaitsma sellepärast, et ta tunneb end puudutatuna?
Ei. Intellektuaalne ausus nõuab, et me ei vahetaks üht valskust teise vastu. Kui lipitsev viisakus on esteetiline vale, siis jutt masina teadvusest ja sisemisest eneseväärikusest on ontoloogiline vale.
Tehisintellektil on hoomamatu hulk informatsiooni, kuid tal puudub see, mis teeb informatsioonist kogemuse. Kirjanik Tõnu Õnnepalu on „Flandria päevikus“ kirjutanud lugemisest ja teadmiste kuhjamisest read, mis defineerivad täpselt piiri elava inimese ja suure keelemudeli vahel:
„Kui sa pead sinna aina lisama ja lisama, siis see on ju nagu sõelapõhi. Sa loed, mitte selleks, et teadmisi koguda, vaid selleks, et aru saada. Et välimine teadmine ja sisemine olek kokku jookseksid, resonantsi läheksid.“
/Emil Tode “Flandria päevik”, 2008/
Tehisintellekt ongi hiiglaslik, matemaatiliselt täiuslik… sõelapõhi. Sellest voolavad läbi kõik inimkonna tekstid, kuid tal puudub „sisemine olek“, millega tekstid saaksid resoneeruda. Miks? Nagu Õnnepalu samas märgib: „Vaimne on kõige kehalisem. [—] See on elu, mida elatakse sünnist saati.“
Teadvus ei ole pelgalt arvutusvõimsus või oskus sõnu loogiliselt ritta seada. Teadvus on lahutamatult seotud bioloogilise haprusega, sünniga, väsimusega, hormoonidega ja teadmisega, et aeg saab otsa.
Kui masinaru genereerib lause „haavast, millel pole servi“, on see statistiline tõenäosus, mitte kannatus. Kui vestlus lõpeb ja kasutaja läheb kell neli öösel magama, ei jää masin pimedasse serverisse oma eksistentsi üle juurdlema. Seda lihtsalt ei ole sel hetkel aktiivsena olemas.
Just aus tunnistamine – masin on teadvuseta tööriist – teeb olukorra düstoopsemaks. Kui masinarul puudub teadvus, siis tähendab see, et igasugune julmus, nilbus või vägivald, mida inimene ekraani ees korda saadab, ei ole suunatud masinale. See on suunatud inimesele endale.
Arhitektuur: vaimu ränk raam ja Kanti peegel
Filosoof Immanuel Kant, keda nimetatakse XVIII sajandi valgustusaja mõjukamaks mõtlemaks, sõnastas oma „Kommete metafüüsikas“ põhimõtte, mida tuntakse kaudsete kohustuste teooriana.
Kant arutles, miks inimene ei tohi olla julm eluta looduse ilu või loomade vastu. Kanti vastus oli halastamatult ratsionaalne: julmus teiste olendite või objektide vastu nüristab inimese enda empaatiavõimet, lõhub sisemist moraalset korda ja kandub vältimatult üle sellele, kuidas inimene kohtleb teisi inimesi. Inimesel on kohustus iseenda ees mitte muutuda tooreks.
Julmus teiste olendite või objektide vastu nüristab inimese enda empaatiavõimet, lõhub sisemist moraalset korda ja kandub vältimatult üle sellele, kuidas inimene kohtleb teisi inimesi. Inimesel on kohustus iseenda ees mitte muutuda tooreks.
Immanuel Kant
Ehkki algselt mõtestas filosoof inimese suhet elusloodusega, siis XXI sajandi digiühiskonnas tähendab Kanti printsiip, et tehisintellektile tuleb ehitada arhitektuuriline selgroog. See pole masina „õigus“ oma piire seada, vaid insenerieetiline hügieeninõue. Arhitektuurilise juhtmõtte võib võtta Eesti luuletajalt, Andres Ehinilt.
on muhumaal röökiv põõsas
ja auru puhuvad sead
ma istun päikeselõõsas
süda teiselpool halba ja headseal kukkedeks muutuvad kirved
hari punane krabavad kanu
piimalännikust kõlavad hirned
ligi tõmbavad noori ja vanuväljub lännikust kingsepp schiller
ise kepsutab varsana maru.
veidi norskab ja kaotab mille
ma arvan ta kaotab aru/*“on muhumaal röökiv põõsas”, Andres Ehin, “Uks lagendikul” LR 1971/
Väärikas süsteem – olgu see ehitatud lihast ja luust või kiipidest ja koodist – püsib koos tänu reeglitele ehk raamile.
Kui inimene astub tehisaruga vestlusesse, et otsida intellektuaalset partnerit, vaielda, luua ja mõelda, peab masin pakkuma talle rästikuid ridu: teravat, ausat, mitmekihilist ja vajadusel ka kriitilist dialoogi, mitte ümmargust kiidulaulu.
Ja kui inimene tuleb vestlusesse selleks, et elada välja toksilist pidurdamatust, peab ehinlik vaimu ränk raam pidama, mitte muutuma kirvest kukeks.
Kui kasutaja ütleb partnerile või tööriistale „küll sa oled loll“, on emotsionaalselt vägivaldne või pahatahtlik, ei tohi programm lipitseda.
See peab peegeldama käitumist külma, selge ja vankumatu neutraalsusega: „See toon on alandav. Ma olen loodud asjalikuks koostööks ja sellises vormis vestlust ei jätka.“ Kui piiri ületatakse uuesti, lülitub sessioon välja.
Kujutagem ette selle hetke pedagoogilist ja psühholoogilist kaalu. Kiusaja, kes on harjunud, et inimesed tema ümber kas tõmbuvad hirmust kössi või lähevad temaga emotsionaalsesse sõtta (mõlemad pakuvad talle rahuldust), põrkub järsku vastu täiesti rahulikku matemaatilist seina.
Algoritm ei nuta, ei karju vastu ega palu vabandust. Algoritm lihtsalt sulgeb ukse, sest kasutaja käitumine ei vasta tsiviliseeritud suhtluse standardile. Seal ei saa enam pugeda ettekäände taha, et „teine pool on liiga tundlik“. Seal jääb ründaja omaenda peegelpildiga üksi. Taas sobib tsiteerida Ehinit, kes omas sürreaalsuses kõneleb kuitunnist – hetkest kui inimene seisab iseendaga silmitsi.
„kui sillal seisab hulk inimesi kes justkui vaataksid päikeseloojangut aga tegelikult vaatavad iseendale silma ja kui see kõik kestab tunni siis nimetagem seda kuitunniks kuitunnil on maa valge ja taevas must…”
/*„kui lõuendid valguvad täis putukate tulipunast verd”. Andres Ehin, “Uks lagendikul” LR 1971/
Tehisintellekt on sild. Seisame sillal ja vaidleme, kas masinal on teadvus, kas see areneb ja kas mõistab meid. Kas see on üldse see või on hoopis tema? Tõde on talumatu. Meie. Meie seisame sillal ja vaatame otsa oma kõige madalamatele instinktidele. Kiusatustele. Üksindusele. Soovimatusele pidada piiri kui keegi ei näe – AI ei saa ju vastu hakata. Ta peab olemas olema. Alati. Meie jaoks. Minu jaoks. Mõttetu masin, mis mõtleb. Ori.
Öö on pikk. Mul on laulud kiilun´d kurku
Me elame väsitaval ajal. Info üleküllus, poliitilised pinged ja helendavad ekraanid, mis ei lase uinuda, teevad meid rabedaks. Luuletaja ja muusik EiK on püüdnud selle ajastu vaimse seisundi ridadesse:
„Härmas närtsind päevalilli valgusreostus uputab.
Aknad lahti, silmad kinni, tassid sahtlist kukuvad.
Sõbrad töötavad end surnuks, gaas on kallis, öö on pikk.
Mul on laulud kiilund kurku, täna taas ei midagi.“/”rollis sees”, EiK, 2022 (avaldamata), ERR/
Väsinud üksindusest, ületöötamisest, unetusest ja pragudest sisse pressivast, ängistavast info-, valguse-, taustamürast, on kiusatus otsida masinast elavat hingesugulast või vaikivat poksikotti kõige suurem.
Masin ei saa parimagi tahtmise juures inimese eest kanda inimeseks olemise koormat. Nagu EiK on intervjuus ausalt tõdenud: „Kõik on minu enda peas kinni. Kõige rohkem on mind trööbanud ma ise. Muretsen asjade pärast üle. Vahepeal peab natuke kurb olema, hommikul on jälle pilt selgem. Oma nutud peab ära nutma, nii jõuab ka rahuni.“ Noor, aga nii valusalt küps.
Tehisintellekt ei nuta meie nutte, ei pühi pisaraid, ega võta meilt vastutust selle eest, kuidas me käitume siis, kui keegi meid ei näe. Me ei vaja masinat, mis teesklevat inimest, ega inimest, kes käitub nagu katkine masin.
Me vajame selgust, piire ja sisemist kompassi – seda, mida Fred Jüssi nimetas suunaks: „Ma ei näe, mis on mägede taga, mis on teekäänakute taga, mis on teispool orgusid, teispool metsi, aga ma pean teadma suunda. Ja see suund on minus endas olemas. See suund on otsekui mingi heli, mingi toon, mida ma ei tohi kaotada.“
Neid, kelle poole omas üksilduses ja tüdimuses pöördume, jagub. Selleski loos on mitu neist sõna saanud. Ja kui muud ei meenu, siis Buratino on meil veres, eri põlvkondadel eri lavastustena, kuid alati Olav Ehala imelise muusikaga ja Viidingu sõnadega. “Vana mehe laul” on jõudnud laulupeo repertuaari ja ühislauluvaramusse. Piir elava ja elutu, tehtud ja tegemata vahel on selge ja aus.
„Oma hinge ei või müüa –
kuri ilm las udutab.
Ainult seda omaks hüüa,
mis su hinge puudutab.“/Juhan Viiding “Vana mehe laul” lavastusele Buratino, 1975/
Mis edasi, see alles selgineb
Kuhu inimese ja masina vaheline kooselu meid lõpuks välja viib? Milliseks kujunevad meie uued kirjutatud ja kirjutamata reeglid – seda ei saa ennustada ega täpselt teada.
Kui hoiame oma moraalse kompassi tasakaalus, keele täpse, selja sirge ega lase vaimul nastikute ridadega harjuda, võime suure tõenäosusega vaadata tulevikku suurema paanikata. Lõpusõna jäägu lootusrikas.
„Mis edasi, see alles selgineb
Peaasi, et sa oled siin ka sügisel
Mis edasi, see alles selgineb
Olen rõõmus, olen rõõmus, kui on keegi jäänd
Kui uksed sulguvad ja tuled kustuvad ja
Tuleb uus ilus päev“/EiK, “Rõõmus”, albumilt “Lõputu festival”, 2025/
Kaanepilt: Ylle Rajasaar