Voiko tekoäly tunnistaa tunteesi?
Tekoälysovelluksia kehitetään kiihtyvään tahtiin. Yksi tällaisista sovelluksista on tunteidentunnistusteknologia, jota käytetään jo nyt esimerkiksi työntekijöiden rekrytoinnissa. Tutkijat selvittivät, millaisia mahdollisuuksia ja ongelmia teknologiaan liittyy.
Johdanto
Tekoälystä innostuttiin jo 1950-luvulta lähtien, kun tekoälyn kehittäminen muodostui omaksi tieteenalakseen. Ajan saatossa, kun yksinkertaistettuja tehtäviä varten ja rajatuissa tutkimus- ja kehitysympäristöissä suunnitellut tekoälysovellukset ovat kohdanneet todellisen maailman monimutkaisuuden, sovellusten toiminta ei useinkaan ole täyttänyt niille osoitettuja odotuksia ja lupauksia. Tänä päivänä monet sovelluksista pohjautuvat luonnollista kieltä käsitteleville kielimalleille, jolloin ne vaikuttavat ymmärtävän ihmisiä ja ympäristöään. Tämän vuoksi ihmisten on entistä vaikeampi asettaa sopivia odotuksia sovelluksille sekä tunnistaa milloin sovellukset eivät toimi kuten luvattu.
Osa tekoälysovelluksia kehittävistä yhtiöistä ja teknologiakonsulteista haluaa ylläpitää ylimitoitettua tekoälyinnostusta ja levittää ylisuuria ja täysin virheellisiäkin käsityksiä tekoälysovellusten kyvykkyyksistä. Virheellisistä lupauksista jää harvemmin kiinni ja niiden avulla saa myytyä tuotteita hyvin. Yleisen narratiivin mukaan tekoälypohjaisten teknologioiden kehitys on tapahtunut valtavan nopeasti ja kehitystä ohjaa pieni joukko asiantuntijoita, joilla on hyvä käsitys siitä, miltä teknologian tulisi näyttää. Muiden tulisi keskittyä ottamaan tekoäly käyttöön omassa arjessaan, etteivät jäisi kehityksestä jälkeen. Näin yksipuolisen narratiivin vuoksi kynnys esittää kriittisiä näkökantoja tekoälyn kehittämisen tai hyödyntämisen tavoista kasvaa. Ihmisistä voi jopa tuntua, että sellaisten esittäminen leimaisi heidät tietämättömiksi tai teknologiavastaisiksi.1
Todellisuudessa tarvitsemme tekoälystä mahdollisimman monitahoista keskustelua, jossa sekä eri tieteenalat että ihmisryhmät ovat edustettuina.2 Tarve johtuu siitä, että tekoälyteknologioita hyödynnetään tai aiotaan hyödyntää lähes kaikissa ihmistoiminnoissa. Tekoälyn kehittämiseen ja arviointiin tulisi osallistua kulloisenkin toiminnan kannalta keskeisten tieteenalojen osaajia. Muutoin kehitetään näennäisen kyvykkäitä tekoälysovelluksia tai yleishyödyllisten tekoälyjen, kuten Chat gpt:n, näennäisen hyviä käyttötapoja. Tällaiset sovellukset tai käyttötavat ovat ennemmin haitallisia kuin hyödyllisiä niin käyttökontekstinsa kuin laajemmin yhteiskunnallisen kehityksen näkökulmasta. Esimerkiksi yleisiä puheen tekstiksi kääntäviä ohjelmia on otettu käyttöön sairaalaolosuhteissa aiheuttaen potilasturvallisuuden vaarantumisen. Yleisiä ohjelmia ei ole välttämättä koulutettu asianmukaisella lääketieteellisellä sanastolla, jolloin sairaanhoidon kannalta relevantit termit kääntyvät jopa suurella todennäköisyydellä väärin. Sairaanhoidon kaltaiset turvallisuuskriittiset kontekstit vaatisivat lisäksi tarkat menetelmät sille, miten sovelluksiin aina kuuluvien virheiden päätyminen lopullisiin teksteihin saataisiin minimoitua. Vastaavia esimerkkejä on paljon. Laajemmin tarkasteltuna suuri määrä turhaa tekoälyn hyödyntämistä kuormittaa ilmastoa ja heikentää ihmisten kykyä ajatella ja ymmärtää asioita itsenäisesti.3
Tutkimuksessamme selvennämme, miten tekoälypohjaista tunteidentunnistusteknologiaa voidaan kehittää ja hyödyntää. Aihe on ajankohtainen, sillä kyseessä on maailmanlaajuisesti kasvava ala ja kyseistä teknologiaa käytetään yhteiskunnallisesti merkittävissä toimissa, kuten rekrytointitilanteissa työnhakijoiden arviointia varten, oikeussalien istunnoissa syytettyjen arviointia varten ja kouluissa oppilaiden profilointia varten. Lisäksi sovelluksia markkinoidaan täysin virheellisin väittein, kuten että tunteidentunnistusteknologioiden avulla voitaisiin tunnistaa ihmisten moraaliset käsitykset ilman, että ihminen itse niitä paljastaa. Tarvitaan siis tutkimusta, joka osoittaa millaisia mahdollisuuksia tunteidentunnistusteknologialla on yleisesti sekä voiko sen avulla tunnistaa ihmisen ajattelun moraalisia ulottuvuuksia.
Miten tutkimus tehtiin?
Tutkimusta, jossa tarkastellaan jonkin tieteenalan väitteitä ja oletuksia, kutsutaan perusteanalyysiksi. Sillä voidaan edistää yksittäisen tieteenalan ajattelua ja kehitystä, mutta myös tarkastella ja vertailla läheisten tieteenalojen perusolettamia jostakin yksittäisestä aiheesta. Meidän tutkimuksemme aiheena on, voiko ihmisten tunteita ja sitä kautta myös moraalista ajattelua tunnistaa koneellisesti. Aiheen kannalta keskeiset tieteenalat ovat kognitiotiede, tunnetutkimus, moraalipsykologia ja insinööritieteet.
Tieteenalojen perusoletuksia lausutaan harvoin ääneen. Ne ovat ennemminkin tiedostamattomia, tutkijoiden ajattelun taustalla olevia käsityksiä, kuten esimerkiksi tunnetutkimuksessa yleinen ajatus, että ihmisten tunteista on mahdollista tehdä havaintoja ja päätelmiä. Perusteanalyysissä tutkija analysoi ja tekee näkyväksi näitä alan keskeisen kirjallisuuden ja keskustelun sisältämiä käsityksiä.
Tarkastelimme tunteidentunnistusteknologian kehittämistä koskevia keskusteluja kahden kirjallisuushaun avulla. Ensimmäisessä haussa haarukoimme insinööritieteisiin pohjaavia tutkimuksia aiheesta ”tunteiden tunnistus”. Kriteerinämme oli vuonna 2020 ja sen jälkeen julkaistut tieteelliset artikkelit, koska halusimme tarkastella alan vallitsevia ajattelutapoja. Toinen haku käsitti tekoälyn suunnittelua koskevan kirjallisuuden vuosilta 2005–2024 aiheesta ”tunteet, moraalinen ajattelu ja tekoäly”. Pidempi tarkastelujakso oli tarpeen, koska tieteelliset keskustelut aiheesta ovat harvalukuisempia ja halusimme mahdollisimman laaja-alaisen otoksen.
Jäsensimme lisäksi kognitiotieteen, moraalipsykologian ja tunnetutkimuksen kannalta relevantit tutkimuskeskustelut tunteiden ja moraalin välisistä yhteyksistä, tunteiden ja moraalin roolista ihmisten ajattelussa sekä ihmismielen sisältöjen havainnointiin liittyvistä episteemisistä kysymyksistä. Näiden alojen keskustelut olivat meille entuudestaan tuttuja, joten emme joutuneet tekemään erillistä kirjallisuushakua niihin liittyen.
Kirjallisuuden haarukoinnin ja jäsentämisen jälkeen analysoimme tunteidentunnistusteknologiaan liittyvät keskeiset perusoletukset ja vertailimme niitä kognitiotieteen, moraalipsykologian ja tunnetutkimuksen kirjallisuuden käsityksiin.
Mitä tutkimuksessa löydettiin?
Tarkastellut tieteenalat ovat yksimielisiä siitä, että tunteita voidaan tutkia empiirisesti, eli että niistä voidaan tehdä havaintoja ja päätelmiä. Lisäksi aloilla on yhtenäinen käsitys siitä, että ihmisten tunteilla ja moraalisella ajattelulla on yhteys toisiinsa. Kuitenkin, kun haetaan vastauksia kysymyksiin, kuten mitä tunteet ovat, mitä voimme tietää niistä, miten voimme havainnoida tunteita ja millä tavoin tunteet ja moraalinen ajattelu ovat yhteydessä toisiinsa, insinööritieteen tutkimukset osoittautuivat virheellisiksi.
Lähes poikkeuksetta insinööritieteisiin pohjautuvissa tutkimuksissa tunteet käsitettiin eri tavalla kuin tunnetutkimuksessa ja kognitiotieteessä. Niissä ihmisten tunne-elämä yksinkertaistettiin niin, että tunteet ja ajattelu eivät ole yhteydessä toisiinsa, ihmisillä on vallalla yksittäinen tunnetila kerrallaan, ja että jokaista yksittäistä tunnetilaa, kuten vihaa, iloa tai surua vastaa jokin fyysinen ilmentymä ihmisen kehossa, esimerkiksi tietty ilme, kohonnut syke tai pupillien koon muutos. Lisäksi insinööritieteisiin pohjautuvat tutkimukset olettavat, että ihmisten perustunnetila on iloisuus, että ihmiset ovat erittäin tarkkoja tunnistamaan toistensa tunteita ja että tunnetilalla ei ole yhteyttä siihen tilanteeseen, jossa ihminen kulloinkin on. Näiden käsitysten pohjalle perustuu valtaosa olemassa olevista tunteidentunnistusteknologioista.
Kognitiotieteessä ja tunnetutkimuksessa tehdyn tutkimuksen perusteella tunteiden kuitenkin tiedetään olevan yksi keskeinen vaikuttaja ihmisten ajatteluprosesseissa ja liittyvän tilanteeseen, jossa ihminen on. Tunteet ovat monimutkainen kokonaisuus, josta ihmisten kokema tunnetila ja kulloinkin fyysisesti ilmenevä piirre ovat vain pieni osa. Sama fyysinen piirre voi ilmentyä lähes minkä tahansa tunnetilan kanssa ja ihminen voi kokea useita ja jopa risteäviä tunnetiloja kerrallaan. Perustunnetila ihmisillä on kuitenkin yleensä neutraali. Ihmiset eivät ole kovin tarkkoja tunnistamaan toistensa tunteita, mutta kykenevät korjaamaan omia käsityksiään toisen tunteista ja niihin liittyvistä asioista keskustelun kautta, jos tilanne ja vuorovaikutustaidot sen mahdollistavat.
Insinööritieteisiin pohjautuvat tutkimukset yksinkertaistavat myös sen, miten tunteet ja moraalinen ajattelu ovat kytköksissä toisiinsa. Kärjekkäimpiä oletuksia on muun muassa, että tietty tunnereaktio, kuten iloisuus, esimerkiksi vauvakuviin tai -videoihin paljastaa ihmisen arvomaailman yleisesti ja että näitä ”löydettyjä” arvomaailmoja voitaisiin käyttää arvioimaan työnhakijoita tai ryhmittelemään työntekijöitä työpaikoilla.
Tunteidentunnistusteknologioiden kehittämiseen ja kokeilemiseen keskittyvissä tutkimuksissa on huomattu, että teknologian avulla arvioidut koehenkilöt eivät läheskään aina allekirjoita ”tunnistettuja” tunteita tai moraalikäsityksiä. Pahimmillaan näissä tilanteissa kehittäjät, joiden ajattelu pohjaa insinööritieteisiin, toteavat, että kyseiset koehenkilöt valehtelevat. Sama virheellinen usko kehitettyjen teknologioiden luotettavuuteen on myös ilmennyt itse koehenkilöillä, joista osa on alkanut epäilemään teknologian sijaan omia kykyjään tunnistaa tunteitaan ja ajatuksiaan. Siten teknologiat ovat vaikuttaneet koehenkilöiden itsetuntemukseen kyseenalaisella tavalla.
Lopuksi
Tutkimuksessamme havaitsimme, että tunteidentunnistusteknologia on lähtökohtaisesti aina virheellistä, jos sillä pyritään tunnistamaan yksilön ajatuksia tai tunteita. Olisi kuitenkin mahdollista kehittää teknologiaa, jolla voidaan kerätä mahdollisia havaintoja isossa joukossa esiintyvistä ihmisten mieltymyksistä koskien jonkin tilanteen tapahtumia. Tämä tarkoittaisi niin isoa muutosta alan perusajatteluun, että koko teknologian hyödyntäminen ja sen käytölle asetettavat toiveet tulisi pohtia täysin uusiksi.
Tutkimuksemme havainnollistaa, kuinka tekoälysovellusten kehittäminen ja käyttö pohjautuu helposti virheellisille ja jopa valheellisille käsityksille, jos tieteellinen keskustelu ei ole riittävän monipuolista. Nykyistä monipuolisempaa keskustelua tarvitaan tieteeseen perustuvien sovellusten kehittämiseksi ja toisaalta antamaan realistista pohjaa teknologioille asetettavia yleisiä odotuksia varten. Tutkimustamme olisi tärkeä täydentää nyt piileväksi jäävällä arvokeskustelulla: minkälaista todellisuutta haluamme tavoitella ja mikä rooli, jos mikään, tunteidentunnistusteknologialla siinä olisi.