Vastuullinen tekoälykehittäminen edellyttää riskien tunnistamista ja eettistä pohdintaa

Nuorten suosimassa matalan kynnyksen palvelussa, Sekasin-chatissa, otettiin tammikuussa käyttöön ihmisavun rinnalle tekoälypohjainen chatbot. Kyseessä on yksi Euroopan ensimmäisistä puhtaasti mielenterveystyöhön rakennetuista generatiivista tekoälyä hyödyntävistä chatbot-ratkaisuista. Mielenterveyden ammattilaisten kouluttama chatbot tarjoaa tukea nuorelle silloin, kun Sekasin-chatin ihmisapu ei ole saatavilla.
5. elokuuta 2025

Teknologisen kehityksen näkökulmasta kyseessä ei ole uusi innovaatio, uutiskynnyksen ylittää uusi käyttötarkoitus. Tekoälyn käyttäminen mielenterveystyössä on herättänyt paljon keskustelua ja kiinnostusta, mutta myös huolta. On tärkeää, että kehittämisen eturintamassa on ammattilaisia, jotka tunnistavat riskit ja tekoälyyn liittyvät eettiset kysymykset ja jotka tekevät kehittämistyötä vastuullisesti ja perustuen tietoon.


Sekasin-tekoälyapurin taustalla on voittoa tavoittelematon, Ilkka Paanasen säätiön rahoittama Projekti 5/5. Projektissa yhdistyy huippuluokan teknologiaosaaminen ja Sekasin-chatin kautta tullut ymmärrys nuorten mielenterveydestä ja tuen tarpeesta. Chatbotin kehityksessä on kiinnitetty erityistä huomiota palvelun tietoturvaan, riskien tunnistamiseen ja eettisiin kysymyksiin.

Mielenterveysbotin ympärillä käyty keskustelu kuvaa tekoälyyn liittyvää yhteiskunnallista murrosta, jonka keskellä elämme. Kautta aikojen nuoret ovat omaksuneet uudet teknologiat käyttöön silloin, kun aikuiset vasta heräävät huoliin ja riskeihin. Niin tälläkin kertaa. Ero aikuisten ja nuorten reaktioissa alleviivaa teknologia-asenteidemme kahtiajakoa ja sukupolvien välistä kuilua. Aikuiset ovat olleet huolissaan muun muassa siitä, erottavatko nuoret botin ja ihmisavun toisistaan sekä siitä, onko tekoäly rakennettu korvaamaan ihmisten tarjoama apu.

On selvää, että chatbot ei ole oikea avun muoto silloin, kun nuori tarvitsee ihmisen tukea, oli tarve sitten hoidolle tai läsnäololle. Sekasin-chatin rinnalla toimiva tekoäly ei korvaa ihmisapua, vaan luo palveluun täysin uudenlaisen tason. Tämän omaksumisessa nuoret ovat aikuisia edellä. Nuoret sukkuloivat luontevasti maailmassa, jossa yhdistyvät livekohtaamiset ja elämä verkossa, ihmiset ja teknologia. 

Sekasin-botin varsinainen kohderyhmä eli nuoret näyttää löytäneen tekoälyapurin käyttötarkoituksen. Asiantuntijoiden kouluttaman chatbotin kanssa on keskusteltu parin kuukauden aikana yli 6000 kertaa. Palaute kohderyhmältä on ollut erittäin positiivista, ja moni nuori kokee saaneensa kaipaamaansa apua. Kirjalliset palautteet kertovat siitä, että nuoret ovat oivaltaneet juuri ne tilanteet, joihin tekoälyapurin apu on tarkoitettu: laannuttamaan ahdistusta yöllä kun chat on kiinni, antamaan hyviä käytännön vinkkejä, helpottamaan oloa jonottaessa ihmisen luo ja tarjoamalla tukea silloin, kun ei ole ihan varma, tarvitseeko apua. 

Sekasin-chat kävi läpi samankaltaisen murroksen kun palvelu avattiin kahdeksan vuotta sitten. Silloin monet olivat sitä mieltä, että verkossa tapahtuva apu ei ole oikeaa apua. Digitaalisuus nähtiin uhkana, ei mahdollisuutena. Nuoret kuitenkin löysivät pop-up-palveluna avattuun Sekasin-chatiin 13 000 kertaa heti sen ensimmäisen viikon aikana. Siitä lähtien chatissa on ollut jatkuva jono. Enää digitaalisuuden mahdollisuuksia ei kyseenalaisteta, nyt on tekoälyn vuoro.

Nuoret omaksuvat uudet teknologiat käyttöön joka tapauksessa ja soveltavat tarjolla olevia vaihtoehtoja omiin tarkoituksiinsa. Aikuisten tehtävä on huolehtia siitä, että käytössä on myös vastuullisesti tuotettuja ja sisällöltään turvallisia vaihtoehtoja. 

Saara Huhanantti
Johtaja, Projekti 5/5

Jaa tämä kirjoitus
Arkistoi