Psykologiset puhelut tekoälyllä?

Koko-sovellus on hyödyllinen emotionaalisen tuen tarjoamiseen apua tarvitseville ihmisille Tekoäly (IA) ilmoittamatta potilaille. Kaiken kaikkiaan 4 000 potilasta nähtiin ilman tietoa, että he olisivat kuultu koneella.

Löytö tehtiin vasta, kun Rob Morris, yksi perustajista viserrys, paljasti suorittaneensa eräänlaisen tutkimuksen uudella toiminnolla. Kun Morris tiedotti asiasta yleisölle, hän vaikutti innostuneelta siitä, että hänen projektinsa sujui hyvin, mutta hän sai ankaraa kritiikkiä.

Twitterin toinen perustaja selitti, että noin 30 000 viestiä jaettiin asiakkaille GPT-3:lla, joka on eräänlaisen tekoälyn ChatGPT: n perusta.

Testi ei noudattanut vahvistettuja sääntöjä

Tämä oli testi, joka rikkoi suoraan Yhdysvaltain terveysministeriön sallimia vaatimuksia. Kyseessä oli uuden toiminnon tutkimus, mutta potilaita piti varoittaa käytöstä teknologiaa.

Twitterissä julkaistun ilmoituksen tekoälyn käytöstä Morrisia arvostelivat voimakkaasti nettimiehet. Koko toimii apuvälineenä psykologista hoitoa tarvitseville ja sovelluksen kautta suoraan ammattilaisilta apua hakeville.

Teknologisen testin suorittamista pidetään epäeettisenä, kuten Twitterin käyttäjät itse ovat varoittaneet. Ammattilaiset, jotka tekevät myös terveysalan tutkimusta, osoittivat, että tämä oli asenne, jota ei pidä ottaa.

Yrittääkseen puolustaa itseään Morris huomautti, että nämä testit olisivat vain yritykselle ja että saavutettuja tuloksia ei julkisteta. Arviointiin myös osallistunut lääkäri totesi puolustautuessaan, että tutkimuksen tekotapa paljastaa haavoittuvia ihmisiä.

Morrisin mukaan testitulokset saivat parempia arvosanoja, kun kyselyt suoritti tekoäly. Käytetty tekoäly oli GPT-3, joka pystyy toistamaan muiden ihmisten tekstejä ja aiheuttamaan suuren epätarkkuuden valituissa tiedoissa.

Kun potilaat huomasivat saavansa valmiita vastauksia, he menettivät kiinnostuksensa.

Elokuvien ja sarjojen ja kaiken elokuvaan liittyvän ystävä. Aktiivinen utelias verkoissa, aina yhteydessä verkkotietoihin.