Psykologiske samtaler med kunstig intelligens?

Koko-applikasjonen er nyttig for å gi følelsesmessig støtte til mennesker i nød, ved å benytte seg av Kunstig intelligens (IA) uten å informere pasientene. I alt ble 4000 pasienter sett uten informasjon om at de ble konsultert av en maskin.

Oppdagelsen ble først gjort da Rob Morris, medgründer av twitter, avslørte at det utførte en slags forskning med den nye funksjonen. Da han formidlet dette til publikum, virket Morris begeistret over at prosjektet hans fløt bra, men han fikk hard kritikk.

Medgründeren av Twitter forklarte at rundt 30 000 meldinger ble delt med kunder, ved hjelp av GPT-3, som er grunnlaget for ChatGPT, en slags kunstig intelligens.

Testen fulgte ikke de etablerte reglene

Dette var en test som direkte krenket det som er tillatt av det amerikanske helsedepartementet. Det var en forskning for den nye funksjonen, men pasientene måtte advares om bruken av teknologi.

Etter kunngjøringen på Twitter om bruken av kunstig intelligens, ble Morris sterkt kritisert av nettbrukere. Koko fungerer som et hjelpemiddel for personer som har behov for psykologisk behandling og søker støtte direkte fra fagfolk gjennom applikasjonen.

Å gjennomføre en teknologisk test anses som uetisk, slik Twitter-brukere selv har advart. Fagfolk som også forsker på helseområdet beviste at dette var en holdning man ikke burde innta.

I et forsøk på å forsvare seg, påpekte Morris at disse testene bare ville være for selskapet og at det ikke ville være noen avsløring av oppnådde resultater. Etter å ha kommet til eget forsvar, påpekte en lege som også deltok i evalueringene at måten forskningen ble utført på, utsatte sårbare mennesker.

Testresultater, ifølge Morris, fikk bedre vurderinger når søk ble utført av AI. Den kunstige intelligensen som ble brukt var GPT-3, i stand til å reprodusere andres tekster og forårsake stor unøyaktighet i de valgte dataene.

Når pasientene ble klar over at de fikk ferdige svar, mistet de interessen.

Elsker av filmer og serier og alt som involverer kino. En aktiv nysgjerrig på nettverkene, alltid koblet til informasjon om nettet.