Koko-applikationen er nyttig til at give følelsesmæssig støtte til mennesker i nød ved at gøre brug af Kunstig intelligens (IA) uden at informere patienterne. I alt blev 4.000 patienter set uden information om, at de blev konsulteret af en maskine.
Opdagelsen blev først gjort, da Rob Morris, medstifter af kvidre, afslørede, at det udførte en slags forskning med den nye funktion. Da Morris kommunikerede dette til offentligheden, virkede Morris begejstret over, at hans projekt forløb godt, men han modtog hård kritik.
se mere
Google udvikler AI-værktøj til at hjælpe journalister i...
Uåbnet original 2007 iPhone sælges for næsten $200.000; ved godt...
Medstifteren af Twitter forklarede, at omkring 30.000 beskeder blev delt med kunder ved hjælp af GPT-3, som er grundlaget for ChatGPT, en slags kunstig intelligens.
Dette var en test, der direkte overtrådte, hvad der er tilladt af det amerikanske sundhedsministerium. Det var en undersøgelse for den nye funktion, men patienterne skulle advares om brugen af teknologi.
Efter annonceringen på Twitter om brugen af kunstig intelligens blev Morris stærkt kritiseret af netbrugere. Koko fungerer som et hjælpemiddel for mennesker, der har behov for psykologisk behandling og søger støtte direkte hos professionelle gennem applikationen.
At udføre en teknologisk test anses for uetisk, som Twitter-brugere selv har advaret om. Fagfolk, der også forsker på sundhedsområdet, beviste, at det var en holdning, man ikke burde indtage.
I et forsøg på at forsvare sig påpegede Morris, at disse tests kun ville være for virksomheden, og at der ikke ville være nogen afsløring af de opnåede resultater. Efter at have været ude i sit eget forsvar påpegede en læge, der også deltog i evalueringerne, at den måde, forskningen blev udført på, udsatte sårbare mennesker.
Testresultater fik ifølge Morris bedre vurderinger, når forespørgsler blev udført af AI. Den anvendte kunstige intelligens var GPT-3, i stand til at gengive andres tekster og forårsage stor unøjagtighed i de valgte data.
Da patienterne blev klar over, at de fik færdige svar, mistede de interessen.
Elsker af film og serier og alt hvad der involverer biograf. En aktiv nysgerrig på netværkene, altid forbundet med information om nettet.
