Koko-applikationen är användbar för att ge känslomässigt stöd till människor i nöd genom att använda sig av Artificiell intelligens (IA) utan att informera patienterna. Totalt sågs 4 000 patienter utan information om att de konsulterades av en maskin.
Upptäckten gjordes först när Rob Morris, medgrundare av Twitter, avslöjade att den genomförde en sorts forskning med den nya funktionen. När Morris kommunicerade detta till allmänheten verkade han glad över att hans projekt flöt på bra, men han fick hård kritik.
se mer
Google utvecklar AI-verktyg för att hjälpa journalister i...
Oöppnad original 2007 iPhone säljs för nästan $200 000; känna till...
Medgrundaren av Twitter förklarade att cirka 30 000 meddelanden delades med kunder, med hjälp av GPT-3, som är grunden för ChatGPT, en sorts artificiell intelligens.
Detta var ett test som direkt bröt mot vad som är tillåtet av det amerikanska hälsodepartementet. Det var en forskning för den nya funktionen, men patienterna behövde varnas om användningen av den teknologi.
Efter tillkännagivandet på Twitter om användningen av artificiell intelligens kritiserades Morris hårt av nätanvändare. Koko fungerar som ett hjälpmedel för personer som är i behov av psykologisk behandling och söker stöd direkt från professionella genom applikationen.
Att genomföra ett tekniskt test anses oetiskt, som Twitter-användare själva har varnat. Fackmän som också forskar inom hälsoområdet bevisade att det var en inställning som inte borde intas.
I ett försök att försvara sig påpekade Morris att dessa tester endast skulle vara för företaget och att det inte skulle finnas något avslöjande om de uppnådda resultaten. Efter att ha kommit ut till sitt eget försvar påpekade en läkare som också deltagit i utvärderingarna att sättet som forskningen bedrivs exponerade utsatta människor.
Testresultat, enligt Morris, fick bättre betyg när frågor utfördes av AI. Den artificiella intelligensen som användes var GPT-3, kapabel att återge andras texter och orsaka stor felaktighet i de valda uppgifterna.
När patienterna blev medvetna om att de fick färdiga svar tappade de intresset.
Älskar av filmer och serier och allt som rör film. En aktiv nyfiken på nätverken, alltid kopplad till information om webben.
