Rozmowy psychologiczne wykonane za pomocą sztucznej inteligencji?

Aplikacja Koko jest przydatna do udzielania wsparcia emocjonalnego osobom w potrzebie, korzystając z niej Sztuczna inteligencja (IA) bez informowania pacjentów. W sumie 4000 pacjentów zostało przyjętych bez informacji, że konsultowała się z nimi maszyna.

Odkrycia dokonano dopiero wtedy, gdy Rob Morris, współzałożyciel firmy świergot, ujawnił, że przeprowadził swoiste badanie nowej funkcji. Komunikując to publicznie, Morris wydawał się podekscytowany, że jego projekt przebiega dobrze, ale spotkał się z ostrą krytyką.

Współzałożyciel Twittera wyjaśnił, że około 30 000 wiadomości zostało udostępnionych klientom za pomocą GPT-3, który jest podstawą ChatGPT, rodzaju sztucznej inteligencji.

Test nie był zgodny z ustalonymi zasadami

To był test, który bezpośrednio naruszył to, co jest dozwolone przez Departament Zdrowia USA. Było to badanie nowej funkcji, ale pacjentów trzeba było ostrzec przed stosowaniem technologia.

Po ogłoszeniu na Twitterze o wykorzystaniu sztucznej inteligencji Morris spotkał się z ostrą krytyką internautów. Koko działa jako pomoc dla osób potrzebujących leczenia psychologicznego i szukających wsparcia bezpośrednio u profesjonalistów za pośrednictwem aplikacji.

Przeprowadzanie testu technologicznego jest uważane za nieetyczne, o czym ostrzegają sami użytkownicy Twittera. Profesjonaliści prowadzący również badania w obszarze zdrowia udowodnili, że jest to postawa, której nie należy przyjmować.

Próbując się bronić, Morris zaznaczył, że te testy będą tylko dla firmy i że nie będzie ujawnienia osiągniętych wyników. Po wystąpieniu we własnej obronie lekarz, który również brał udział w ewaluacjach, zwrócił uwagę, że sposób prowadzenia badań narażał osoby wrażliwe.

Wyniki testów, według Morrisa, uzyskały lepsze oceny, gdy zapytania były wykonywane przez sztuczną inteligencję. Zastosowana sztuczna inteligencja to GPT-3, zdolne do powielania tekstów innych osób i powodowania dużej niedokładności w wybranych danych.

Gdy pacjenci zdali sobie sprawę, że otrzymują gotowe odpowiedzi, stracili zainteresowanie.

Miłośnik filmów i seriali oraz wszystkiego co związane z kinem. Aktywny ciekawski w sieci, zawsze podłączony do informacji o sieci.