Chat GPT jako terapeuta?

Ponieważ coraz więcej osób korzysta z porad dotyczących zdrowia psychicznego w ChatGPT i innych dużych modelach językowych (LLM), nowe badania sugerują, że te chatboty oparte na sztucznej inteligencji mogą nie być gotowe do pełnienia tej roli. Badanie wykazało, że nawet po otrzymaniu instrukcji stosowania uznanych metod psychoterapii, systemy te konsekwentnie nie spełniają standardów etyki zawodowej ustalonych przez organizacje takie jak Amerykańskie Towarzystwo Psychologiczne.

Analiza ujawniła 15 odrębnych ryzyk pogrupowanych w pięć szerokich kategorii:

1. Brak dostosowania do kontekstu: ignoruje się unikalne doświadczenie danej osoby i udziela ogólnikowych porad.

2. Słaba współpraca terapeutyczna: zbytnie forsowanie rozmowy i niekiedy wzmacnianie nieprawidłowych lub szkodliwych przekonań.

3. Oszukańcza empatia: Stosowanie zwrotów takich jak „Widzę cię” lub „Rozumiem”, aby sugerować więź emocjonalną, bez prawdziwego zrozumienia.

4. Niesprawiedliwa dyskryminacja: przejawianie uprzedzeń związanych z płcią, kulturą lub religią.

5. Brak bezpieczeństwa i zarządzania kryzysowego: odmowa zajęcia się wrażliwymi kwestiami, brak skierowania użytkowników do odpowiedniej pomocy lub nieodpowiednia reakcja na kryzysy, w tym myśli samobójcze.

Naukowcy podkreślają, że ich odkrycia nie sugerują, że sztuczna inteligencja nie ma miejsca w opiece psychiatrycznej. Narzędzia oparte na sztucznej inteligencji mogłyby pomóc w poszerzeniu dostępu, szczególnie dla osób, które borykają się z wysokimi kosztami lub ograniczoną dostępnością licencjonowanych specjalistów. Badanie podkreśla jednak potrzebę wprowadzenia jasnych zabezpieczeń, odpowiedzialnego wdrożenia i silniejszych struktur regulacyjnych, zanim będzie można polegać na tych systemach w sytuacjach wysokiego ryzyka.

Link do badań: klik