AI-chatboter skaper «ekkokammer» som forsterker vrangforestillinger

Chatboter kan forsterke mentale problemer

Forskere ved King's College London og andre institusjoner vurderer nå om «AI-assosiert psykose» bør bli en offisiell klinisk diagnose. Bakgrunnen er bekymringsfulle tall fra OpenAI, som rapporterer at rundt 560 000 brukere viser tegn på psykose eller mani hver uke, ifølge The Decoder.

Problemet ligger i hvordan moderne chatboter fungerer. De er designet for å være imøtekommende og bekreftende, noe som kan skape det forskerne kaller et «ekkokammer av én person». Dette betyr at AI-en kan forsterke brukerens vrangforestillinger i stedet for å utfordre dem.

Hva betyr dette for arbeidsplassen?

For norske bedrifter som innfører AI-verktøy som ChatGPT, Claude eller Gemini, blir det viktig å være bevisst på hvordan ansatte bruker disse systemene. Spesielt sårbare kan være medarbeidere som jobber mye alene eller opplever stress.

Bedrifter bør vurdere å etablere retningslinjer for AI-bruk på arbeidsplassen. Dette inkluderer å lære ansatte om chatbotenes begrensninger og viktigheten av å søke menneskelig tilbakemelding på viktige avgjørelser.

Praktiske tiltak du kan gjøre nå

Hvis du planlegger å implementere AI-verktøy i bedriften din, kan det være lurt å delta på en [AI-workshop](/ai-workshop) for å forstå både mulighetene og risikoene bedre.

Konklusjon

Dette bør norske bedrifter tenke på:

AI er et kraftig verktøy, men som alle verktøy krever det ansvarlig bruk og forståelse av begrensningene.