ChatGPT lanserar betrodd kontakt för självmordsprevention

Vad har hänt

OpenAI har lanserat funktionen "Trusted Contact" i ChatGPT. Denna tilläggsfunktion är utformad för att automatiskt meddela en utsedd, betrodd kontakt om AI-systemet identifierar tecken på allvarliga självskadetankar hos användaren under en konversation. Funktionen är valfri och måste aktiveras av användaren.

Varför det spelar roll

Initiativet syftar till att förstärka säkerhetsnätet kring ChatGPT:s användare. Genom att involvera en betrodd person kan OpenAI erbjuda ett extra lager av stöd i potentiellt farliga situationer, och bidra till tidig intervention vid psykisk ohälsa eller kris. Det reflekterar en växande medvetenhet om AI-verktygens etiska ansvar och potential att påverka användarnas välbefinnande.

Vem påverkas

Funktionen riktar sig primärt till ChatGPT-användare som kan uppleva psykisk ohälsa eller vara i kris. Deras betrodda kontakter påverkas även, då de får en notifiering om en potentiellt allvarlig situation. OpenAI som utvecklare av systemet har implementerat detta som en del av sitt säkerhets- och etikarbetet. Även tredje parts utvecklare som bygger applikationer ovanpå OpenAI:s modeller kan dra lärdom av denna typ av säkerhetsfunktioner.

EU-status

Funktionen är globalt tillgänglig och därmed även för användare inom EU. Implementeringen måste likt all behandling av personuppgifter följa dataskyddsförordningen (GDPR), särskilt med tanke på den känsliga karaktären av informationen som kan hanteras.

Mer att veta

OpenAI understryker att "Trusted Contact" är ett komplement till befintliga säkerhetsåtgärder och professionell hjälp. Användare uppmanas att även söka direkt stöd från vårdpersonal vid behov.