OpenAI lanserar säkerhetsfunktion för självmordsrisk

Vad har hänt

OpenAI har lanserat en ny säkerhetsfunktion i ChatGPT kallad "Trusted Contact". Denna funktion är avsedd att proaktivt skydda användare genom att meddela en förbestämd kontaktperson om ChatGPT identifierar tecken på självskadebeteende eller självmordstankar i en användares konversationer. Rollen för den betrodda kontakten blir att snabbt kunna agera och potentiellt erbjuda den hjälp som behövs. Funktionen har utvecklats som en del av OpenAIs bredare satsningar på säkerhet och användarskydd.

Varför det spelar roll

Införandet av "Trusted Contact" markerar ett steg för OpenAI att ta ett större ansvar för användarnas välmående, särskilt i dialoger som kan röra sig mot känsliga ämnen som självskadebeteende. Genom att involvera en betrodd kontaktperson skapas ett ytterligare skyddsnät utöver de befintliga säkerhetsmekanismerna. Detta är en viktig utveckling då AI-chattbotar blir alltmer integrerade i människors liv, och därmed även hanterar allt mer komplext och potentiellt sårbart innehåll.

Vem påverkas

Användare av ChatGPT påverkas direkt, särskilt de som potentiellt kan befinna sig i en sårbar situation. Funktionen riktar sig även till de personer som utses till "Trusted Contact", då de får en aktiv roll i användarsäkerheten. Även tredje parter som arbetar med psykisk hälsa kan påverkas, då OpenAI, genom denna funktion, kan bidra till att förebygga allvarliga situationer.

EU-status

Ej relevant för EU-status.

Mer att veta

Denna funktion bygger vidare på tidigare initiativ från OpenAI för att hantera riskfyllda användarkonversationer, och syftar till att komplettera snarare än ersätta professionella stödinsatser.