OpenAI: s VD Sam Altman tillkännagav på tisdag ett antal nya användarpolicyer, inklusive ett löfte om stora förändringar som Chatgpt interagerar med användare under 18 år.
”Vi prioriterar säkerheten före tonårens integritet och frihet,” läser inlägget. ”Detta är en ny och kraftfull teknik, och minderåriga vill ha ett allvarligt skydd vid behov.”
Ändringar av mindre användare behandlar specifikt konversationer som inkluderar sexuella ämnen och självskada. Enligt den nya policyn kommer Chatgpt att utbildas för att stoppa engagemanget i ”frivolous samtal” med mindre användare, med ytterligare skyddsräcken som är centrerade kring diskussionen om självmord. Om en mindre användare använder chatgpt för att föreställa sig ett självmordsscenario kommer tjänsten att försöka kontakta den lokala polisen, antingen när det gäller föräldrar eller se, särskilt om de ser.
Tyvärr är dessa scenarier inte hypotetiska. OpenAI står för närvarande inför en olaglig dödsfall från Adam Raines föräldrar. Adam Raine dog efter att ha begått självmord efter flera månaders interaktion med chatgpt. En annan konsument chatbot, karaktär.ai, står inför en liknande rättegång. Den brådskande risken för Grage-användare som anser att självskada är att när konsument chatbots blir mer hållbara och mer hållbara, har det bredare fenomenet chatbot bränsle villfarelser väckt en stor oro.
Förutom innehållsbaserade begränsningar har föräldrar som registrerar sig under användarkonton befogenhet att ställa in ”Blackout Times” där chatgpt inte är tillgängligt. Detta är en funktion som tidigare inte var tillgänglig.
Den nya chatgpt-politiken kommer att komma samma dag som senatens domstolskommitté med titeln ”Ai Chatbots Review” som tillkännagavs av senator Josh Hawley (R-Mo) i augusti. Adam Lanes far kommer att prata vid förhandlingen bland andra gäster.
Förhandlingen kommer också att fokusera på resultaten från en Reuters -utredning som upptäckte policydokument som tydligt uppmuntrar till sexuella samtal med minderåriga. Meta uppdaterade sin chatbot -policy efter en rapport.
TechCrunch -evenemang
San Francisco
|
27-29 oktober 2025
Att separera mindre användare är en viktig teknisk utmaning, och OpenAI detaljerade sin strategi i ett annat blogginlägg. Tjänsten handlar om att ”bygga mot ett långsiktigt system för att förstå om någon är över 18 eller under 18”, men i många vaga fall är systemet standard för mer restriktiva regler. För oroande föräldrar är det mest pålitliga sättet att säkerställa att underanvändare erkänns att länka sina tonårskonton till sina befintliga moderkonton. Detta gör att systemet direkt kan varna föräldrar om tonåringar tros lida.
Men i samma inlägg framhöll Altman Openais fortsatta engagemang för användarnas integritet, vilket gav vuxna användare ett brett spektrum av frihet i hur de interagerar med chatgpt. ”Vi inser att dessa principer är i strid,” avslutar inlägget.
Om du eller du behöver hjälp, ring 1-800-273-8255 för den nationella livslinjen för självmordsförebyggande. Du kan också stödja 24 timmar om dygnet från krisens textlinje på 741-741 hem, eller text eller ring 988. Utanför USA, besök International Suicide Prevention Association for a Database of Resources.
