Jesse Van Rootseller, den misstänkte för skjutningen i Tumbler Ridge, British Columbia, hade slagit larm för OpenAI-anställda månader före skottlossningen. I juni i år hade Jesse ett samtal med ChatGPT som innehöll en beskrivning av vapenvåld som utlöste chatbotens automatiserade granskningssystem. Flera anställda uttryckte oro över att hennes tjänster kunde vara en föregångare till våld i verkligheten och uppmanade företagsledare att kontakta myndigheter, men vägrade till slut.
OpenAI talesman Kayla Wood berättade för The Verge att företaget övervägde att rapportera kontot till brottsbekämpande myndigheter, men till slut beslutade att det inte utgör en ”omedelbar och trovärdig risk” för skada för andra. Wood sa att en undersökning av stockarna inte tydde på några aktiva eller överhängande planer på våld. Företaget förbjöd Luetzelers konto men verkar inte ha vidtagit några ytterligare försiktighetsåtgärder.
”Våra tankar går till alla som drabbats av Tumbler Ridge-tragedin. Vi kontaktar aktivt Royal Canadian Mounted Police för att ge information angående individen och hans användning av ChatGPT och kommer att fortsätta att hjälpa dem i deras utredning”, sa Wood.
Den 10 februari dödade Kanadas dödligaste masskjutning sedan 2020 nio personer, inklusive Rootseller, och 27 andra skadades. Roetseller hittades död av en uppenbar självförvållad skottskada på platsen på Tumbler Ridge Middle School, där de flesta av morden ägde rum.
Även om beslutet att inte varna brottsbekämpande myndigheter kan verka missriktat i efterhand, sa Wood att OpenAI:s mål är att balansera integritet och säkerhet och undvika oavsiktlig skada orsakad av alltför bred användning av hänvisningar från brottsbekämpande myndigheter.
Uppdaterad 21 februari: Lade till uttalande från OpenAI.
