OpenAI-schoolschietpartijzaak roept nieuwe vragen op over AI-veiligheidswaarschuwingen en politiemeldingen

AI-veiligheidspraktijken worden kritisch bekeken na de OpenAI-schoolschietpartij met een Canadese verdachte wiens online activiteit maanden vóór de aanval werd gemarkeerd.

OpenAI markeerde verdachte maanden vóór Tumbler Ridge-aanval

ChatGPT-maker OpenAI onthulde dat het het account van Jesse Van Rootselaar in juni 2025 identificeerde via zijn misbruikdetectiesystemen voor "bevordering van gewelddadige activiteiten". Het in San Francisco gevestigde techbedrijf concludeerde echter destijds dat de activiteit niet voldeed aan zijn interne drempel voor doorverwijzing naar wetshandhaving.

Het bedrijf zei dat het specifiek overwoog of het de Royal Canadian Mounted Police (RCMP) moest waarschuwen over het account. Bovendien besloot het niet door te gaan, oordelend dat de signalen niet wezen op een dreigend en geloofwaardig plan om ernstige fysieke schade te veroorzaken.

OpenAI verbood vervolgens het account in juni 2025 wegens schending van zijn gebruiksbeleid. Die beslissing kwam maanden voordat de tragedie zich zou ontvouwen in een afgelegen deel van British Columbia.

Dodelijke schoolschietpartij in British Columbia

De 18-jarige verdachte voerde later een aanval uit op een school in het kleine stadje Tumbler Ridge, waarbij acht mensen omkwamen voordat ze overleed aan een zelf toegebrachte schotwond. Het incident, vorige week gemeld, is een van de ergste schoolschietpartijen in de geschiedenis van Canada en heeft het debat over hoe techbedrijven omgaan met risicogedrag van gebruikers geïntensiveerd.

Volgens de RCMP doodde Van Rootselaar eerst haar moeder en stiefbroer in het familiehuis voordat ze de nabijgelegen school aanviel. Bovendien zei de politie dat de schutter een eerdere geschiedenis had van op geestelijke gezondheid gerelateerde contacten met wetshandhaving, hoewel de specifieke aard van die interacties niet werd gedetailleerd.

De politie meldde dat de slachtoffers een 39-jarige onderwijsassistent en vijf studenten van 12 tot 13 jaar omvatten. De stad, met ongeveer 2.700 inwoners in de Canadese Rockies, ligt meer dan 1.000 km ten noordoosten van Vancouver, nabij de grens met Alberta.

OpenAI's wetshandhavingsdrempel en reactie

Bij de toelichting op zijn beslissing om niet eerder de autoriteiten te benaderen, zei OpenAI dat zijn standaard voor het contacteren van wetshandhaving zich richt op de vraag of een zaak een dreigend en geloofwaardig risico van ernstige fysieke schade aan anderen inhoudt. Destijds, zei het bedrijf, identificeerde het geen concrete of dreigende planning die een dergelijke doorverwijzing zou hebben geactiveerd.

Het bedrijf merkte op dat deze doorverwijzingsdrempel bedoeld is om de privacy van gebruikers in evenwicht te brengen met veiligheidsverplichtingen. De onthulling heeft echter nieuwe vragen opgeroepen over de vraag of bestaande criteria voor escalatie adequaat zijn wanneer vroege waarschuwingssignalen opduiken in gebruikersinteracties met AI-tools zoals ChatGPT.

Nadat het nieuws van de schoolschietpartij uitlekte, contacteerden medewerkers van OpenAI de RCMP met details over Van Rootselaar en de historische activiteit die met het account werd geassocieerd. De Wall Street Journal was de eerste die berichtte over de interne beraadslagingen van het bedrijf en daaropvolgende contacten.

Bedrijfsverklaring na de Tumbler Ridge-tragedie

In een openbare verklaring zei een OpenAI-woordvoerder: "Onze gedachten zijn bij iedereen die getroffen is door de Tumbler Ridge-tragedie. We hebben proactief contact opgenomen met de Royal Canadian Mounted Police met informatie over het individu en hun gebruik van ChatGPT, en we zullen hun onderzoek blijven ondersteunen." Bovendien benadrukte het bedrijf zijn voortdurende samenwerking met Canadese autoriteiten.

Dat gezegd hebbende, blijft het motief voor de schietpartij onduidelijk, en onderzoekers hebben nog niet onthuld welke, indien enige, directe link bestaat tussen de interacties van de verdachte met ChatGPT en de uiteindelijke aanval. De zaak heeft niettemin de wereldwijde aandacht verscherpt op hoe AI-platforms potentiële bedreigingen detecteren, beoordelen en erop reageren.

Canada's dodelijkste razernij sinds 2020

Autoriteiten beschreven de Tumbler Ridge-aanval als Canada's dodelijkste dergelijke razernij sinds 2020, toen een schutter in Nova Scotia 13 mensen doodde en branden stichtte die de dood van nog eens negen mensen veroorzaakten. De recente gebeurtenis heeft echter een toegevoegde dimensie omdat het zich kruist met de evoluerende verantwoordelijkheden van AI-providers.

Terwijl beleidsmakers en wetshandhaving de omstandigheden herzien, zal de OpenAI-schoolschietpartij-episode waarschijnlijk het debat aanwakkeren over wanneer en hoe AI-bedrijven zorgwekkend gebruikersgedrag naar autoriteiten moeten escaleren, en of bestaande doorverwijzingsnormen opkomende digitale risico's voldoende aanpakken.

Samenvattend benadrukt de tragedie in British Columbia het complexe evenwicht tussen privacy, risicobeoordeling en openbare veiligheid terwijl AI-platforms diep verankerd raken in het dagelijks leven, wat zowel toezichthouders als technologiebedrijven dwingt hun protocollen voor het omgaan met potentiële bedreigingen te heroverwegen.