Share This Article
Na een schietpartij met acht doden in Canada ligt OpenAI, moederbedrijf van ChatGPT, onder vuur. De 18-jarige schutter had eerder gesprekken met ChatGPT over wapengeweld. Intern werden die gesprekken als zorgwekkend gezien. Medewerkers dachten erover de politie in te schakelen, maar dat gebeurde uiteindelijk niet.
Voor OpenAI gevoelige kwestie
Lastig bepalen
Het bedrijf gaf aan dat er geen duidelijke aanwijzingen waren dat er echt gevaar dreigde. De situatie roept veel vragen op over de rol van technologiebedrijven. Wanneer moeten ze ingrijpen en wanneer niet? Voor OpenAI is dit een gevoelige kwestie: enerzijds wil het bedrijf veiligheid serieus nemen, anderzijds is het lastig te bepalen wanneer een gesprek daadwerkelijk een gevaar vormt.
Grote gevolgen
De Canadese overheid wil duidelijkheid over de regels en het beleid rondom veiligheid en kunstmatige intelligentie ofwel AI. De zaak kan grote gevolgen hebben voor hoe technologiebedrijven omgaan met signalen van gevaar in de toekomst.
