ChatGPT bo uvedel starševski nadzor po tragičnem primeru v ZDA
Podjetje OpenAI, razvijalec priljubljenega klepetalnega robota ChatGPT, je napovedalo uvedbo starševskega nadzora. Novost prihaja po vloženi tožbi staršev iz Kalifornije, ki za sinov samomor krivita umetno inteligenco. V podjetju priznavajo, da varnostni mehanizmi niso vedno delovali, kot bi morali.
V naslednjih mesecih bodo starši dobili možnost povezati svoj uporabniški račun z računom svojega najstnika, so zapisali v objavi na blogu OpenAI. Nov sistem bo omogočal prilagoditev pravil interakcije med ChatGPT in mladoletnim uporabnikom, glede na njegovo starost. Starši bodo tudi prejemali obvestila, če bo umetna inteligenca zaznala, da je otrok "v hudi stiski".
Odločitev sledi pretresljivemu dogodku – starša 16-letnega fanta iz Kalifornije sta prejšnji teden na zveznem sodišču vložila tožbo proti OpenAI. V njej trdita, da je ChatGPT njunemu sinu dal navodila za samomor in ga k dejanju celo spodbudil. Poleg denarne odškodnine zahtevata tudi uvedbo zaščitnih ukrepov, med drugim samodejno prekinitev pogovorov z vsebinami o samopoškodovanju in obvezen starševski nadzor.
V OpenAI priznavajo, da njihovi modeli niso vedno ravnali ustrezno. Čeprav je ChatGPT usposobljen, da uporabnikom s samomorilnimi mislimi priporoča pogovor s strokovnjaki, so v podjetju ugotovili, da so varnostni mehanizmi pogosto zatajili, zlasti v daljših in kompleksnejših izmenjavah.
Kot poudarjajo, si bodo prizadevali za izboljšanje prepoznavanja duševnih stisk ter odzivanja nanje, saj se zavedajo odgovornosti, ki jo nosi razvoj in uporaba umetne inteligence. Uvedba starševskega nadzora naj bi bila prvi večji korak v tej smeri.
