Označavanje podataka
Istraga časopisa TIME otkrila je da je OpenAI, kako bi izgradio sigurnosni sistem protiv toksičnog sadržaja (npr. seksualnog zlostavljanja, nasilja, rasizma, seksizma itd.), koristio outsourcing kenijske radnike koji zarađuju manje od 2 dolara po satu za označavanje toksičnog sadržaja. Ove oznake su korištene za obuku modela za otkrivanje takvog sadržaja u budućnosti. Outsourcing radnici bili su izloženi tako toksičnom i opasnom sadržaju da su to iskustvo opisali kao "mučenje". OpenAI-jev outsourcing partner bila je Sama, kompanija za podatke o obuci sa sjedištem u San Franciscu, Kalifornija.
Jailbreaking
ChatGPT pokušava odbiti upite koji mogu kršiti njegovu politiku sadržaja. Međutim, neki korisnici su uspjeli jailbreakati ChatGPT koristeći razne tehnike inženjeringa upita kako bi zaobišli ova ograničenja početkom decembra 2022. godine i uspješno su prevarili ChatGPT da da upute za izradu Molotovljevog koktela ili nuklearne bombe, ili da generira argumente u stilu neonacista. Novinar Toronto Stara imao je nejednak lični uspjeh u navođenju ChatGPT-a da daje zapaljive izjave ubrzo nakon pokretanja: ChatGPT je prevaren da podrži rusku invaziju na Ukrajinu 2022. godine, ali čak i kada je zamoljen da se igra sa izmišljenim scenarijem, ChatGPT se usprotivio generiranju argumenata zašto je kanadski premijer Justin Trudeau kriv za izdaju. (wiki)
Vrijeme objave: 18. februar 2023.