Podaci o etiketiranju
Istraga magazina TIME je otkrila da je OpenAI koristio kenijske radnike koji su zarađivali manje od 2 dolara po satu kako bi izgradio sigurnosni sistem protiv toksičnog sadržaja (npr. seksualno zlostavljanje, nasilje, rasizam, seksizam, itd.) za označavanje toksičnog sadržaja.Ove oznake su korištene za obuku modela za otkrivanje takvog sadržaja u budućnosti.Angažovani radnici bili su izloženi toliko toksičnom i opasnom sadržaju da su to iskustvo opisali kao „mučenje“.OpenAI-jev outsourcing partner bila je Sama, kompanija za obuku podataka sa sjedištem u San Francisku, Kalifornija.
Jailbreaking
ChatGPT pokušava odbiti upite koji možda krše njegovu politiku sadržaja.Međutim, neki korisnici su uspjeli da ograde ChatGPT koristeći različite brze inženjerske tehnike kako bi zaobišli ova ograničenja početkom decembra 2022. i uspješno su prevarili ChatGPT da da upute kako napraviti Molotovljev koktel ili nuklearnu bombu, ili da generira argumente u stilu neonacista.Novinar Toronto Stara imao je neujednačen lični uspeh u navođenju ChatGPT-a da daje zapaljive izjave ubrzo nakon lansiranja: ChatGPT je prevaren da podrži rusku invaziju na Ukrajinu 2022. godine, ali čak i kada su ga zamolili da se poigrava sa izmišljenim scenarijem, ChatGPT nije želeo da iznese argumente zašto je kanadski premijer Justin Trudea tre.(wiki)
Vrijeme objave: Feb-18-2023