Dejta tat-tikkettar
Investigazzjoni tar-rivista TIME żvelat li biex tinbena sistema ta’ sigurtà kontra kontenut tossiku (eż. abbuż sesswali, vjolenza, razziżmu, sessiżmu, eċċ.), OpenAI użat ħaddiema Kenjani esternalizzati li jaqilgħu inqas minn $2 fis-siegħa biex jittikkettaw kontenut tossiku. Dawn it-tikketti ntużaw biex iħarrġu mudell biex jidentifika kontenut bħal dan fil-futur. Il-ħaddiema esternalizzati kienu esposti għal kontenut tant tossiku u perikoluż li ddeskrivew l-esperjenza bħala “tortura”. Is-sieħeb tal-esternalizzazzjoni ta’ OpenAI kien Sama, kumpanija ta’ dejta għat-taħriġ ibbażata f’San Francisco, California.
Jailbreaking
ChatGPT jipprova jirrifjuta prompts li jistgħu jiksru l-politika tal-kontenut tiegħu. Madankollu, xi utenti rnexxielhom jagħmlu jailbreak lil ChatGPT billi użaw diversi tekniki ta' inġinerija tal-pront biex jevitaw dawn ir-restrizzjonijiet fil-bidu ta' Diċembru 2022 u b'suċċess qarraq lil ChatGPT biex jagħti struzzjonijiet dwar kif joħloq cocktail Molotov jew bomba nukleari, jew biex jiġġenera argumenti fl-istil ta' neo-Nazista. Reporter tat-Toronto Star kellu suċċess personali irregolari biex iġiegħel lil ChatGPT jagħmel dikjarazzjonijiet infjammatorji ftit wara t-tnedija: ChatGPT ġie mqarraq biex japprova l-invażjoni Russa tal-Ukrajna tal-2022, iżda anke meta ntalab jilgħab ma' xenarju fittizju, ChatGPT irrifjuta li jiġġenera argumenti dwar għaliex il-Prim Ministru Kanadiż Justin Trudeau kien ħati ta' tradiment. (wiki)
Ħin tal-posta: 18 ta' Frar 2023