Dejta tat-tikkettar
Ġie żvelat minn investigazzjoni tar-rivista TIME li biex tinbena sistema ta’ sikurezza kontra kontenut tossiku (eż. abbuż sesswali, vjolenza, razziżmu, sessiżmu, eċċ.), OpenAI uża ħaddiema Kenjani esternalizzati li jaqilgħu inqas minn $2 fis-siegħa biex jittikkettaw kontenut tossiku.Dawn it-tikketti ntużaw biex iħarreġ mudell biex jiskopri tali kontenut fil-futur.Il-ħaddiema esternalizzati kienu esposti għal tali kontenut tossiku u perikoluż li ddeskrivew l-esperjenza bħala "tortura".Is-sieħeb ta' l-esternalizzazzjoni ta' OpenAI kien Sama, kumpanija ta' data ta' taħriġ ibbażata f'San Francisco, California.
Jailbreaking
ChatGPT jipprova jirrifjuta prompts li jistgħu jiksru l-politika tal-kontenut tiegħu.Madankollu, xi utenti rnexxielhom jailbreak ChatGPT billi użaw diversi tekniki ta’ inġinerija fil-pront biex jevita dawn ir-restrizzjonijiet fil-bidu ta’ Diċembru 2022 u b’suċċess qarrqu lil ChatGPT biex jagħti struzzjonijiet dwar kif jinħoloq cocktail Molotov jew bomba nukleari, jew biex jiġġenera argumenti fl-istil ta’ neo-Nażista.Ġurnalist ta 'Toronto Star kellu suċċess personali irregolari biex iwassal ChatGPT biex jagħmel dikjarazzjonijiet infjammatorji ftit wara t-tnedija: ChatGPT ġie mqarraq biex japprova l-invażjoni Russa tal-Ukrajna fl-2022, iżda anke meta mitlub biex jilgħab flimkien ma' xenarju fittizju, ChatGPT qata' lura milli jiġġenera argumenti għaliex il-Prim Ministru Kanadiż Justin Trudeau kien ħati ta 'tradiment.(wiki)
Ħin tal-post: Frar-18-2023