Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT
Кампанія прыцягвае сотні падрадчыкаў для праверкі рэальных размоваў карыстальнікаў з ChatGPT, высветліла 404 Media. Супрацоўнікі ацэньваюць адказы мадэлі і дапамагаюць зрабіць іх менш ліслівымі.
Кампанія прыцягвае сотні падрадчыкаў для праверкі рэальных размоваў карыстальнікаў з ChatGPT, высветліла 404 Media. Супрацоўнікі ацэньваюць адказы мадэлі і дапамагаюць зрабіць іх менш ліслівымі.
Кампанія прыцягвае сотні падрадчыкаў для праверкі рэальных размоваў карыстальнікаў з ChatGPT, высветліла 404 Media. Супрацоўнікі ацэньваюць адказы мадэлі і дапамагаюць зрабіць іх менш ліслівымі.
Унутры кампаніі гэты праект называецца Project Lily. Падрадчыкі могуць бачыць не толькі асобныя запыты, але і цэлыя дыялогі. У іх часам сустракаюцца адчувальныя асабістыя дадзеныя — нягледзячы на тое, што OpenAI імкнецца папярэдне выдаляць інфармацыю, паводле якой можна ідэнтыфікаваць карыстальніка.
«Не, я не думаю, што карыстальнікі ўяўляюць, што нейкі падрадчык дзесь аналізуе іхныя размовы», — расказаў выданню адзін з удзельнікаў праекта.
Паводле крыніц, рэв’юеры ацэньваюць адказы ChatGPT па шкале ад аднаго да сямі і пакідаюць заўвагі. Сярод задач — навучыць мадэль менш пагаджацца з карыстальнікам дзеля адабрэння і не прыпісваць сабе чалавечыя пачуцці і ўласцівасці.
OpenAI сцвярджае, што падрадчыкі не бачаць імёны акаўнтаў, а перад перадачай дыялогаў сістэма прапускае іх праз фільтр персанальных дадзеных. Аднак кампанія прызнае, што фільтрацыя можа спрацоўваць не заўсёды.
Падрадчыкаў набіраюць праз кампанію Crossing Hurdles, а выплаты праходзяць праз платформу Mercor, піша 404 Media. Адзін з рэв’юераў з Паўночнай Амерыкі паведаміў, што атрымлівае больш за $50 у гадзіну.
Карыстальнікі могуць адключыць опцыю Improve the model for everyone у наладах ChatGPT — тады новыя размовы не будуць выкарыстоўвацца для паляпшэння мадэляў. OpenAI таксама прапануе Temporary Chat, змесціва якога, паводле заявы кампаніі, не выкарыстоўваецца для навучання.
Пры гэтым магчымасць прагляду дадзеных людзьмі не з’яўляецца навіной: у FAQ OpenAI гаворыцца, што ўпаўнаважаныя супрацоўнікі і пастаўшчыкі паслуг могуць атрымліваць доступ да карыстальніцкіх дадзеных для паляпшэння працы мадэляў. 404 Media адзначае, што гэтае папярэджанне існуе як мінімум з 2023 года, але схавана глыбока ў даведачных матэрыялах.
Падобную практыку выкарыстоўвае і Anthropic. Кампанія пацвердзіла выданню, што людзі таксама правяраюць адказы Claude для паляпшэння будучых мадэляў, калі карыстальнік уключыў адпаведную наладу перадачы дадзеных.



Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.