Дапамажыце dev.by 🤍
Падтрымаць

Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT

Кампанія прыцягвае сотні падрадчыкаў для праверкі рэальных размоваў карыстальнікаў з ChatGPT, высветліла 404 Media. Супрацоўнікі ацэньваюць адказы мадэлі і дапамагаюць зрабіць іх менш ліслівымі.

Пакінуць каментарый
Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT

Кампанія прыцягвае сотні падрадчыкаў для праверкі рэальных размоваў карыстальнікаў з ChatGPT, высветліла 404 Media. Супрацоўнікі ацэньваюць адказы мадэлі і дапамагаюць зрабіць іх менш ліслівымі.

Унутры кампаніі гэты праект называецца Project Lily. Падрадчыкі могуць бачыць не толькі асобныя запыты, але і цэлыя дыялогі. У іх часам сустракаюцца адчувальныя асабістыя дадзеныя — нягледзячы на тое, што OpenAI імкнецца папярэдне выдаляць інфармацыю, паводле якой можна ідэнтыфікаваць карыстальніка.

«Не, я не думаю, што карыстальнікі ўяўляюць, што нейкі падрадчык дзесь аналізуе іхныя размовы», — расказаў выданню адзін з удзельнікаў праекта.

Паводле крыніц, рэв’юеры ацэньваюць адказы ChatGPT па шкале ад аднаго да сямі і пакідаюць заўвагі. Сярод задач — навучыць мадэль менш пагаджацца з карыстальнікам дзеля адабрэння і не прыпісваць сабе чалавечыя пачуцці і ўласцівасці.

OpenAI сцвярджае, што падрадчыкі не бачаць імёны акаўнтаў, а перад перадачай дыялогаў сістэма прапускае іх праз фільтр персанальных дадзеных. Аднак кампанія прызнае, што фільтрацыя можа спрацоўваць не заўсёды.

Падрадчыкаў набіраюць праз кампанію Crossing Hurdles, а выплаты праходзяць праз платформу Mercor, піша 404 Media. Адзін з рэв’юераў з Паўночнай Амерыкі паведаміў, што атрымлівае больш за $50 у гадзіну.

Карыстальнікі могуць адключыць опцыю Improve the model for everyone у наладах ChatGPT — тады новыя размовы не будуць выкарыстоўвацца для паляпшэння мадэляў. OpenAI таксама прапануе Temporary Chat, змесціва якога, паводле заявы кампаніі, не выкарыстоўваецца для навучання.

Пры гэтым магчымасць прагляду дадзеных людзьмі не з’яўляецца навіной: у FAQ OpenAI гаворыцца, што ўпаўнаважаныя супрацоўнікі і пастаўшчыкі паслуг могуць атрымліваць доступ да карыстальніцкіх дадзеных для паляпшэння працы мадэляў. 404 Media адзначае, што гэтае папярэджанне існуе як мінімум з 2023 года, але схавана глыбока ў даведачных матэрыялах.

Падобную практыку выкарыстоўвае і Anthropic. Кампанія пацвердзіла выданню, што людзі таксама правяраюць адказы Claude для паляпшэння будучых мадэляў, калі карыстальнік уключыў адпаведную наладу перадачы дадзеных.

Рынак найму закруціла ў «ІІ-пятлю» — як з яе выбрацца, пакуль незразумела
Рынак найму закруціла ў «ІІ-пятлю» — як з яе выбрацца, пакуль незразумела
Па тэме
Рынак найму закруціла ў «ІІ-пятлю» — як з яе выбрацца, пакуль незразумела
Revolut аддаў даныя кліентаў па фальшывых запытах — цяпер хакеры патрабуюць $780 млн
Revolut аддаў даныя кліентаў па фальшывых запытах — цяпер хакеры патрабуюць $780 млн
Па тэме
Revolut аддаў даныя кліентаў па фальшывых запытах — цяпер хакеры патрабуюць $780 млн
Звольнены айцішнік стварыў базу калег па няшчасці — большасць ужо знайшлі новую працу
Звольнены айцішнік стварыў базу калег па няшчасці — большасць ужо знайшлі новую працу
Па тэме
Звольнены айцішнік стварыў базу калег па няшчасці — большасць ужо знайшлі новую працу
Чытайце таксама
OpenAI: ChatGPT эканоміць працаўнікам да 10 гадзін на тыдзень
OpenAI: ChatGPT эканоміць працаўнікам да 10 гадзін на тыдзень
OpenAI: ChatGPT эканоміць працаўнікам да 10 гадзін на тыдзень
OpenAI губляе вядучых спецыялістаў
OpenAI губляе вядучых спецыялістаў
OpenAI губляе вядучых спецыялістаў
Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT
Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT
Сотні супрацоўнікаў OpenAI чытаюць вашы чаты ў ChatGPT
Падрадчыкаў OpenAI звальняюць за выкарыстанне ШІ пры навучанні ШІ
Падрадчыкаў OpenAI звальняюць за выкарыстанне ШІ пры навучанні ШІ
Падрадчыкаў OpenAI звальняюць за выкарыстанне ШІ пры навучанні ШІ

Хочаце паведаміць важную навіну? Пішыце ў Telegram-бот

Галоўныя падзеі і карысныя спасылкі ў нашым Telegram-канале

Абмеркаванне
Каментуйце без абмежаванняў

Рэлацыраваліся? Цяпер вы можаце каментаваць без верыфікацыі акаўнта.

Каментарыяў пакуль няма.