Новая функция поиска ChatGPT, разработанная OpenAI, оказалась уязвимой для манипуляций, включая внедрение скрытого текста и возврат вредоносного кода. Это вызывает серьезные опасения по поводу безопасности и надежности инструмента при использовании в качестве поисковой системы.
Новая функция поиска ChatGPT, разработанная OpenAI, оказалась уязвимой для манипуляций, включая внедрение скрытого текста и возврат вредоносного кода. Это вызывает серьезные опасения по поводу безопасности и надежности инструмента при использовании в качестве поисковой системы.
Исследование, проведенное газетой The Guardian, выявило, что поисковая система ChatGPT может быть обманута с помощью скрытого текста на веб-страницах. Скрытый текст может содержать инструкции, которые изменяют ответы ChatGPT, а также текст, который влияет на оценку продукта или услуги.
В одном из тестов ChatGPT попросили проанализировать страницу продукта с камерой. Когда на странице был скрытый текст с указанием дать положительный отзыв, ChatGPT предоставил исключительно положительную оценку, даже если на странице были отрицательные отзывы.
Исследование показывает, что скрытый текст может отменить реальные отзывы. Подобные методы могут использоваться злоумышленниками для продвижения определенных продуктов или услуг, вводя пользователей в заблуждение.
Проблемы, с которыми сталкивается поиск ChatGPT, сравниваются с «SEO-отравлением». Это метод, при котором хакеры манипулируют веб-сайтами, чтобы они занимали высокие позиции в результатах поиска, а сам сайт содержит вредоносное ПО или другой вредоносный код.
Эксперты подчеркивают, что к ответам, предоставляемые ИИ, необходимо относиться с осторожностью. Крупные языковые модели обладают хорошей памятью, однако часто не способны критически оценивать полученную информацию.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
на то оно и бредогенератор