Николай Чикишев 1 чэрвеня 2023, 17:13

OpenAI прапанавала спосаб змагацца з «галюцынацыямі» ChatGPT

Кампанія прапанавала спосаб барацьбы з так званымі «галюцынацыямі» штучнага інтэлекту, калі чат-боты цалкам фабрыкуюць інфармацыю. Эксперты сумняваюцца ў паспяховасці такога падыходу.

1 каментарый

OpenAI прапанавала спосаб змагацца з «галюцынацыямі» ChatGPT

Кампанія прапанавала спосаб барацьбы з так званымі «галюцынацыямі» штучнага інтэлекту, калі чат-боты цалкам фабрыкуюць інфармацыю. Эксперты сумняваюцца ў паспяховасці такога падыходу.

«Нават самыя сучасныя АІ-мадэлі схільныя выдаваць ілжывыя звесткі. Яны дэманструюць тэндэнцыю выдумляць факты ў моманце нявызначанасці. Гэтыя галюцынацыі выклікаюць шмат праблем у галінах, якія патрабуюць шматступеньчатых разваг, паколькі адной лагічнай памылкі дастаткова, каб сарваць значна маштабнейшае рашэнне», — гаворыцца ў справаздачы OpenAI.

Распрацоўшчыкі ChatGPT вырашылі ўжыць новую стратэгію барацьбы з ілжывымі сцверджаннямі чат-бота: навучаць мадэлі АІ узнагароджваць сябе за кожны асобны правільны крок разваг, калі яны прыходзяць да адказу, замест таго каб узнагароджваць толькі за правільную канчатковую выснову.

На думку матэматыка OpenAI Карла Кобэ, выяўленне і змякчэнне лагічных памылак мадэлі, або галюцынацый, з’яўляецца крытычным крокам на шляху да стварэння ўзгодненага AGI — штучнага інтэлекту агульнага прызначэння. Навуковец дадаў, што OpenAI адкрыла доступ да суправаджальнага набору даных з 800 тысяч метак, якія яна выкарыстоўвала для навучання спецыяльнай мадэлі.