«Мы были неправы»: OpenAI отказалась от принципа открытости кода
На этой неделе OpenAI анонсировала новейшую версию языковой модели GPT. Несмотря на название организации, экспертное сообщество было раздосадовано отсутствием технических подробностей в сопровождающих GPT-4 материалах. В них широко представлены результаты тестов и примеры работы, но практически ничего не сказано о том, какие датасеты использовались для тренировки системы, энергозатраты, размер модели, какое оборудование и методы применялись при разработке.
Многие в ИИ-комьюнити отметили, что такая закрытость противоречит тем принципам, на основе которых создавалась OpenAI. Кроме того, это усложняет попытки воспроизвести результаты её исследований и разработку «противоядий» от потенциальных угроз, которые могут таить подобные ИИ-системы.
Сооснователь OpenAI Илья Суцкевер в интервью The Verge заявил, что организация поскупилась на информацию о GPT-4 из-за опасений по поводу конкуренции и безопасности — причины, которые он назвал «очевидными».
Насчёт конкуренции он сказал, что разработка GPT-4 сложна и требует много времени. Между тем есть много компаний, которые хотели бы иметь такую же технологию, и это можно рассматривать как процесс становления сферы. Что касается безопасности, модели становятся всё мощнее и мощнее, и может наступить момент, когда при желании с помощью них можно будет запросто причинить людям огромный вред. И по мере обретения моделями все больших способностей «вполне логично, что их не следует раскрывать».
OpenAI была основана в 2015 году её нынешним гендиректором Сэмом Альтманом, Илоном Маском, который ушёл из правления спустя три года, и Суцкевером. Её целью было разрабатывать полезный ИИ «для всех, а не для акционеров». Также она обещала «открыто сотрудничать» с другими участниками ИИ-сообщества. OpenAI создавалась как некоммерческая организация, но позже изменила этому принципу ради привлечения инвестиций. Маск недавно раскритиковал OpenAI за то, что она стала всем тем, чем обещала не быть.
«Мы были неправы. Если вы, как и мы, верите, что однажды ИИ станет невероятно мощным, тогда просто нет смысла делать его открытым. Это плохая идея… Я вполне рассчитываю, что через несколько лет всем станет совершенно очевидно, что ИИ с открытым кодом — это просто неразумно», — ответил Суцкевер на вопрос о смене курса.
О тренировочных данных он пространно сказал, что считает их «технологией», и не раскрывают их по той же причине, что и количество параметров. Он согласился с критиками, которые утверждают, что если дать модели в руки как можно большего числа людей, то они будут лучше изучены. И добавил, что доступ к разработкам OpenAI предоставили ряду академических и исследовательских учреждений.
Читать на dev.by