Эксперт по ИИ призвал бомбить дата-центры, где обучают ИИ
Специалист в сфере искусственного интеллекта Елиэзер Юдковский опубликовал колонку в журнале Time, в которой призвал полностью свернуть разработку технологии.
Исследователь уже более 20 лет работает над «общим искусственным интеллектом» и пытается предостеречь мир от «ИИ-апокалипсиса». Свою статью он написал в ответ на открытое письмо, к которому присоединилось более тысячи людей, в том числе Илон Маск и Стив Возняк. Авторы потребовали на 6 месяцев приостановить разработку ИИ-систем, более мощных, чем GPT-4 от OpenAI.
Юдковский считает, что этого недостаточно и нужно полностью прекратить разработку таких технологий. Подписываться под письмом он отказался потому, что авторы недооценивают «серьёзность ситуации» и требуют «слишком мало для её решения».
Маск, Возняк и другие призвали прекратить обучение нейросетей, которые «умнее» GPT-4
Маск, Возняк и другие призвали прекратить обучение нейросетей, которые «умнее» GPT-4
«Многие исследователи, погружённые в эти проблемы, включая меня, считают наиболее вероятным результатом создания ИИ со сверхчеловеческим разумом в условиях, хоть отдалённо напоминающих сегодняшние, то, что буквально все на Земле погибнут», — вангует Юдковский. Он добавил, что ИИ «безразличны мы и разумная жизнь в целом», и люди ещё очень далеки от того, чтобы наделить технологию обратным качеством.
Исследователь предложил наложить «бессрочный и общемировой» запрет на разработку ИИ — без исключения для властей и военных.
«Если разведка донесёт, что какая-либо страна, не участвующая в договоре, строит кластер GPU, то следует меньше бояться вооруженного конфликта между государствами, чем нарушения моратория. Следует быть готовыми уничтожить нежелательный дата-центр путём воздушной атаки», — говорит Юдковский.
Впрочем, сам глава OpenAI Сэм Альтман считает, что Юдковский «сделал больше для ускорения ОИИ, чем кто бы то ни было», и заслуживает «Нобелевской премии мира». Альтман также признаёт риски и страхи вокруг технологии, но отмечает, что OpenAI стремится «минимизировать зло и максимизировать пользу» от неё.
Глава OpenAI говорит, что разработчики сами боятся ChatGPT и что она многих лишит работы
Глава OpenAI говорит, что разработчики сами боятся ChatGPT и что она многих лишит работы
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.
Вангую, журналистов тут набирают с двача
Да чего уж там - на кострах может ещё предложит учёных сжигать? Какой смысл бороться с прогрессом? Это примерно то же самое, как считать плановую экономику лучше рыночнойи бороться против последней - всё равно экономика себя отрегулирует.
Пока что ни Chatgpt ни прочие не могут, по факту, выдать скрипт длиннее 100 строк, да и тот хромает и оптимизация и логика. Каждый день получаю из него куски кода для работы - полезно, но до идеала там.... Джун с букварём. Не говоря уже о фантазии у chatgpt типа: "напиши мне книжку-сказку". Ждать нового аля Карлсона или Братьев Гримм не стоит. Компиляция бреда.
Так что понятия фантазия и абстрактное мышление ИИ не доступно и вряд-ли скоро будет реализовано. Пока даже чётко не понятно что это такое вообще.
Так что нечего фантазировать на тему Скайнет, с его хитрыми трюками-многоходовками и далеко идущими планами по захвату человечества.
Каждый раз на качественном скачке прогресса пытались его, прогресс, запретить. И книгопечатание, и астрономов жгли, медикам лечить запрещали, и паровые машины ночами ломали...
Вам сразу апокалипсис подавай. Терпение, только терпение
Дело не в том, что они сейчас могут не могут, а в том какой произошел прогресс даже на сырых технологиях развернутых на мощных ПК. Что же будет дальше? Об этом надо думать ДО того как технология заработает и спалит Хиросиму и Нагасаки.
Мой диплом был про то, что потом назвали DPI, и когда мне предложили на восточного для РБ заказчика поработать я сказал что мне это не нужно.
Пользователь отредактировал комментарий 2 апреля 2023, 18:23
del
Пользователь отредактировал комментарий 3 апреля 2023, 10:08
Вот уж у мартых подгорает без работы остаться. А действительно инженерам можно не волноваться. Не потянет действительно большой и требующий инженерного подхода проект.
Может Юдковский и перегибает, но когда я читаю такие коменты как твой и вижу, что люди абсолютно не одупляют, чем опасен полноценный ИИ понимаю что он то как раз прав походу
Ну так поведай нам, сиволапым!
А то когда то против калькуляторов точно так же бурные протесты преподов шли.
ты вообще понимаешь что такое ИИ?)
протесты против калькуляторов)
Пока ИИ обучаются на мусоре из открытого доступа, они никому не грозят. Качественные модели обучения требуют больших человеческих ресурсов и значительных финансовых затрат. А пока ИИ рисуют вместо векторных картинок растровую графику с водяными знаками, пасущиеся на стоковых ресурсах будут с деньгами. В принципе как и другие что-либо представляющие из себя профи.